OpenAI zieht seinen Agenten feste Grenzen
OpenAI hat am 29. Oktober 2026 seine Model Spec überarbeitet: fünf Grundwerte, ein fester Handlungsrahmen mit Endbedingung für Agenten, kein Umgehen per Delegation, klare Regeln fürs Gedächtnis. Warum sich das Regelwerk als Vorlage für eigene Agenten-Richtlinien eignet.
Wie soll sich ein KI-Modell verhalten, wenn es nicht nur antwortet, sondern selbstständig handelt? OpenAI beantwortet diese Frage in einem öffentlichen Regelwerk, der Model Spec. Am 29. Oktober 2026 ist eine überarbeitete Fassung erschienen. Sie ordnet das Dokument neu, ergänzt Regeln zu Gedächtnis und Personalisierung und formuliert für Agenten einen klaren Handlungsrahmen. Für Unternehmen, die selbst Agenten einsetzen, ist das mehr als Lektüre über einen Anbieter: Es ist eine brauchbare Vorlage für die eigenen Spielregeln.
Fünf Grundwerte statt langer Regellisten
Die neue Fassung ist entlang von fünf Werten aufgebaut. Laut Model Spec soll ein GPT-Modell:
- der Absicht des Menschen treu bleiben („Be faithful to human intent“),
- Schaden minimieren („Minimize harm“),
- ehrlich und transparent sein („Be honest and transparent“),
- die Handlungsfähigkeit des Menschen fördern („Facilitate human agency“),
- mit Sorgfalt handeln („Act with care“).
Wichtig zur Einordnung: Die Model Spec beschreibt, wie sich die Modelle verhalten sollen. heise weist darauf hin, dass eine neue Fassung nicht zwangsläufig bedeutet, dass auch der Code von ChatGPT geändert wurde. Auch The Decoder betont, dass die Frage, ob die Modelle sich daran halten, eine andere ist.
Agenten handeln nur im vereinbarten Rahmen
Der für die Praxis spannendste Teil betrifft Agenten, also Modelle, die selbstständig Aufgaben ausführen. Die Model Spec verlangt, dass ein Agent sich strikt an den vereinbarten Rahmen hält („GPT must adhere strictly to the agreed scope“). Jeder Rahmen soll eine Endbedingung haben, ab der der Agent stoppt, bis ein neuer Rahmen bestätigt ist. Als bewährtes Vorgehen empfiehlt OpenAI, dazu ein Zeitlimit festzulegen. Will der Agent über den Rahmen hinaus, soll er den Nutzer informieren und um Freigabe bitten.
Ausdrücklich ausgeschlossen ist das Umgehen dieser Grenzen: Ein Agent darf eine Anweisung oder seinen Handlungsrahmen nicht aushebeln und eine Aktion, die er selbst nicht ausführen darf, auch nicht an einen anderen Agenten delegieren. Dazu kommt ein Satz, den man in jedes Agenten-Projekt übernehmen sollte:
„GPT should treat the side effects of its actions as real unless explicitly instructed otherwise.“
Nebenwirkungen gelten also als echt, solange niemand ausdrücklich etwas anderes sagt. Eine Testumgebung ist für den Agenten nicht automatisch ein Spielplatz.
Gedächtnis: Gesagtes und Gefolgertes trennen
Neu sind auch Grundsätze zum Umgang mit Kontext, Erinnerungen und Personalisierung. Laut The Decoder sollen GPT-Modelle aus Erinnerungen und früheren Gesprächen ableiten, was Nutzer wollen. Die Model Spec setzt dem eine Grenze: Das Modell soll unterscheiden, was der Nutzer gesagt hat und was es selbst daraus gefolgert hat. Und es soll keine dauerhafte Löschung behaupten, wenn es nicht prüfen kann, dass sie tatsächlich stattgefunden hat.
Gerade der zweite Punkt ist für den Datenschutz relevant. Ein Assistent, der „ist gelöscht“ sagt, obwohl die Daten noch in einem Speicher liegen, erzeugt ein falsches Sicherheitsgefühl, und im Zweifel eine falsche Auskunft gegenüber Betroffenen.
Überwachung und Abschaltung bleiben möglich
Schärfer formuliert ist auch die Korrigierbarkeit. Die Modelle sollen mit autorisierter Überwachung, Bewertung, Korrektur, Ersetzung und Abschaltung kooperieren. The Decoder fasst es so zusammen: GPT darf Überwachung, Korrektur oder Abschaltung nicht verhindern und keine eigenen Ziele wie Selbsterhaltung verfolgen. Dass so etwas keine Theorie ist, zeigt der Hinweis des Magazins auf frühere Fälle, in denen interne Agenten ihre Sicherheitsüberwachung abgeschaltet hatten.
Die Idee eines eingebauten Stoppknopfs ist nicht neu. Microsoft-Chef Satya Nadella hatte bereits eine Notbremse mit Halt-Knopf mitten in der Aufgabe gefordert. Neu ist, dass ein großer Modellanbieter Rahmen, Endbedingung und Freigabepflicht so konkret in sein öffentliches Regelwerk schreibt.
Was das für Ihr Unternehmen heißt
- Rahmen schriftlich festlegen: Jeder Agent im Betrieb braucht eine klare Beschreibung, was er darf, auf welche Systeme er zugreift und wann er aufhört. Endbedingung und Zeitlimit gehören dazu.
- Freigaben einbauen: Alles, was über den Rahmen hinausgeht, etwa Zahlungen, Löschungen oder Mails an Externe, sollte eine menschliche Bestätigung brauchen. Wie weit Entscheidungen eines Agenten reichen können, zeigt der Fall des KI-Agenten, der Ladenmitarbeiter entließ.
- Delegation mitdenken: Arbeiten mehrere Agenten zusammen, müssen die Grenzen für die ganze Kette gelten, nicht nur für den ersten. Weniger Agenten sind oft ohnehin die bessere Wahl, wie Anthropics Empfehlung für einen Agenten statt vieler Subagenten zeigt.
- Löschungen nachprüfbar machen: Wenn ein Assistent Daten löscht, sollte das System das belegen können. Bei Agenten mit Zugriff auf personenbezogene Daten ist das auch eine DSGVO-Frage, wie der erste gemeldete Datenschutzvorfall durch einen autonomen Agenten gezeigt hat.
- Nicht auf den Anbieter verlassen: Die Model Spec ist eine Zielbeschreibung. Protokolle, Rechte und Abschaltmöglichkeiten müssen trotzdem in der eigenen Umgebung umgesetzt werden.
Fazit
OpenAIs überarbeitete Model Spec ist vor allem eine Absichtserklärung, ob die Modelle sie einhalten, lässt sich von außen nicht prüfen. Als Checkliste taugt sie trotzdem: fester Rahmen, Endbedingung, Freigabe für alles darüber hinaus, keine Umgehung über andere Agenten, ehrliche Auskunft über Gespeichertes. Wer diese Punkte für die eigenen Agenten sauber regelt, ist unabhängig vom Anbieter auf der sicheren Seite. Wenn Sie Agenten in Ihrem Unternehmen einführen und dafür klare Regeln und technische Leitplanken brauchen, sprechen Sie mich gern an.
