OpenAI hat sein Model Spec grundlegend überarbeitet.

Die öffentliche Richtlinie, die das Verhalten der GPT-Modelle definiert, wird nun um fünf Kernwerte strukturiert. Die Aktualisierung reagiert auf die steigende Leistungsfähigkeit der Systeme und soll eine bessere Wertausrichtung (value alignment) ermöglichen.

Die fünf Kernwerte

1. Treue zur menschlichen Absicht bildet das Fundament. Modelle sollen über wörtliche Befolgung hinaus die tieferen Absichten von Nutzern, Entwicklern und OpenAI erkennen und weise handeln.

2. Schadensminimierung verlangt die Einhaltung fester Sicherheitsgrenzen und die Berücksichtigung vorhersehbarer Folgen.

3. Ehrlichkeit und Transparenz verpflichtet die Modelle, klar anzugeben, was sie wissen, tun und worüber sie unsicher sind.

4. Menschliche Handlungsfähigkeit zielt darauf ab, Menschen bei der Verfolgung ihrer selbstgewählten Ziele zu unterstützen.

5. Sorgfalt fordert die Berücksichtigung der Umstände Betroffener sowie die Einhaltung sozialer und beruflicher Normen.

Wesentliche Änderungen

Die Revision fügt neue Leitlinien zu Kontext, Aufsicht und Handlungsfähigkeit hinzu. Detaillierte Stilrichtlinien wurden weitgehend entfernt – der Ton soll sich künftig stärker nach Nutzerpräferenzen richten, bei fester objektiver Grundhaltung.

Das Modell wird nun als „GPT“ statt „der Assistent“ bezeichnet. Es gibt eine klare Hierarchie der Anweisungen: Der Konversationskontext kann grundlegende Sicherheitsprinzipien nicht außer Kraft setzen.

OpenAI betont, dass aktuelle Modelle die neue Spezifikation noch nicht vollständig umsetzen. Neue Trainingsmethoden werden erforscht, um die Kernwerte und deren Begründung direkt zu vermitteln.

Die meisten Regeln bleiben überschreibbar durch Entwickler und Nutzer. Feste Grenzen bestehen nur dort, wo sie zum Schutz von Menschen und Gesellschaft notwendig sind.

Der aktualisierte Model Spec ist unter der Creative Commons CC0 1.0 Lizenz (Public Domain) veröffentlicht und auf GitHub verfügbar.

Quelle: OpenAI News

FAQ

Was ist das Ziel der Aktualisierung?
Die Überarbeitung soll leistungsfähigere Modelle in Richtung fundierter Urteilsfähigkeit, menschlicher Handlungsfähigkeit und Treue zur menschlichen Absicht lenken.

Ändert sich der Ton der Modelle?
Ja. Ein Großteil detaillierter Stilrichtlinien wurde entfernt. Der Ton folgt künftig stärker den Präferenzen des Nutzers, während Objektivität Standard bleibt.

Wer kann die Regeln anpassen?
Entwickler und Endnutzer können die meisten Vorgaben überschreiben. Nur feste Sicherheitsgrenzen zum Schutz von Menschen und Gesellschaft sind nicht verhandelbar.