Anthropic und OpenAI wollen unabhängige Sicherheitsprüfer einbetten – Wie unabhängig sind sie wirklich?
Anthropic und OpenAI haben angekündigt, unabhängige Sicherheitsprüfer direkt in ihre Forschungslabore zu integrieren. Der Plan markiert den Übergang von punktuellen Audits zu einer kontinuierlichen, eingebetteten Überwachung.
Am 12. September 2026 stellte Anthropic-CEO Dario Amodei den Ansatz in seinem Essay „We Must Pace the Frontier“ vor. OpenAI-CEO Sam Altman unterstützte die Idee am selben Tag öffentlich und erklärte, OpenAI werde einen vergleichbaren Weg einschlagen.
Die externen Prüfer sollen mitarbeiterähnlichen Zugang erhalten: physische Präsenz in den Büros, Firmenausweise, Laptops sowie Zugriff auf interne Systeme, Infrastruktur, Trainingspipelines und Risikobewertungsprozesse. Ihr Auftrag umfasst die Überprüfung der Einhaltung von Sicherheitspraktiken, die Meldung von Vorfällen und die Bewertung der Ausrichtung von Modellen und Trainingsprozessen.
Die Prüfer erhalten das Recht, ihre Ergebnisse zu veröffentlichen. Redaktionen sind nur in eng definierten Fällen erlaubt – etwa bei sicherheitssensiblen, rechtlich privilegierten oder vertraulichen Drittinformationen –, nicht jedoch bei ungünstigen Erkenntnissen.
Die Initiative folgt Forderungen nach stärkerer Transparenz, wie sie von „Americans for Responsible Innovation“ (ARI) formuliert wurden. Gleichzeitig äußern Kritiker Zweifel an der tatsächlichen Unabhängigkeit: Die Prüfer werden von den auditierten Unternehmen bezahlt. Als möglicher Partner für Anthropic wurde METR genannt, dessen Nähe zur rationalistischen und Effective-Altruism-Sphäre sowie finanzielle Abhängigkeiten von KI-Laboren kritisch gesehen werden.
Dario Amodei hat zudem eine begrenzte Ausnahme vom US-Kartellrecht gefordert, um die Koordination von Sicherheitsstandards zwischen Wettbewerbern zu ermöglichen. Einige Startup-Vertreter warnen vor einer „Regulierungsmauer“, die kleinere Akteure benachteiligen könnte.
Quelle: TechCrunch AI
FAQ
1. Erhalten die Prüfer vollen Zugriff auf alle internen KI-Entwicklungsprozesse?
Sie erhalten mitarbeiterähnlichen Zugang zu Systemen, Infrastruktur, Trainingspipelines und Risikobewertungsprozessen. Der genaue Umfang wird noch konkretisiert.
2. Dürfen die Prüfer kritische Ergebnisse uneingeschränkt veröffentlichen?
Ja, mit Ausnahme eng definierter Fälle wie sicherheitsrelevanter, rechtlich privilegierter oder vertraulicher Drittinformationen. Ungünstige Ergebnisse dürfen nicht allein aus diesem Grund redigiert werden.
3. Wie wird die Unabhängigkeit der Prüfer sichergestellt?
Dies bleibt ein zentraler Kritikpunkt. Die Finanzierung durch die auditierten Unternehmen und bestehende Verbindungen potenzieller Partner wie METR werfen Fragen auf, die in der konkreten Ausgestaltung geklärt werden müssen.