Anthropic gewährt METR-Forschern Mitarbeiterzugang zur unabhängigen Risikobewertung
Anthropic hat einem Team von sechs Forschern der Organisation METR (Model Evaluation and Threat Research) vollen Mitarbeiterzugang zu seinen internen Systemen eingeräumt. Die Maßnahme dient der unabhängigen Bewertung von KI-Modellen, Sicherheitspraktiken und Risikomanagement.
Zugang und Governance
Die METR-Forscher erhalten Firmenhardware, Büroräume sowie Zugang zu internen Tools, die weitgehend den Ressourcen interner Risikobewertungsteams entsprechen. METR behält das Recht, eigene Bewertungen zu Risikostufen, Vorfällen und Praktiken zu veröffentlichen. Anthropic besitzt kein Vetorecht über diese Veröffentlichungen.
Anthropic darf lediglich in eng definierten Bereichen – Kundendaten, anwaltlich privilegierte Informationen und bestimmte Modellarchitektur-Details – Schwärzungen verlangen. METR kann solche Redaktionen öffentlich kommentieren und deren Angemessenheit begründen, ohne die geschwärzten Inhalte preiszugeben.
Systemarchitektur der Transparenz
Die Vereinbarung implementiert ein dreistufiges Zugangssystem für externe Evaluatoren. METR erhält die höchste Stufe (Tier 3) mit Mitarbeiter-äquivalentem Zugang. Weitere Organisationen wie SecureBio (Tier 1) sowie Accenture und Faculty sind in niedrigeren Stufen oder in Vorbereitung beteiligt.
Diese Schnittstelle zwischen kommerziellem Frontier-Labor und unabhängiger Forschungsinstitution bildet eine neue Schicht der externen Rechenschaft innerhalb der KI-Entwicklungs-Infrastruktur. Sie folgt auf Anthropics Zusage vom September 2026, stärkere Drittbewertungen zu ermöglichen, sowie die Unterzeichnung des White House Accord on Super Intelligence.
Beteiligte Organisationen
Anthropic ist ein 2021 von ehemaligen OpenAI-Forschern, darunter Dario Amodei und Daniela Amodei, gegründetes Unternehmen in der Rechtsform einer Public Benefit Corporation mit Sitz in San Francisco. Es entwickelt die Claude-Familie von Large Language Models und verfolgt einen Sicherheitsansatz namens Constitutional AI.
METR wurde 2022 von Beth Barnes in Berkeley gegründet. Die spendenfinanzierte gemeinnützige Organisation entwickelt wissenschaftliche Methoden zur Bewertung katastrophaler Risiken durch autonome KI-Systeme und evaluiert Modellfähigkeiten in Bereichen wie Forschung, Anwendungsentwicklung und Cyberoperationen. Sie akzeptiert keine direkten Gelder von KI-Unternehmen.
Kritische Perspektive
Einige Forscher stellen die tatsächliche Unabhängigkeit von METR in Frage. Genannt werden die Annahme von Tokens von KI-Laboren, soziale Verbindungen zu Mitarbeitern der Unternehmen sowie die gemeinsame Nutzung von Forschungsräumen. Kritiker sehen darin eher eine Form institutionalisierter Selbstregulierung als echte externe Aufsicht.
Quelle: TechCrunch AI
FAQ
Welchen Zugang erhalten die METR-Forscher genau?
Sechs METR-Mitarbeiter erhalten Firmenhardware, Büroräume und Zugriff auf interne Tools und Systeme, die denen der internen Risikobewertungsteams von Anthropic weitgehend entsprechen.
Hat Anthropic ein Vetorecht auf METR-Veröffentlichungen?
Nein. METR kann seine Bewertungen frei veröffentlichen. Anthropic darf nur in klar definierten Kategorien Schwärzungen verlangen.
Welche Kritik wird an der Unabhängigkeit von METR geäußert?
Kritiker verweisen auf die Annahme kostenloser Tokens, soziale Bindungen zu KI-Unternehmen und geteilte Forschungsinfrastruktur und sehen darin eine unzureichende Trennung von der zu prüfenden Industrie.