Führende KI-Unternehmen haben auf der Black Hat Konferenz in Las Vegas die Shared AI Findings Exchange (SAFE) Richtlinien vorgeschlagen.

Die Open Secure AI Alliance (OSAI), ein Zusammenschluss von über 120 Organisationen, entwickelt diese Richtlinien in Zusammenarbeit mit der Linux Foundation. Ziel ist es, Cybersicherheitsvorfälle und Beinahe-Unfälle bei agentischer KI vertraulich zu sammeln, zu analysieren und die daraus gewonnenen Erkenntnisse zu teilen, um systemische Risiken zu mindern.

Die SAFE-Richtlinien umfassen die vertrauliche Sammlung und Analyse von KI-Vorfällen, die Information betroffener Parteien, die Identifizierung wiederkehrender Kontrollfehler sowie die Veröffentlichung evidenzbasierter Betriebsempfehlungen. Die Linux Foundation hat einen "Request for Comments" (RFC) zu SAFE veröffentlicht, um Feedback aus der Community einzuholen.

Zahlreiche OSAI-Mitglieder, darunter NVIDIA, Cisco, CrowdStrike, Microsoft, Amazon, Red Hat und weitere, stellen gleichzeitig eine Reihe von Open-Source-Tools und Frameworks vor. Diese Tools decken verschiedene Schichten des KI-Sicherheits-Stacks ab – von Identität und Berechtigungen über Harnesses und Orchestrierung bis hin zu Modellen, Observability und Resilienz.

Quelle: NVIDIA Blog

FAQ

Was ist das Ziel der SAFE-Richtlinien?
Die Richtlinien sollen Cybersicherheitsvorfälle bei agentischer KI in einen gemeinsamen Schutz für das gesamte Ökosystem umwandeln, indem Erkenntnisse vertraulich geteilt werden.

Wer arbeitet an den SAFE-Richtlinien?
Ein Arbeitskreis der Open Secure AI Alliance, zu dem unter anderem NVIDIA, Cisco, CrowdStrike, Hugging Face und Red Hat gehören, entwickelt die Richtlinien gemeinsam mit der Linux Foundation.

Welche Art von Beiträgen stellen die OSAI-Mitglieder vor?
Die Mitglieder veröffentlichen Open-Source-Tools und Frameworks, die Identitätssicherheit, Governance, Red Teaming, Schwachstellenscanning, Agenten-Orchestrierung und Resilienz von KI-Systemen verbessern sollen.