Trust in Depth: Mehr Autonomie für KI-Agenten bei voller Kontrolle

AWS hat das Framework „Trust in Depth“ vorgestellt. Es handelt sich um ein mehrschichtiges Sicherheitskonzept, das auf der etablierten „Defense in Depth“-Strategie aufbaut. Das Ziel ist es, KI-Agenten ein höheres Maß an Autonomie zu gewähren, ohne die Kontrolle über ihr Handeln zu verlieren.

Herausforderung der Agenten-Autonomie

KI-Agenten wählen oft unvorhersehbare Wege zur Aufgabenerfüllung. Ihr Verhalten kann sich bei wiederholter Ausführung verändern. Die klassische „Human-in-the-Loop“-Genehmigung wird bei steigender Skalierung zum Engpass und führt zu Überprüfungsermüdung.

Vier Säulen des Vertrauens

„Trust in Depth“ strukturiert das Vertrauen entlang vier zentraler Fragen, die in unterschiedlichen Phasen des Agenten-Lebenszyklus beantwortet werden müssen:

Scope (vor der Ausführung): Zweck des Agenten, benötigte Fähigkeiten und strikte Verbote.

Know (bei der Bereitstellung): Autorisierung, eindeutige Identität und vollständige Nachverfolgbarkeit aller im Namen des Unternehmens handelnden Agenten.

Bound (während der Ausführung): Einhaltung der definierten Grenzen und fortlaufende Fähigkeit zur Aufgabenerfüllung.

Observe (nach jeder Ausführung): Vollständige Rekonstruierbarkeit der Aktionen und deren Begründung zur kontinuierlichen Verbesserung.

Technische Umsetzung durch AWS-Dienste

Das Framework nutzt Automated Reasoning, eine mathematische Verifikationstechnik, die AWS seit über einem Jahrzehnt in kritischen Systemen wie IAM, dem Nitro Hypervisor, S3 Block Public Access und dem VPC Reachability Analyzer einsetzt.

• Scope: Unterstützt durch Kiro (agentisches Codierungssystem auf Amazon Bedrock), Strands (Open-Source-Toolkit für produktionsreife Agenten in Python und TypeScript) sowie Amazon Bedrock AgentCore Policies. Automated Reasoning prüft Richtlinien auf Widersprüche und Lücken.

• Know: AWS Agent Registry als genehmigter Katalog für Agenten, Tools und Fähigkeiten sowie AgentCore Identity zur eindeutigen Zuordnung jeder Aktion.

• Bound: AgentCore Gateway als zentraler, serverloser Kontrollpunkt, Temporal Policies für zustandsbehaftete Autorisierung, Amazon Bedrock Guardrails mit Automated-Reasoning-Checks sowie die Open-Source-Sandbox Strands Box.

• Observe: Amazon CloudWatch Omni als KI-gestützte Observability-Lösung, die Modellaufrufe, Tool-Aufrufe und Agentenentscheidungen einheitlich erfasst.

Praktisches Beispiel: Helpdesk-Offboarding

In einem Offboarding-Szenario eines Mitarbeiters definiert das Scope präzise Reihenfolgen und Tool-Berechtigungen. Die Agent-Identität sorgt für Nachvollziehbarkeit. Das AgentCore Gateway setzt Temporal Policies durch und verhindert Regelverstöße (z. B. Postfachkonvertierung vor Account-Sperrung). Jeder Schritt wird im Observe vollständig protokolliert.

Quelle: AWS AI Blog

FAQ

Was ist der Kern von „Trust in Depth“?
Ein mehrschichtiges Framework, das verifizierbare Autonomie von KI-Agenten ermöglicht, indem es menschliches Urteilsvermögen auf wirklich kritische Entscheidungen beschränkt und alle anderen Ebenen mathematisch oder regelbasiert absichert.

Welche Rolle spielt Automated Reasoning?
Automated Reasoning dient als mathematische Beweisführung, um zu garantieren, dass Agenten ihre Spezifikationen einhalten. Die Technik wird auf Richtlinien, Grenzen und Inhaltsvalidierung angewendet.

Wie unterscheidet sich „Trust in Depth“ von klassischer Human-in-the-Loop-Überwachung?
Es ersetzt flächendeckende manuelle Genehmigungen durch strukturierte, überprüfbare Schichten (Scope, Know, Bound, Observe), die Skalierung ohne Überprüfungsermüdung ermöglichen, während menschliche Kontrolle bei hochkritischen Punkten erhalten bleibt.