%0A%0A---%0A%0A**KERNFAKTEN%20%26%20HINTERGRUND%3A**%0A%0A1.%20%20**Erweiterte%20Observability%20f%C3%BCr%20KI-Agenten%3A**%20Amazon%20hat%20die%20F%C3%A4higkeiten%20von%20Amazon%20Bedrock%20AgentCore%20Observability%20erweitert%2C%20um%20die%20%C3%9Cberwachung%20von%20KI-Agenten%20zu%20erm%C3%B6glichen%2C%20die%20nicht%20nur%20in%20der%20AWS%20Cloud%2C%20sondern%20auch%20in%20On-Premises-Umgebungen%20und%20anderen%20Cloud-Anbietern%20wie%20Google%20Cloud%20Platform%20(GCP)%20und%20Microsoft%20Azure%20ausgef%C3%BChrt%20werden.%0A2.%20%20**Amazon%20Bedrock%20AgentCore%3A**%20Dies%20ist%20eine%20Plattform%20von%20AWS%2C%20die%20entwickelt%20wurde%2C%20um%20hochleistungsf%C3%A4hige%20KI-Agenten%20sicher%20und%20skalierbar%20zu%20erstellen%2C%20bereitzustellen%20und%20zu%20betreiben.%20Sie%20unterst%C3%BCtzt%20beliebige%20Frameworks%20(wie%20Strands%20Agents%2C%20LangGraph%2C%20CrewAI)%20und%20Modelle.%20AgentCore%20wurde%20am%2016.%20Juli%202025%20als%20Vorschau%20eingef%C3%BChrt%20und%20ist%20seit%20dem%2013.%20Oktober%202025%20allgemein%20verf%C3%BCgbar.%0A3.%20%20**AgentCore%20Observability%3A**%20Als%20integraler%20Bestandteil%20von%20Amazon%20Bedrock%20AgentCore%20bietet%20diese%20Funktion%20native%20Tracing-%2C%20%C3%9Cberwachungs-%20und%20Analysefunktionen.%20Sie%20liefert%20Echtzeit-Einblicke%20in%20die%20Agentenleistung%20und%20das%20Verhalten%20%C3%BCber%20Amazon%20CloudWatch-Dashboards%2C%20einschlie%C3%9Flich%20Metriken%20wie%20Token-Nutzung%2C%20Latenz%2C%20Sitzungsdauer%20und%20Fehlerraten.%0A4.%20%20**Schl%C3%BCsseltechnologie%3A%20AWS%20Distro%20for%20OpenTelemetry%20(ADOT)%3A**%20Die%20Erweiterung%20der%20Observability%20auf%20externe%20Umgebungen%20wird%20durch%20die%20AWS%20Distro%20for%20OpenTelemetry%20(ADOT)%20erm%C3%B6glicht.%20ADOT%20ist%20eine%20AWS-Distribution%20des%20OpenTelemetry-Projekts%20der%20Cloud%20Native%20Computing%20Foundation%20(CNCF)%2C%20die%20APIs%2C%20Bibliotheken%20und%20Agenten%20zur%20Sammlung%20verteilter%20Traces%20und%20Metriken%20bereitstellt.%20ADOT%20ist%20von%20AWS%20getestet%2C%20optimiert%2C%20gesichert%20und%20unterst%C3%BCtzt.%0A5.%20%20**Funktionsweise%20f%C3%BCr%20externe%20Agenten%3A**%0A%20%20%20%20*%20%20%20ADOT%20auto-instrumentiert%20das%20Agenten-Framework%20(z.B.%20Strands%20Agents).%0A%20%20%20%20*%20%20%20Es%20erfasst%20Spans%20gem%C3%A4%C3%9F%20den%20OpenTelemetry%20Generative%20AI%20Semantic%20Conventions.%20Diese%20Konventionen%2C%20die%20seit%20April%202024%20von%20der%20OTel%20GenAI%20Special%20Interest%20Group%20entwickelt%20werden%2C%20standardisieren%20die%20Telemetriedaten%20f%C3%BCr%20KI-%20und%20LLM-Workloads%2C%20einschlie%C3%9Flich%20Modellparametern%2C%20Antwortmetadaten%20und%20Token-Nutzung.%0A%20%20%20%20*%20%20%20Die%20Telemetriedaten%20werden%20direkt%20an%20den%20Amazon%20CloudWatch%20OpenTelemetry%20Protocol%20(OTLP)-Endpunkt%20exportiert.%0A%20%20%20%20*%20%20%20Die%20Authentifizierung%20erfolgt%20%C3%BCber%20SigV4%20mit%20AWS%20Identity%20and%20Access%20Management%20(IAM)-Anmeldeinformationen.%0A6.%20%20**Vorteile%20der%20Cross-Plattform-Observability%3A**%20Durch%20die%20Weiterleitung%20von%20Telemetriedaten%20an%20AgentCore%20Observability%20erhalten%20Entwickler%20umfassende%20Einblicke%20in%20die%20Argumentationsketten%20der%20Agenten%2C%20Tool-Aufrufe%20und%20Modellausgaben.%20Dies%20erm%C3%B6glicht%20die%20Erkennung%20von%20Halluzinationen%2C%20die%20%C3%9Cberwachung%20sch%C3%A4dlicher%20oder%20themenfremder%20Antworten%2C%20die%20Verfolgung%20der%20Token-Nutzung%20zur%20Kostenkontrolle%20und%20die%20%C3%9Cberpr%C3%BCfung%20des%20Agentenverhaltens%20%C3%BCber%20verschiedene%20Umgebungen%20hinweg.%0A7.%20%20**Erforderliche%20Komponenten%20f%C3%BCr%20externe%20Agenten%3A**%0A%20%20%20%20*%20%20%20ADOT%20Auto-Instrumentierung%20zur%20Vereinfachung%20des%20Telemetrie-Exports.%0A%20%20%20%20*%20%20%20IAM-Anmeldeinformationen%20f%C3%BCr%20die%20Authentifizierung%20bei%20CloudWatch.%0A%20%20%20%20*%20%20%20Spezifische%20OpenTelemetry-Umgebungsvariablen%20f%C3%BCr%20Routing%20und%20Authentifizierung.%0A8.%20%20**Validierte%20Umgebungen%3A**%20Die%20L%C3%B6sung%20wurde%20erfolgreich%20in%20simulierten%20On-Premises-Umgebungen%20und%20auf%20der%20Google%20Cloud%20Shell%20(GCP)%20getestet.%0A9.%20%20**Voraussetzungen%3A**%20Ein%20AWS-Konto%20mit%20konfiguriertem%20Amazon%20Bedrock-Modellzugriff%20(z.B.%20Claude%20Haiku)%2C%20aktivierte%20CloudWatch%20Transaction%20Search%2C%20Python%203.10%20oder%20h%C3%B6her%2C%20IAM-Benutzeranmeldeinformationen%20mit%20spezifischen%20Berechtigungen%20(u.a.%20%60bedrock%3AInvokeModel%60%2C%20%60logs%3ACreateLogGroup%60%2C%20%60xray%3APutTraceSegments%60%2C%20%60cloudwatch%3APutMetricData%60)%20und%20ausgehender%20HTTPS-Zugriff%20auf%20AWS-Endpunkte.%0A10.%20**Vergleich%20mit%20AgentCore%20Runtime%3A**%20Agenten%2C%20die%20direkt%20auf%20der%20Amazon%20Bedrock%20AgentCore%20Runtime%20bereitgestellt%20werden%2C%20profitieren%20von%20einer%20automatischen%20Observability-Konfiguration%20und%20automatischem%20IAM-Rollenmanagement.%20Agenten%20in%20Nicht-AWS-Umgebungen%20erfordern%20eine%20manuelle%20Einrichtung%20von%20OpenTelemetry-Variablen%20und%20die%20Verwendung%20von%20IAM-Zugriffsschl%C3%BCsseln%2FGeheimnissen%20oder%20IAM%20Roles%20Anywhere.%0A11.%20**Best%20Practices%3A**%20Empfehlungen%20umfassen%20die%20Verwendung%20konsistenter%20Benennungen%20f%C3%BCr%20Agenten%2C%20die%20%C3%9Cberpr%C3%BCfung%20der%20AWS-Anmeldeinformationen%2C%20die%20Nutzung%20von%20Python%203.10%20oder%20neuer%2C%20das%20Festlegen%20von%20Session-IDs%20f%C3%BCr%20mehrstufige%20Konversationen%20und%20die%20regelm%C3%A4%C3%9Fige%20Rotation%20von%20Anmeldeinformationen%2C%20idealerweise%20mit%20IAM%20Roles%20Anywhere%20f%C3%BCr%20Produktionsumgebungen.?width=1024&height=1024&seed=492008&nologo=true&model=flux)
Überwachung von On-Premises- und Multi-Cloud-KI-Agenten mit AgentCore Observability
Quelle: AWS AI Blog
Systemarchitektur und Schnittstellen
AWS hat die Observability-Funktionen von Amazon Bedrock AgentCore erweitert. Die Erweiterung ermöglicht die Überwachung von KI-Agenten, die außerhalb der AWS Cloud in On-Premises-Umgebungen sowie auf Plattformen wie Google Cloud Platform und Microsoft Azure ausgeführt werden.
Amazon Bedrock AgentCore dient als Plattform zur Erstellung, Bereitstellung und zum Betrieb von KI-Agenten. Sie unterstützt verschiedene Frameworks wie LangGraph, CrewAI und Strands Agents sowie unterschiedliche Modelle. Die Plattform wurde 2025 zunächst als Vorschau und später allgemein verfügbar gemacht.
AgentCore Observability als zentrale Beobachtungsschicht
AgentCore Observability ist integraler Bestandteil der Plattform. Sie liefert Tracing-, Überwachungs- und Analysefunktionen über Amazon CloudWatch-Dashboards. Dargestellt werden Metriken wie Token-Nutzung, Latenz, Sitzungsdauer und Fehlerraten.
Technische Fundierung durch OpenTelemetry
Die Erweiterung auf externe Umgebungen basiert auf der AWS Distro for OpenTelemetry (ADOT). ADOT ist eine von AWS optimierte Distribution des CNCF-Projekts OpenTelemetry. Sie auto-instrumentiert Agenten-Frameworks, erfasst Spans nach den OpenTelemetry Generative AI Semantic Conventions und exportiert die Telemetriedaten direkt an den Amazon CloudWatch OTLP-Endpunkt. Die Authentifizierung erfolgt über SigV4 mit IAM-Anmeldeinformationen.
Entwickler erhalten dadurch Einblicke in Argumentationsketten, Tool-Aufrufe und Modellausgaben. Dies unterstützt die Erkennung von Halluzinationen, die Überwachung unangemessener Antworten sowie die Kontrolle der Token-Nutzung.
Implementierung in heterogenen Umgebungen
Für den Betrieb in Nicht-AWS-Umgebungen sind ADOT Auto-Instrumentation, geeignete IAM-Anmeldeinformationen und spezifische OpenTelemetry-Umgebungsvariablen erforderlich. Die Lösung wurde in simulierten On-Premises-Umgebungen und auf Google Cloud Shell validiert.
Agenten, die direkt auf der AgentCore Runtime laufen, erhalten eine automatische Observability-Konfiguration. Externe Agenten erfordern manuelle Einrichtung der OpenTelemetry-Variablen und die Verwendung von IAM-Zugriffsschlüsseln oder IAM Roles Anywhere.
Best Practices für strukturelle Integrität
Empfohlen werden konsistente Benennung von Agenten, regelmäßige Rotation von Anmeldeinformationen und die Nutzung von IAM Roles Anywhere in Produktionsumgebungen. Python 3.10 oder höher sowie ausgehender HTTPS-Zugriff auf AWS-Endpunkte sind Voraussetzungen.
FAQ
Welche Umgebungen werden durch die Erweiterung von AgentCore Observability abgedeckt?
Die Erweiterung ermöglicht die Überwachung von KI-Agenten in On-Premises-Umgebungen sowie auf Google Cloud Platform und Microsoft Azure neben der AWS Cloud.
Welche Technologie ermöglicht die Telemetrie-Erfassung in externen Umgebungen?
Die AWS Distro for OpenTelemetry (ADOT) in Kombination mit den OpenTelemetry Generative AI Semantic Conventions.
Welche Vorteile bietet die zentrale Observability über Cloud-Grenzen hinweg?
Einheitliche Einblicke in Argumentationsketten, Tool-Aufrufe, Modellausgaben, Halluzinationen und Token-Nutzung über alle Umgebungen hinweg innerhalb eines CloudWatch-Dashboards.
Unterscheidet sich die Konfiguration zwischen AgentCore Runtime und externen Agenten?
Ja. Agenten auf der AgentCore Runtime erhalten automatische Observability und IAM-Rollenmanagement. Externe Agenten erfordern manuelle Konfiguration von OpenTelemetry und IAM-Anmeldeinformationen.