Adaptives Agentisches Intelligenz-Framework mit Strands Agents
AWS hat das Adaptive Agentic Intelligence Framework (AAIF) vorgestellt, das auf dem Open-Source-SDK Strands Agents basiert. Das Framework zielt darauf ab, Kosten und Latenz von KI-Agenten durch intelligente Modellorchestrierung zu optimieren.
Problem traditioneller KI-Agenten
Herkömmliche KI-Agenten leiten jede Anfrage – unabhängig von ihrer Komplexität – an ein einzelnes großes Sprachmodell weiter. Dieser One-Size-Fits-All-Ansatz verursacht hohe API-Kosten, unvorhersehbare Latenz und verhindert Offline-Fähigkeiten.
Dreischichtige Architektur des AAIF
Das Framework gliedert die Verarbeitung in drei Schichten:
Intelligente Orchestrierung: Eine leichtgewichtige Small Language Model (z. B. llama3.2:1b) klassifiziert eingehende Anfragen und leitet sie dynamisch weiter, ohne fest codierte Regeln.
Lokale Verarbeitung: Routineaufgaben wie Geräte-Telemetrie oder Bildanalyse werden lokal über Ollama mit SLMs (z. B. llama3.2-vision) ausgeführt. Dies ermöglicht geringe Latenz und Offline-Betrieb.
Cloud-Verarbeitung: Komplexe Analysen und mehrstufige Schlussfolgerungen werden über Amazon Bedrock an leistungsfähige Frontier-Modelle übergeben.
Kerntechnologien
- Strands Agents: Open-Source-SDK von AWS für modellgesteuerte autonome Agenten. Unterstützt Multi-Agent-Kollaboration, das Model Context Protocol (MCP) und Integration mit Amazon Bedrock, AWS Lambda und AWS Step Functions. Wird bereits produktiv bei Teams wie Kiro, Amazon Q und AWS Glue eingesetzt.
- Small Language Models (SLMs): Für lokale, repetitive Aufgaben optimiert.
- Ollama: Open-Source-Tool für lokale Modellausführung.
- Amazon Bedrock: Verwalteter Dienst für Foundation Models mit Fokus auf Datenschutz und Compliance.
- Model Context Protocol (MCP): Von Anthropic 2024 eingeführter Standard zur sicheren Tool- und Datenintegration.
Die Architektur basiert auf Erkenntnissen von Belcak et al. (NVIDIA), wonach SLMs für viele agentische Aufgaben ausreichend und wirtschaftlicher sind.
Vorteile
Das Framework ermöglicht Kostenreduktion durch Verlagerung von Routineaufgaben auf lokale SLMs, geringe Latenz bei lokalen Operationen, Offline-Fähigkeit für bestimmte Aufgaben sowie Flexibilität für Edge-, Cloud- oder Hybrid-Deployment. Es unterstützt Szenarien wie IoT-Überwachung, Patientenüberwachung oder Qualitätskontrolle.
Quelle: AWS AI Blog
FAQ
Was ist das Adaptive Agentic Intelligence Framework?
Ein von AWS entwickeltes Framework auf Basis von Strands Agents, das kleine und große Sprachmodelle intelligent orchestriert, um Kosten und Latenz von KI-Agenten zu senken.
Welche Rolle spielt Ollama im Framework?
Ollama ermöglicht die lokale Ausführung von Small Language Models für Routineaufgaben, wodurch Latenz reduziert und Offline-Betrieb möglich wird.
Wie wird verantwortungsvolle KI sichergestellt?
Durch Integration von Amazon Bedrock Guardrails in der Cloud und entsprechende Richtlinien auf lokaler SLM-Ebene für einheitliche Sicherheits- und Filterstandards.