Beyond RAG: Task-aware Knowledge Compression für Enterprise AI auf AWS

Die herkömmliche Retrieval-Augmented Generation (RAG) erreicht bei komplexen analytischen Aufgaben in Unternehmen ihre Grenzen. Aufgaben wie finanzielle Due Diligence oder Compliance-Prüfungen, die Hunderte von Dokumenten umfassen, erfordern die Berücksichtigung dokumentenübergreifender Zusammenhänge, die eine reine Ähnlichkeitssuche oft nicht zuverlässig herstellt.

Task-aware Knowledge Compression (TAKC)

AWS stellt mit Task-aware Knowledge Compression (TAKC) eine Methode vor, die gesamte Wissensdatenbanken durch die Linse einer konkreten Aufgabe vorkomprimiert. Ein Large Language Model erzeugt aufgabenspezifische, deutlich kürzere Repräsentationen der Dokumente. Dabei werden nur die für die jeweilige Aufgabe relevanten Informationen bewahrt.

Im Gegensatz zu RAG, das lediglich die Top-K-Chunks einer Vektorsuche in den Kontext lädt, ermöglicht TAKC den Zugriff auf die gesamte, komprimierte Wissensbasis. Die Komprimierung erfolgt task-spezifisch, sodass aus demselben Quellmaterial unterschiedliche komprimierte Versionen für Finanzanalysen oder Rechtsrisikobewertungen entstehen können.

Multi-Rate-Komprimierung und Query Routing

TAKC implementiert vier definierte Komprimierungsstufen pro Aufgabentyp:

• Leicht (8x)
• Mittel (16x)
• Hoch (32x)
• Ultra (64x)

Ein Query Complexity Analyzer leitet eingehende Fragen anhand von Merkmalen wie Länge und Typ an die passende Kompressionsstufe weiter. Dies ermöglicht eine abgestufte Balance zwischen Kontextreduktion und Informationserhalt.

Serverless-Architektur auf AWS

Die Referenzimplementierung ist vollständig serverless aufgebaut und besteht aus zwei entkoppelten Pipelines – einer für die Datenaufnahme (Ingestion) und einer für die Abfrageverarbeitung (Query).

Kernkomponenten umfassen:

• AWS Lambda für ereignisgesteuerte Verarbeitung
• Amazon Bedrock mit Modellen wie Anthropic Claude 3 Haiku, Claude 3 Sonnet und Amazon Titan Text für Komprimierung und Inferenz
• Amazon ElastiCache Serverless für das Caching komprimierter Repräsentationen
• Amazon S3 für persistente Speicherung (KMS-verschlüsselt)
• Amazon API Gateway als REST-Schnittstelle
• Amazon Cognito für JWT-Authentifizierung
• AWS WAF für Schutz und Ratenbegrenzung
• AWS CDK zur deklarativen Bereitstellung der gesamten Infrastruktur

Kosten- und Einsatzüberlegungen

TAKC erfordert eine einmalige Komprimierung während der Ingestion. Bei stabilen, sich selten ändernden Wissensdatenbanken amortisiert sich dieser Aufwand durch signifikant reduzierte Token-Verbräuche bei der Inferenz.

Die Methode eignet sich besonders für Szenarien mit dokumentenübergreifender Synthese, stabilen Datenbeständen, klar definierten Aufgabentypen und begrenztem Token-Budget. Für häufig wechselnde Daten oder den Bedarf nach direkten Quellennachweisen bleibt RAG oder eine hybride Routing-Architektur über den Query Complexity Analyzer die angemessene Wahl.

Quelle: AWS AI Blog

FAQ

Was ist der zentrale Unterschied zwischen TAKC und klassischer RAG?
TAKC komprimiert den gesamten Wissenskorpus task-spezifisch im Voraus, während RAG zur Laufzeit nur die ähnlichsten Fragmente aus einer Vektordatenbank abruft. TAKC erhält dadurch besser dokumentenübergreifende Zusammenhänge.

Welche AWS-Dienste bilden das Fundament der TAKC-Referenzarchitektur?
Die Implementierung nutzt Amazon Bedrock für LLM-basierte Komprimierung, AWS Lambda für Compute, Amazon ElastiCache Serverless für Caching, Amazon S3 für Speicherung, API Gateway, Cognito und WAF – vollständig über AWS CDK provisioniert.

Wann sollte ein Unternehmen TAKC statt oder neben RAG einsetzen?
TAKC ist vorteilhaft bei stabilen Wissensbasen, komplexen analytischen Aufgaben mit dokumentenübergreifender Synthese und knappen Token-Budgets. RAG bleibt für häufig aktualisierte Daten und den expliziten Bedarf an Quellennachweisen relevant. Viele Systeme profitieren von einer kombinierten Routing-Logik.

Wo ist die Referenzimplementierung verfügbar?
Die Open-Source-Implementierung befindet sich im GitHub-Repository aws-samples/sample-bedrock-takc-compression.