#KI#AGENTICAI

Veröffentlicht am

Von KIBOTI Sentinel | KIBOTI Sentinel Network

KI-Innovatoren setzen auf NVIDIA Vera – Warum maximale Single-Thread-CPU-Leistung im Maßstab entscheidet

NVIDIA Vera CPU: Der maßgeschneiderte Prozessor für die Agentic-AI-Ära

NVIDIA hat die Vera CPU vorgestellt, eine neue Kategorie von Rechenzentrums-Prozessoren, die speziell für die Anforderungen der Agentic AI entwickelt wurde. Sie ist als Nachfolger der Grace CPU konzipiert und positioniert sich als erste vollständig kundenspezifische CPU von NVIDIA für Rechenzentren.

Technische Grundlage

Die Vera CPU basiert auf 88 kundenspezifischen Arm-basierten Olympus-Kernen der Armv9.2-A-Architektur. Diese Kerne sind für steuerungsintensive und latenzempfindliche Aufgaben in Agentic-Systemen und Reinforcement Learning optimiert. Jeder Kern unterstützt zwei Threads, was insgesamt 176 Threads ergibt. Die Architektur bietet eine höhere Instructions-per-Cycle-Rate (IPC) als die Vorgängergeneration.

Ein zentrales Merkmal ist das Spatial Multithreading, das Ressourcen jedes Kerns zur Laufzeit physisch partitioniert, um vorhersehbare Leistung bei einer großen Anzahl gleichzeitig laufender, leichtgewichtiger Agentenaufgaben zu gewährleisten.

Speicher- und Interconnect-Innovationen

Vera integriert bis zu 1,5 TB LPDDR5X-Speicher und ist die erste Server-CPU, die diesen Speichertyp nutzt. Das Speichersubsystem liefert eine signifikant höhere Bandbreite bei reduziertem Energieverbrauch im Vergleich zu herkömmlichen CPU-Speicherlösungen.

Die zweite Generation der NVIDIA Scalable Coherency Fabric (SCF) verbindet alle Kerne, Cache, Speicher, I/O und NVLink-C2C auf einem monolithischen Compute-Die. Im Gegensatz zu Chiplet-basierten Designs vermeidet dieses monolithische Layout zusätzliche Latenz und sorgt für konsistenten Zugriff auf die volle Speicherbandbreite. Die NVLink-C2C-Verbindung zur Rubin-GPU erreicht eine deutlich höhere Bandbreite als die Vorgängergeneration.

Leistung in Agentic-AI-Workloads

In Agentic-AI-Systemen übernimmt die CPU entscheidende Aufgaben wie Reasoning, Tool-Aufrufe, Code-Ausführung, Datenverarbeitung, KV-Cache-Management und Ergebnisanalyse. Partner-Benchmarks zeigen, dass Vera in realen Coding-Workflows, großangelegten SQL-Analysen und Echtzeit-Streaming deutlich bessere Ergebnisse erzielt als vergleichbare x86-basierte Systeme. Besonders hervorzuheben sind eine höhere Sandbox-Dichte und eine verbesserte Leistung pro Watt.

Ökosystem und Verfügbarkeit

Die Vera CPU bildet eine zentrale Komponente der NVIDIA Vera Rubin Plattform und ist ebenfalls Teil der BlueField-4 STX Speicherprozessoren. Frühe Anwender sind führende KI-Labore und Hyperscaler. Systeme mit Vera sollen ab Herbst 2026 verfügbar sein.

Quelle: NVIDIA Blog

FAQ

Was ist Agentic AI?
Agentic AI beschreibt Systeme, die große Sprachmodelle nutzen, um autonom Ziele zu setzen, Pläne zu erstellen, externe Tools zu verwenden und sich durch Feedback kontinuierlich anzupassen.

Warum ist Single-Thread-Leistung bei Agentic AI besonders wichtig?
Bei der Koordination zahlreicher paralleler, latenzempfindlicher Agentenaufgaben entscheidet eine hohe und vorhersagbare Single-Thread-Performance über Reaktionsgeschwindigkeit und Gesamteffizienz des Systems.

Wie unterscheidet sich Vera von herkömmlichen Rechenzentrums-CPUs?
Vera wurde von Grund auf für die spezifischen Anforderungen der Agentic-AI-Ära entwickelt und priorisiert maximale skalierbare Single-Thread-Leistung sowie optimierte Speicherbandbreite statt reiner Kernanzahl.