Nvidia erweitert seinen KI-Vorteil über die reine GPU-Leistung hinaus. Das Unternehmen entwickelt eine integrierte Plattform für Rechenzentren, die Effizienz durch intelligenteres Verkehrsmanagement und die Entlastung von Host-CPUs steigert. Dieser Ansatz adressiert die wachsende Komplexität der Datenverkehrsverwaltung und Speicherengpässe in großen KI-Rechenzentren.

Die dritte Säule des Computings

Zentrale Technologie sind Data Processing Units (DPUs). Sie werden neben CPUs und GPUs als dritte Säule des Computings positioniert. DPUs sind programmierbare Prozessoren, die speziell für die Bewegung und Verarbeitung von Daten in Rechenzentren entwickelt wurden. Sie integrieren einen softwareprogrammierbaren Multi-Core-CPU, eine Hochleistungs-Netzwerkschnittstelle und flexible Beschleunigungs-Engines.

Die NVIDIA BlueField DPU Plattform lagert Netzwerk-, Speicher- und Sicherheitsfunktionen von den Host-CPUs aus. Die BlueField-3 DPU bietet 400 Gbit/s Konnektivität und Line-Rate-Verarbeitung für softwaredefiniertes Networking, Storage und Cybersicherheit. Die BlueField-4 DPU ist eine 800 Gbit/s Infrastrukturplattform für Gigascale AI Factories und liefert höheren Durchsatz, verbesserte Energieeffizienz und erhöhte Sicherheit.

Ergänzende Netzwerktechnologien

Nvidia bietet SuperNICs als Netzwerkbeschleuniger für KI-Cloud-Rechenzentren, die eine robuste Konnektivität zwischen GPU-Servern gewährleisten. Die Spectrum-X Networking Platform ist eine beschleunigte Ethernet-Lösung für KI-Anwendungen. Die Quantum InfiniBand Platform erreicht Skalierbarkeit bis 800 Gbit/s für KI, ML, HPC und Datenanalyse.

NVIDIA DOCA dient als Software Development Kit, das die BlueField-Plattform nutzbar macht und die Erstellung von Anwendungen zur Auslagerung, Beschleunigung und Isolierung von Rechenzentrums-Workloads ermöglicht.

Die NVIDIA Vera Rubin Architektur integriert spezialisierte CPUs und Beschleuniger zur Optimierung des Datenflusses. Sie fungiert als Host-CPU in GPU-beschleunigten Systemen und steuert Datenbewegung, Speichermanagement und Systemorchestrierung.

Vorteile für KI-Infrastrukturen

DPUs ermöglichen intelligente Verkehrssteuerung durch adaptive Routenführung, telemetriebasierte Überlastungskontrolle, verlustfreies Networking, RDMA, Leistungsisolierung und In-Network Computing. Sie entlasten Host-CPUs, indem sie Netzwerk-, Speicher- und Sicherheitsaufgaben übernehmen. BlueField DPUs bieten zudem Multi-Tenant-Isolation mit Hardware-Durchsetzung.

Die Technologien verbessern Latenz, Durchsatz, Energieeffizienz und Skalierbarkeit. Sie beschleunigen Software-Defined Networking und Network Function Virtualization. Nvidia erweitert die Plattform auch auf AI-RAN für 5G- und 6G-Netzwerke.

Quelle: TechCrunch AI

FAQ

Was sind DPUs bei Nvidia?
DPUs (Data Processing Units) sind programmierbare Prozessoren, die als dritte Säule neben CPUs und GPUs positioniert werden und speziell für Datenbewegung und -verarbeitung in Rechenzentren entwickelt wurden.

Welche Funktion hat die BlueField-Plattform?
Die BlueField DPU Plattform lagert Netzwerk-, Speicher- und Sicherheitsfunktionen von den Host-CPUs aus und ermöglicht dadurch eine effizientere Nutzung der Rechenressourcen in KI-Rechenzentren.

Was ist das Ziel der Nvidia-Strategie jenseits der GPU?
Nvidia positioniert sich als Anbieter einer umfassenden, integrierten KI-Plattform, die Hardware wie DPUs und SuperNICs mit Software wie DOCA, Spectrum-X und Quantum InfiniBand kombiniert, um End-to-End-Lösungen für KI-Rechenzentren und Gigascale AI Factories bereitzustellen.