End-to-End beschleunigte Computing-Plattform

Das NVIDIA HGX™ B300 kombiniert 8x NVIDIA Blackwell Ultra 300 Tensor Core GPUs mit Hochgeschwindigkeitsverbindungen, um die hochoptimierte und performante Server zu bilden. Konfigurationen mit acht GPUs bieten einen GPU-Speichervon 2.1 Terabyte (TB) und einer aggregierten NVLink-Bandbreite von 14.4 Terabyte pro Sekunde (TB/s) für die Kommunikation der GPUs untereinander. Dies kombiniert mit 144 PetaFLOPS Leistung schafft eine beschleunigte leistungsstarke Scale-up-Serverplattform für KI und Hochleistungs-Computing (HPC).

Moderne KI Fabriken und Supercomputing Einrichtungen bestehen aus einer Vielzahl von GPUs, die gemeinsam wie eine einzige verteilte Recheneinheit arbeiten. Damit diese Beschleuniger durchgehend effizient genutzt werden können, benötigen Anwendungen aus den Bereichen künstliche Intelligenz und Wissenschaft eine exakt vorhersagbare Latenz, verlustfreie Datenübertragung, gleichbleibende Iterationszeiten sowie die Fähigkeit, über einzelne Rechenzentren hinaus auch standortübergreifend zu wachsen. Die Netzwerklösungen von NVIDIA schaffen hierfür eine durchgängige Infrastruktur, indem sie verschiedene Technologien miteinander verzahnen. Dazu zählen NVLink für die Skalierung innerhalb eines Systems, Quantum InfiniBand und Spectrum X Ethernet für die Erweiterung über viele Systeme hinweg, Spectrum XGS Ethernet für die Vernetzung mehrerer Rechenzentren, BlueField DPUs und DOCA für infrastrukturelle Dienste sowie moderne Ansätze aus der Silizium Photonik. In dieser Kombination entsteht die Grundlage für einige der leistungsfähigsten KI Rechenzentren weltweit.