ASUS Rack GPU Server Blackwell Ultra HGX B300 XA NB3I-E12

ASUS Rack GPU Server Blackwell Ultra HGX B300 XA NB3I-E12

NVIDIA HGX™ B300 8 GPU Server

Ausgestattet mit dem NVIDIA Blackwell HGX™ B300 8-GPU-System und zwei Intel® Xeon® 6 Scalable Prozessoren ist das ASUS XA NB3I-E12 speziell für rechenintensive KI-Workloads konzipiert. Es bietet acht integrierte CX8-InfiniBand-Anbindungen direkt an den GPUs, fünf PCIe-Erweiterungssteckplätze, 32 DIMM-Slots, Platz für zehn NVMe-SSDs sowie zwei 10-Gb-LAN-Ports. Das System wandelt große Datenmengen effizient in verwertbare Intelligenz um und eignet sich damit besonders für Großunternehmen und Cloud-Service-Provider, die Large Language Models (LLMs) betreiben, für Forschungs- und Universitätseinrichtungen im Bereich wissenschaftliches Computing (HPC) sowie für Branchen wie Finanzwesen und Automotive, die auf Training und Inference von KI-Modellen setzen. Durch die hohe GPU-Dichte, schnelle InfiniBand-Vernetzung und umfangreiche Speicher- sowie Erweiterungsmöglichkeiten unterstützt das ASUS XA NB3I-E12 anspruchsvolle KI- und HPC-Szenarien in Echtzeit.

Unübertroffene beschleunigte Computing-Plattform mit durchgängiger End-to-End-Performance

Das NVIDIA HGX B300 kombiniert NVIDIA Blackwell Ultra GPUs mit Hochgeschwindigkeits-Interconnects und läutet damit eine neue Ära des beschleunigten Computing und der generativen KI im Rechenzentrum ein. Als führende Scale-up-Plattform für beschleunigte Workloads sind HGX-Systeme auf Basis der NVIDIA Blackwell-Architektur speziell für die anspruchsvollsten Anwendungen in den Bereichen generative KI, Datenanalyse und High-Performance Computing (HPC) konzipiert.

Das HGX B300 bietet KI-Performance auf neuem Niveau und erreicht bei Modellen wie Llama 3.1 405B bis zu elfmal höhere Inferenzleistung im Vergleich zur vorherigen NVIDIA Hopper™-Generation. Angetrieben von der zweiten Generation der Transformer Engine mit der speziellen Blackwell Tensor Core-Technologie sowie TensorRT™-LLM-Optimierungen beschleunigt es die Inferenz für Large Language Models und ermöglicht gleichzeitig bis zu viermal schnelleres Training mit 8-Bit-Gleitkomma (FP8) und neuen Präzisionsstufen.

Diese Leistungssteigerung wird zusätzlich durch NVLink der fünften Generation mit 1,8 TB/s GPU-zu-GPU-Anbindung, InfiniBand-Netzwerktechnologie und die NVIDIA Magnum IO™-Software unterstrichen – und gewährleistet so eine effiziente Skalierbarkeit für Unternehmen und großflächige GPU-Computing-Cluster.

Integrierte CX8-Unterstützung mit XDR / 800G pro SXM

Ultra-schnelles, latenzarmes Networking direkt an der GPU - Die GPU verfügt über acht integrierte CX8-InfiniBand-Ports mit bis zu 800 G/s Netzwerkbandbreite. Diese native Integration sorgt für extrem niedrige Latenz und Hochgeschwindigkeits-Konnektivität, macht zusätzliche Netzwerkkarten (NICs) überflüssig, vereinfacht das Systemdesign, reduziert den Verkabelungsaufwand und optimiert zugleich Energieverbrauch sowie Platzeffizienz.

Modulares Design mit reduziertem Kabelbedarf

Einfache Fehlersuche und optimierte Thermik - Das modulare Design reduziert den Kabelbedarf deutlich, beschleunigt die Systemmontage und vereinfacht die Kabelführung. Gleichzeitig wird die thermische Performance verbessert, da weniger Kabel den Luftstrom behindern. Board-to-Board-Verbindungen senken zusätzlich Kabelverluste und Latenz, erleichtern die Wartung und gewährleisten eine hohe Servicefreundlichkeit.

Fortschrittliche NVIDIA Technologien

Die volle Leistung von NVIDIA GPUs, DPUs, NVLink, NVSwitch und Networking - Das XA NB3I-E12 beschleunigt die Entwicklung von KI und Data Science durch den Einsatz von NVLink und NVSwitch der vierten Generation sowie der NVIDIA ConnectX-8 SmartNIC. Zusätzlich ermöglicht es GPUDirect® RDMA, Storage-Optimierung mit NVIDIA Magnum IO und NVIDIA AI Enterprise – die Softwareebene der NVIDIA AI-Plattform.

Technische Spezifikationen

• 9 HE ASUS Rack Server Gehäuse
• NVIDIA HGX B300 288 GB 8-GPU Baseboard
• 2x Intel Xeon 6776P Prozessor mit 350 Watt TDP
• 128 Cores, 256 Threads (im Verbund)
• 8x NVIDIA Blackwell Ultra B300 GPU
• 1.800 GB/s GPU Interconnect via NVIDIA NVLink
• bis zu 8.0 TB DDR5-6400 Arbeitsspeicher in 32 DIMM-Slots
• 8x OSFP-Port via NVIDIA® ConnectX®-8 SuperNIC (800 Gb/s)
• 2x 10 Gbit/s Ethernet via Intel X710-AT2
• 1x Management-LAN
• 10x 2.5" NVMe PCIe 5.0 x4 Hot-Swap Festplatteneinschübe
• 5x PCIe 5.0 für Erweiterungskarten (4x x16, 1x x8)
• 15 x 80 x 80 mm GPU-Lüfter (PWM), 5 x 60 x 56 mm Systemlüfter (PWM)
• 10x Netzteillüfter (40 mm)
• 3200 Watt 80 PLUS Titanium Netzteile (5+5) redundant