PNY NVIDIA L4-24GB PCIe 4.0 Data Center GPU

PNY NVIDIA L4-24GB PCIe 4.0 Data Center GPU (TCSL4PCIE-PB)

NVIDIA L4 Tensor Core GPU

Bahnbrechender Universalbeschleuniger für effizientes Video, KI und Grafik

Mit der NVIDIA KI-Plattform und dem Full-Stack-Ansatz ist L4 für Video und Inferenzen im großen Maßstab für eine breite Palette von KI-Anwendungen optimiert, darunter Empfehlungen, sprachbasierte KI-Avatar-Assistenten, generative KI, visuelle Suche und Contact-Center-Automatisierung, um die besten personalisierten Erfahrungen zu liefern. Als effizientester NVIDIA-Beschleuniger für den Mainstream ermöglichen mit L4 ausgestattete Server eine bis zu 120-fach höhere KI-Videoleistung im Vergleich zu CPU-Lösungen, während sie eine 2,7-fach höhere generative KI-Leistung und eine über 4-fach höhere Grafikleistung im Vergleich zur vorherigen Generation bieten. Die Vielseitigkeit von NVIDIA L4 und der energieeffiziente, flache Formfaktor mit nur einem Steckplatz machen ihn ideal für globale Implementierungen, einschließlich Edge-Standorten.

Da KI und Video immer allgegenwärtiger werden, steigt die Nachfrage nach effizientem, kostengünstigem Computing mehr denn je. NVIDIA L4-GPUs bieten eine bis zu 99 % bessere Energieeffizienz und niedrigere Gesamtbetriebskosten im Vergleich zu herkömmlichen CPU-basierten Infrastrukturen. Dadurch können Unternehmen den Platzbedarf in ihren Racks reduzieren und den CO2-Fußabdruck deutlich verringern, während sie ihre Rechenzentren für viel mehr Benutzer skalieren können. Die Energie, die durch die Umstellung von CPUs auf NVIDIA L4s in einem 2-Megawatt-Rechenzentrum eingespart wird, kann über 2.000 Haushalte ein Jahr lang mit Strom versorgen oder den CO2-Ausstoß von 172.000 Bäumen über 10 Jahre hinweg ausgleichen.

Download NVIDIA L4 Tensor Core GPU PDF Datenblatt

NVIDIA L4 - Eckdaten

NVIDIA L4 - Unterstützte Betriebssysteme

• Windows Server 2012 R2
• Windows Server 2016 1607, 1709
• Windows Server 2019
• RedHat CoreOS 4.7
• Red Hat Enterprise Linux 8.1-8.3
• Red Hat Enterprise Linux 7.7-7.9
• Red Hat Linux 6.6+
• SUSE Linux Enterprise Server 15 SP2
• SUSE Linux Enterprise Server 12 SP 3+
• Ubuntu 14.04 LTS/16.04/18.04 LTS/20.04 LTS
• vGPU SOFTWARE SUPPORT

NVIDIA L4 - vGPU Software Unterstützung

• NVIDIA Virtual Apps | vApps
• NVIDIA Virtual PC | vPC
• NVIDIA RTX Virtual Workstation | vWS
• NVIDIA Virtual Compute Server | vCS
• NVIDIA AI Enterprise

Lieferumfang

• NVIDIA L4 PCIe mit angebrachter Low-Profile-Halterung
• Unmontierte Halterung für volle Höhe (ATX)

NVIDIA L4 ADA LOVELACE Architektur Merkmale

Tensor-Kerne der vierten Generation

Die neuen Tensor Cores der Ada Lovelace-Architektur wurden entwickelt, um transformative KI-Technologien wie intelligente Chatbots, generative KI, natürliche Sprachverarbeitung (NLP), Computer Vision und NVIDIA Deep Learning Super Sampling 3.0 (DLSS 3) zu beschleunigen. Ada Lovelace Tensor Cores bieten strukturierte Sparsamkeit und 8-Bit-Gleitkommapräzision (FP8) für eine bis zu viermal höhere Inferenzleistung im Vergleich zur vorherigen Generation1. FP8 reduziert den Speicherdruck im Vergleich zu größeren Genauigkeiten und beschleunigt den KI-Durchsatz erheblich.

RT-Kerne der dritten Generation

NVIDIA hat mit der Erfindung der RT Cores das Echtzeit-Raytracing Wirklichkeit werden lassen. Diese Rechenkerne auf dem Grafikprozessor wurden speziell für das leistungsintensive Raytracing-Rendering entwickelt. Die RT Cores der dritten Generation von Ada Lovelace haben einen doppelt so hohen Durchsatz bei der Überschneidung von Strahlen und Dreiecken und steigern die RT-TFLOP-Leistung um mehr als das Doppelte. NVIDIA Shader Execution Reordering (SER) verbessert die Leistung um mehr als das Dreifache und ermöglicht so tiefgreifende Erlebnisse für virtuelle Welten und eine noch nie dagewesene Produktivität für KI-basierte neuronale Grafiken und Cloud-Spiele.

Erweiterte Video- und Bildverarbeitungs-KI-Beschleunigung

Mit einem optimierten AV1-Stack hebt der NVIDIA L4 die Video- und KI-Beschleunigung auf die nächste Stufe und schafft eine breite Palette neuer Möglichkeiten für Anwendungsfälle wie Echtzeit-Videotranscoding, Streaming, Videokonferenzen, Augmented Reality (AR), Virtual Reality (VR) und KI. Mit vier Video-Decodern und zwei Video-Encodern in Kombination mit dem AV1-Videoformat können L4-Server über 1.0002 gleichzeitige Videoströme hosten und bieten eine 120-mal höhere End-to-End-Pipeline-Leistung für KI-Video als CPU-Lösungen3. Darüber hinaus beschleunigen vier JPEG-Dekoder Anwendungen, die eine hohe Bildverarbeitungsleistung benötigen, weiter.