NVIDIA kündigt neue Klasse von DGX-KI-Supercomputern an – TechCult

NVIDIA hat auf der Computex 2023 eine neue Klasse von DGX-KI-Supercomputern mit dem Namen DGX GH200 angekündigt. Der neue Supercomputer wird angetrieben von NVIDIA GH200 Grace Hopper Superchips und das NVIDIA NVLink-Switch-System ein Modell der nächsten Generation für Generative zu schaffen KI-Apps.

Mit enormer gemeinsamer Speichernutzung NVLink-Verbindungstechnologie mit dem NVLink Switch System, das kombiniert werden kann 256 GH200 Superchips, sodass es als einzelnes GPU-System funktionieren kann. Diese Technologie verleiht dem Supercomputer eine Leistung von 1 Exaflop und 144 Terabyte gemeinsamen Speicher. Der neue Computer wird über fast 500-mal mehr Speicher verfügen als die vorherigen Generationen der NVIDIA-Supercomputer.

Jensen Huang, Gründer und CEO von NVIDIA, sagte bei der Ankündigung: „Generative KI, große Sprachmodelle und Empfehlungssysteme sind die digitalen Motoren der modernen Wirtschaft, DGX GH200 AI.“ Supercomputer integrieren die fortschrittlichsten beschleunigten Rechen- und Netzwerktechnologien von NVIDIA, um die Grenzen von zu erweitern KI.“

Die GH200-Superchips revolutionieren die herkömmliche CPU-zu-GPU-PCIe-Verbindung, indem sie eine Arm-basierte NVIDIA Grace-CPU mit einer NVIDIA H100 Tensor Core-GPU in einer einzigen Einheit integrieren. Dieser Durchbruch wird durch die Implementierung von ermöglicht NVIDIA NVLink-C2C-Chip-Verbindungen. Dadurch erfährt die Bandbreite zwischen GPU und CPU eine bemerkenswerte Steigerung um das Siebenfache im Vergleich zur fortschrittlichsten verfügbaren PCIe-Technologie.

Dieses innovative Design reduziert den Stromverbrauch der Verbindungen um mehr als das Fünffache. Auch die GH200-Superchips stellen Beeindruckendes vor 600 GB GPU-Baustein mit Hopper-Architektur, speziell zugeschnitten für DGX GH200-Supercomputer.

Der DGX GH200 ist der erste seiner Art, der gekoppelt werden kann Grace Hopper Superchips mit dem NVIDIA NVLink Switch System. Die vorherige Computergeneration verfügte nur über acht GPUs, die ohne Leistungseinbußen mit NVLink zu einer GPU kombiniert werden konnten.

Der neue Supercomputer bietet 0,48-mal mehr NVLink-Bandbreite als die Vorgängermodelle und ermöglicht so die Umwandlung in einen riesigen KI-Supercomputer mit der Einfachheit der Programmierung einer einzelnen GPU.

Google Cloud, Meta, Und Microsoft gehören zu den ersten, die Zugang zum DGX GH200 erhalten, um dessen generative KI-Workloads zu erkunden. Früher Microsoft hat außerdem einen 10-jährigen Lizenzvertrag mit NVIDIA unterzeichnet. Es wird außerdem erwartet, dass das Unternehmen den Entwurf eines neuen Supercomputers als Blaupause für Cloud-Dienste und andere Hyperscaler bereitstellt, damit diese ihre Infrastruktur weiter anpassen können.

Mark Lohmeyer, Vizepräsident für Compute bei Google Cloud, sagte: „Der Aufbau fortschrittlicher generativer Modelle erfordert innovative Ansätze für die KI-Infrastruktur, die neue NVLink-Skala und das gemeinsame Gedächtnis von Grace Hopper.“ Superchips beheben wichtige Engpässe in der groß angelegten KI und wir freuen uns darauf, ihre Fähigkeiten für Google Cloud und unsere generative KI zu erkunden Initiativen.“

NVIDIA bringt auch mit Helios-Supercomputer das mit der DGX200-Technologie ausgestattet sein wird. Die Maschine wird mit vorgestellt NVIDIA Quantum-2 InfiniBand Vernetzung zur Steigerung des Datendurchsatzes für das Training großer KI-Modelle.

Während NVIDIA eine neue Klasse von DGX-KI-Supercomputern ankündigt, arbeitet das Unternehmen kontinuierlich an der Verbesserung der KI-Integration. NVIDIA hat kürzlich ACE für Spiele vorgestellt auf der Computex 2023, um KI in die Welt des Gamings zu bringen. Die Supercomputer Helios und NVIDIA DGX200 werden voraussichtlich ebenfalls bis Ende dieses Jahres verfügbar sein und damit den Beginn einer neuen Ära in der KI- und Computertechnologie markieren.

Quelle: NVIDIA-Newsroom