NVIDIA napoveduje nov razred superračunalnikov DGX AI – TechCult

NVIDIA je na sejmu Computex 2023 napovedala nov razred superračunalnikov DGX AI z imenom DGX GH200. Novi superračunalnik poganja NVIDIA GH200 Grace Hopper Superchips in Preklopni sistem NVIDIA NVLink ustvariti model naslednje generacije za generative AI aplikacije.

Z veliko uporabo skupnega pomnilniškega prostora Tehnologija povezovanja NVLink s sistemom stikala NVLink, ki se lahko kombinira 256 GH200 Superchips, kar mu omogoča, da deluje kot sistem z enim GPE. Ta tehnologija zagotavlja superračunalniku 1 exaflop zmogljivosti in 144 terabajtov skupnega pomnilnika. Novi računalnik bo imel skoraj 500x več pomnilnika kot prejšnje generacije superračunalnikov NVIDIA.

Jensen Huang, ustanovitelj in izvršni direktor NVIDIA, je ob objavi povedal, »Generativni AI, veliki jezikovni modeli in sistemi priporočil so digitalni motorji sodobnega gospodarstva, DGX GH200 AI superračunalniki združujejo NVIDIA-ine najnaprednejše pospešene računalniške in omrežne tehnologije za razširitev meja AI."

GH200 Superchips revolucionira konvencionalno CPE-to-GPU PCIe povezavo z integracijo Arm-based NVIDIA Grace CPE-ja z NVIDIA H100 Tensor Core GPE v eni sami enoti. Ta preboj je mogoč z izvajanjem

Medsebojne povezave čipov NVIDIA NVLink-C2C. Kot rezultat, pasovna širina med GPE in CPE doživi izjemno 7-kratno povečanje v primerjavi z najnaprednejšo razpoložljivo tehnologijo PCIe.

Ta inovativna zasnova bistveno zmanjša porabo energije med povezovanjem za več kot 5-krat. GH200 Superchips predstavlja tudi impresivno 600GB Hopper arhitekturni gradnik GPU, prilagojen posebej za superračunalnike DGX GH200.

DGX GH200 je prvi te vrste za par Grace Hopper Superchips s stikalnim sistemom NVIDIA NVLink. Prejšnja generacija računalnikov je nudila samo osem grafičnih procesorjev, ki jih je bilo mogoče združiti z NVLink kot en grafični procesor brez kompromisov pri zmogljivosti.

Novi superračunalnik zagotavlja 0,48-krat večjo pasovno širino NVLink kot prejšnji modeli, kar mu omogoča, da postane ogromen superračunalnik AI s preprostostjo programiranja enega samega GPE-ja.

Google Cloud, Meta, in Microsoft so eni izmed prvih, ki so dobili dostop do DGX GH200 za raziskovanje njegovih generativnih delovnih obremenitev z umetno inteligenco. Prej Microsoft je podpisal tudi 10-letno licenčno pogodbo z NVIDIA. Pričakuje se tudi, da bo podjetje zagotovilo zasnovo novega superračunalnika kot načrt za storitve v oblaku in druge hiperskalerje, ki jih bodo lahko dodatno prilagodili svoji infrastrukturi.

Mark Lohmeyer, podpredsednik Compute pri Google Cloud je dejal, »Gradnja naprednih generativnih modelov zahteva inovativne pristope k infrastrukturi umetne inteligence, novo lestvico NVLink in skupni pomnilnik Grace Hopper Superčipi odpravljajo ključna ozka grla v obsežni umetni inteligenci in veselimo se raziskovanja njegovih zmogljivosti za Google Cloud in našo generativno umetno inteligenco pobude.”

NVIDIA prinaša tudi Superračunalnik Helios ki ga bo poganjala tehnologija DGX200. Stroj bo predstavljen z NVIDIA Quantum-2 InfiniBand povezovanje v omrežje za povečanje prepustnosti podatkov za usposabljanje velikih modelov AI.

Ker NVIDIA napoveduje nov razred superračunalnikov DGX AI, podjetje nenehno dela na izboljšanju integracije AI, NVIDIA je pred kratkim predstavila ACE for Games na Computexu 2023, da bi umetno inteligenco pripeljali v svet iger. Do konca tega leta naj bi bila na voljo tudi superračunalnika Helios in NVIDIA DGX200, kar bo pomenilo začetek nove dobe v AI in računalniški tehnologiji.

Vir: NVIDIA Newsroom