NVIDIA anunță o nouă clasă de supercomputere DGX AI – TechCult

NVIDIA a anunțat o nouă clasă de supercomputere DGX AI numită DGX GH200 la Computex 2023. Noul supercomputer este alimentat de Supercipuri NVIDIA GH200 Grace Hopper si Sistemul de comutare NVIDIA NVLink pentru a crea un model de generație următoare pentru generativ aplicații AI.

Cu utilizări masive ale spațiului de memorie partajat Tehnologia de interconectare NVLink cu sistemul de comutare NVLink care se poate combina 256 Supercipuri GH200, permițându-i să funcționeze ca un singur sistem GPU. Această tehnologie oferă supercomputerului 1 exaflop de performanță și 144 terabytes de memorie partajată. Noul computer va avea de aproape 500 de ori mai multă memorie decât generațiile anterioare de supercomputere NVIDIA.

Jensen Huang, fondator și CEO al NVIDIA, a declarat odată cu anunțul: „IA generativă, modelele de limbaj mari și sistemele de recomandare sunt motoarele digitale ale economiei moderne, DGX GH200 AI supercalculatoarele integrează cele mai avansate tehnologii accelerate de calcul și rețele NVIDIA pentru a extinde frontiera AI.”

Supercipurile GH200 revoluționează conexiunea PCIe convențională CPU-la-GPU prin integrarea unui procesor NVIDIA Grace bazat pe Arm cu un GPU NVIDIA H100 Tensor Core într-o singură unitate. Această descoperire este posibilă prin implementarea Cipul NVIDIA NVLink-C2C se conectează. Ca rezultat, lățimea de bandă dintre GPU și CPU experimentează o creștere remarcabilă de 7 ori în comparație cu cea mai avansată tehnologie PCIe disponibilă.

Acest design inovator reduce semnificativ consumul de energie de interconectare de peste 5 ori. Supercipurile GH200 introduc, de asemenea, impresionantul Bloc de construcție GPU cu arhitectură Hopper de 600 GB, conceput special pentru supercalculatoarele DGX GH200.

DGX GH200 este primul de acest gen care se împerechează Supercipuri Grace Hopper cu sistemul de comutare NVIDIA NVLink. Generația anterioară de computere a furnizat doar opt GPU-uri pentru a fi combinate cu NVLink ca un singur GPU fără a compromite performanța.

Noul supercomputer oferă o lățime de bandă NVLink de 0,48 ori mai mare decât modelele anterioare, permițându-i să devină un supercomputer AI masiv cu simplitatea programării unui singur GPU.

Google Cloud, Meta, și Microsoft sunt unii dintre primii care au acces la DGX GH200 pentru a-și explora sarcinile de lucru AI generative. Mai devreme Microsoft a semnat, de asemenea, un acord de licență de 10 ani cu NVIDIA. De asemenea, se așteaptă ca compania să furnizeze designul unui nou supercomputer ca model pentru serviciile cloud și alte hiperscalere pentru ca aceștia să le personalizeze în continuare pentru infrastructura lor.

Mark Lohmeyer, vicepreședintele Compute la Google Cloud a spus, „Construirea modelelor generative avansate necesită abordări inovatoare ale infrastructurii AI, noua scară NVLink și memoria partajată a lui Grace Hopper Supercipurile abordează blocajele cheie în IA la scară largă și așteptăm cu nerăbdare să-i explorăm capacitățile pentru Google Cloud și AI-ul nostru generativ inițiative.”

NVIDIA aduce și el Supercalculatorul Helios care va fi alimentat de tehnologia DGX200. Aparatul va fi introdus cu NVIDIA Quantum-2 InfiniBand conectarea în rețea pentru a supraîncărca debitul de date pentru antrenarea modelelor mari de IA.

Pe măsură ce NVIDIA anunță o nouă clasă de supercomputere DGX AI, compania lucrează continuu la îmbunătățirea integrării AI, NVIDIA a dezvăluit recent ACE pentru jocuri la Computex 2023 pentru a aduce AI în lumea jocurilor. Supercomputerele Helios și NVIDIA DGX200 sunt, de asemenea, de așteptat să fie disponibile până la sfârșitul acestui an, marcând începutul unei noi ere în AI și tehnologia computerelor.

Sursă: Sala de știri NVIDIA