NVIDIA annuncia una nuova classe di supercomputer AI DGX: TechCult

NVIDIA ha annunciato una nuova classe di supercomputer AI DGX denominata DGX GH200 al Computex 2023. Il nuovo supercomputer è alimentato da Superchip NVIDIA GH200 Grace Hopper e il Sistema di commutazione NVIDIA NVLink creare un modello di nuova generazione per la generazione App AI.

Con enormi usi di spazio di memoria condivisa Tecnologia di interconnessione NVLink con il sistema NVLink Switch che può combinare 256 Superchip GH200, permettendogli di funzionare come un singolo sistema GPU. Questa tecnologia fornisce al supercomputer 1 exaflop di prestazioni e 144 terabyte di memoria condivisa. Il nuovo computer avrà quasi 500 volte più memoria rispetto alle precedenti generazioni di supercomputer NVIDIA.

Jensen Huang, fondatore e CEO di NVIDIA, ha dichiarato con l'annuncio, "L'IA generativa, i modelli linguistici di grandi dimensioni e i sistemi di raccomandazione sono i motori digitali dell'economia moderna, DGX GH200 AI i supercomputer integrano le più avanzate tecnologie di elaborazione e rete accelerate di NVIDIA per espandere la frontiera di IA.”

I Superchip GH200 rivoluzionano la tradizionale connessione PCIe CPU-GPU integrando una CPU NVIDIA Grace basata su Arm con una GPU NVIDIA H100 Tensor Core all'interno di una singola unità. Questa svolta è resa possibile attraverso l'implementazione di Interconnessioni chip NVIDIA NVLink-C2C. Di conseguenza, la larghezza di banda tra la GPU e la CPU subisce un notevole aumento di 7 volte rispetto alla più avanzata tecnologia PCIe disponibile.

Questo design innovativo riduce significativamente il consumo energetico di interconnessione di oltre 5 volte. I Superchip GH200 introducono anche l'impressionante Componente di base della GPU dell'architettura Hopper da 600 GB, su misura per i supercomputer DGX GH200.

DGX GH200 è il primo del suo genere ad essere accoppiato Superchip di Grace Hopper con il sistema switch NVIDIA NVLink. La precedente generazione di computer forniva solo otto GPU da combinare con NVLink come un'unica GPU senza compromettere le prestazioni.

Il nuovo supercomputer fornisce 0,48 volte più larghezza di banda NVLink rispetto ai modelli precedenti, consentendogli di diventare un enorme supercomputer AI con la semplicità di programmazione di una singola GPU.

Google Cloud, Meta, E Microsoft sono tra i primi ad avere accesso al DGX GH200 per esplorare i suoi carichi di lavoro di intelligenza artificiale generativa. Prima Microsoft ha anche firmato un contratto di licenza di 10 anni con NVIDIA. La società dovrebbe inoltre fornire la progettazione di un nuovo supercomputer come modello per i servizi cloud e altri hyperscaler da personalizzare ulteriormente per la propria infrastruttura.

Mark Lohmyer, vicepresidente di Compute presso Google Cloud, ha dichiarato: “La creazione di modelli generativi avanzati richiede approcci innovativi all'infrastruttura AI, la nuova scala NVLink e la memoria condivisa di Grace Hopper I superchip risolvono i principali colli di bottiglia nell'intelligenza artificiale su larga scala e non vediamo l'ora di esplorare le sue capacità per Google Cloud e la nostra intelligenza artificiale generativa iniziative”.

Anche NVIDIA sta portando Supercomputer Helios che sarà alimentato dalla tecnologia DGX200. La macchina sarà presentata con NVIDIA Quantum-2 InfiniBand networking per potenziare il throughput dei dati per l'addestramento di grandi modelli di intelligenza artificiale.

Mentre NVIDIA annuncia una nuova classe di supercomputer AI DGX, l'azienda lavora costantemente per migliorare l'integrazione dell'IA, NVIDIA ha recentemente presentato ACE per i giochi al Computex 2023 per portare l'IA nel mondo dei giochi. Anche i supercomputer Helios e NVIDIA DGX200 dovrebbero essere disponibili entro la fine di quest'anno, segnando l'inizio di una nuova era nell'intelligenza artificiale e nella tecnologia informatica.

Fonte: Sala stampa NVIDIA