NVIDIA Mengumumkan Kelas Baru DGX AI Supercomputer – TechCult

NVIDIA telah mengumumkan kelas baru DGX AI Supercomputer bernama DGX GH200 di Computex 2023. Superkomputer baru ini ditenagai oleh NVIDIA GH200 Grace Hopper Superchip dan Sistem Sakelar NVIDIA NVLink untuk membuat model generasi berikutnya untuk generatif aplikasi AI.

Dengan penggunaan ruang memori bersama yang masif teknologi interkoneksi NVLink dengan Sistem Sakelar NVLink yang dapat digabungkan 256 GH200 Superchip, memungkinkannya berfungsi sebagai sistem GPU tunggal. Teknologi ini memberi superkomputer kinerja 1 exaflop dan memori bersama 144 terabyte. Komputer baru ini akan memiliki memori hampir 500x lebih banyak daripada superkomputer NVIDIA generasi sebelumnya.

Jensen Huang, pendiri dan CEO NVIDIA, mengatakan dengan pengumuman tersebut, “Generative AI, model bahasa besar, dan sistem pemberi rekomendasi adalah mesin digital ekonomi modern, DGX GH200 AI superkomputer mengintegrasikan teknologi komputasi dan jaringan terakselerasi NVIDIA yang paling canggih untuk memperluas batas AI.”

GH200 Superchips merevolusi koneksi PCIe CPU-ke-GPU konvensional dengan mengintegrasikan CPU NVIDIA Grace berbasis Arm dengan GPU NVIDIA H100 Tensor Core dalam satu unit. Terobosan ini dimungkinkan melalui penerapan Interkoneksi chip NVIDIA NVLink-C2C. Hasilnya, bandwidth antara GPU dan CPU mengalami peningkatan 7x yang luar biasa jika dibandingkan dengan teknologi PCIe tercanggih yang tersedia.

Desain inovatif ini secara signifikan mengurangi konsumsi daya interkoneksi lebih dari 5 kali lipat. GH200 Superchips juga memperkenalkan hal yang mengesankan Blok bangunan GPU arsitektur Hopper 600GB, dirancang khusus untuk superkomputer DGX GH200.

DGX GH200 adalah yang pertama dari jenisnya yang dipasangkan Superchip Grace Hopper dengan Sistem Sakelar NVIDIA NVLink. Komputer generasi sebelumnya hanya menyediakan delapan GPU untuk dipadukan dengan NVLink sebagai satu GPU tanpa mengurangi performa.

Superkomputer baru ini menyediakan bandwidth NVLink 0,48 kali lebih banyak daripada model sebelumnya, memungkinkannya menjadi superkomputer AI masif dengan kemudahan memprogram satu GPU.

Google Awan, Meta, Dan Microsoft adalah beberapa yang pertama mendapatkan akses ke DGX GH200 untuk menjelajahi beban kerja AI generatifnya. Lebih awal Microsoft juga menandatangani perjanjian lisensi selama 10 tahun dengan NVIDIA. Perusahaan juga diharapkan untuk menyediakan desain superkomputer baru sebagai cetak biru untuk layanan cloud dan hyperscaler lainnya agar mereka dapat menyesuaikan infrastruktur mereka lebih lanjut.

Mark Lohmeyer, wakil presiden Compute di Google Cloud berkata, “Membangun model generatif lanjutan memerlukan pendekatan inovatif untuk infrastruktur AI, Skala NVLink baru, dan memori bersama dari Grace Hopper Superchip mengatasi hambatan utama dalam AI skala besar dan kami berharap dapat mengeksplorasi kemampuannya untuk Google Cloud dan AI generatif kami inisiatif.”

NVIDIA juga membawa Superkomputer Helios yang akan ditenagai oleh teknologi DGX200. Mesin akan diperkenalkan dengan NVIDIA Quantum-2 InfiniBand jaringan untuk meningkatkan throughput data untuk melatih model AI besar.

Saat NVIDIA mengumumkan kelas baru DGX AI Supercomputer, perusahaan terus berupaya meningkatkan integrasi AI, NVIDIA baru-baru ini meluncurkan ACE for Games di Computex 2023 untuk menghadirkan AI ke dunia game. Superkomputer Helios dan NVIDIA DGX200 juga diharapkan akan tersedia pada akhir tahun ini, menandai dimulainya era baru dalam AI dan teknologi komputer.

Sumber: Ruang Berita NVIDIA