NVIDIA annoncerer ny klasse af DGX AI-supercomputere – TechCult

NVIDIA har annonceret en ny klasse af DGX AI Supercomputere ved navn DGX GH200 på Computex 2023. Den nye supercomputer er drevet af NVIDIA GH200 Grace Hopper Superchips og NVIDIA NVLink Switch System at skabe en næste generations model for generative AI apps.

Med massiv brug af delt hukommelsesplads NVLink sammenkoblingsteknologi med NVLink Switch System som kan kombineres 256 GH200 Superchips, så det kan fungere som et enkelt GPU-system. Denne teknologi giver supercomputeren 1 exaflop ydeevne og 144 terabyte delt hukommelse. Den nye computer vil have næsten 500 gange mere hukommelse end de tidligere generationer af NVIDIA-supercomputere.

Jensen Huang, grundlægger og administrerende direktør for NVIDIA, sagde med meddelelsen, "Generativ AI, store sprogmodeller og anbefalingssystemer er de digitale motorer i den moderne økonomi, DGX GH200 AI supercomputere integrerer NVIDIAs mest avancerede accelererede computer- og netværksteknologier for at udvide grænsen for AI."

GH200 Superchips revolutionerer den konventionelle CPU-til-GPU PCIe-forbindelse ved at integrere en Arm-baseret NVIDIA Grace CPU med en NVIDIA H100 Tensor Core GPU i en enkelt enhed. Dette gennembrud er muliggjort gennem implementering af

NVIDIA NVLink-C2C-chipforbindelser. Som et resultat oplever båndbredden mellem GPU'en og CPU'en et bemærkelsesværdigt 7x boost sammenlignet med den mest avancerede PCIe-teknologi til rådighed.

Dette innovative design reducerer sammenkoblingsstrømforbruget markant med over 5 gange. GH200 Superchips introducerer også det imponerende 600 GB Hopper-arkitektur GPU-byggeblok, skræddersyet specielt til DGX GH200 supercomputere.

DGX GH200 er den første af sin slags, der parres Grace Hopper Superchips med NVIDIA NVLink Switch System. Den tidligere generation af computere leverede kun otte GPU'er, der skulle kombineres med NVLink som én GPU uden at gå på kompromis med ydeevnen.

Den nye supercomputer giver 0,48 gange mere NVLink-båndbredde end de tidligere modeller, hvilket gør det muligt at blive en massiv AI-supercomputer med enkelheden ved at programmere en enkelt GPU.

Google Cloud, Meta, og Microsoft er nogle af de første til at få adgang til DGX GH200 for at udforske dens generative AI-arbejdsbelastninger. tidligere Microsoft underskrev også en 10 år lang licensaftale med NVIDIA. Virksomheden forventes også at levere designet af en ny supercomputer som et blueprint for cloud-tjenester og andre hyperscalere, så de kan tilpasse dem yderligere til deres infrastruktur.

Mark Lohmeyer, sagde vicepræsident for Compute hos Google Cloud, "At bygge avancerede generative modeller kræver innovative tilgange til AI-infrastruktur, den nye NVLink-skala og fælles hukommelse fra Grace Hopper Superchips adresserer vigtige flaskehalse i storstilet AI, og vi ser frem til at udforske dens muligheder for Google Cloud og vores generative AI initiativer.”

NVIDIA bringer også Helios supercomputer der vil blive drevet af DGX200-teknologi. Maskinen vil blive introduceret med NVIDIA Quantum-2 InfiniBand netværk for at øge datagennemstrømningen til træning af store AI-modeller.

Da NVIDIA annoncerer en ny klasse af DGX AI Supercomputere, arbejder virksomheden løbende på at forbedre AI-integration, NVIDIA afslørede for nylig ACE for Games på Computex 2023 for at bringe AI ind i gamingverdenen. Helios og NVIDIA DGX200 Supercomputere forventes også at være tilgængelige i slutningen af ​​dette år, hvilket markerer begyndelsen på en ny æra inden for AI og computerteknologi.

Kilde: NVIDIA Newsroom