NVIDIA kunngjør ny klasse av DGX AI superdatamaskiner – TechCult

NVIDIA har annonsert en ny klasse DGX AI superdatamaskiner kalt DGX GH200 på Computex 2023. Den nye superdatamaskinen drives av NVIDIA GH200 Grace Hopper Superchips og NVIDIA NVLink Switch System å lage en neste generasjons modell for generative AI-apper.

Med massiv bruk av delt minneplass NVLink sammenkoblingsteknologi med NVLink Switch System som kan kombineres 256 GH200 Superchips, slik at den kan fungere som et enkelt GPU-system. Denne teknologien gir superdatamaskinen 1 eksaflop ytelse og 144 terabyte delt minne. Den nye datamaskinen vil ha nesten 500 ganger mer minne enn de tidligere generasjonene av NVIDIA-superdatamaskiner.

Jensen Huang, grunnlegger og administrerende direktør i NVIDIA, sa med kunngjøringen, "Generativ AI, store språkmodeller og anbefalingssystemer er de digitale motorene i den moderne økonomien, DGX GH200 AI superdatamaskiner integrerer NVIDIAs mest avanserte akselererte databehandlings- og nettverksteknologier for å utvide grensen til AI."

GH200 Superchips revolusjonerer den konvensjonelle CPU-til-GPU PCIe-tilkoblingen ved å integrere en Arm-basert NVIDIA Grace CPU med en NVIDIA H100 Tensor Core GPU i en enkelt enhet. Dette gjennombruddet er muliggjort gjennom implementering av

NVIDIA NVLink-C2C-brikkeforbindelser. Som et resultat opplever båndbredden mellom GPU og CPU en bemerkelsesverdig 7x økning sammenlignet med den mest avanserte PCIe-teknologien som er tilgjengelig.

Denne innovative designen reduserer strømforbruket for sammenkoblinger med over 5 ganger. GH200 Superchips introduserer også det imponerende 600 GB Hopper-arkitektur GPU-byggekloss, skreddersydd spesielt for DGX GH200 superdatamaskiner.

DGX GH200 er den første i sitt slag som pares Grace Hopper Superchips med NVIDIA NVLink Switch System. Den forrige generasjonen av datamaskiner ga kun åtte GPUer som kunne kombineres med NVLink som én GPU uten at det gikk på bekostning av ytelsen.

Den nye superdatamaskinen gir 0,48 ganger mer NVLink-båndbredde enn de tidligere modellene, slik at den kan bli en massiv AI-superdatamaskin med enkelheten til å programmere en enkelt GPU.

Google Cloud, Meta, og Microsoft er noen av de første som får tilgang til DGX GH200 for å utforske dens generative AI-arbeidsmengder. Tidligere Microsoft signerte også en 10 år lang lisensavtale med NVIDIA. Selskapet forventes også å gi utformingen av en ny superdatamaskin som en blåkopi for skytjenester og andre hyperskalere slik at de kan tilpasses infrastrukturen ytterligere.

Mark Lohmeyer, sa visepresident for Compute i Google Cloud, "Å bygge avanserte generative modeller krever innovative tilnærminger til AI-infrastruktur, den nye NVLink-skalaen og delt minne til Grace Hopper Superchips adresserer viktige flaskehalser i storskala AI, og vi ser frem til å utforske mulighetene for Google Cloud og vår generative AI initiativ.»

NVIDIA kommer også med Helios superdatamaskin som vil bli drevet av DGX200-teknologi. Maskinen vil bli introdusert med NVIDIA Quantum-2 InfiniBand nettverk for å øke datagjennomstrømningen for trening av store AI-modeller.

Når NVIDIA kunngjør en ny klasse DGX AI superdatamaskiner, jobber selskapet kontinuerlig med å forbedre AI-integrasjon, NVIDIA avduket nylig ACE for Games på Computex 2023 for å bringe AI inn i spillverdenen. Helios- og NVIDIA DGX200-superdatamaskinene forventes også å være tilgjengelige mot slutten av dette året, og markerer begynnelsen på en ny æra innen AI og datateknologi.

Kilde: NVIDIA nyhetsrom