NVIDIA tillkännager ny klass av DGX AI superdatorer – TechCult

NVIDIA har tillkännagivit en ny klass av DGX AI superdatorer med namnet DGX GH200 på Computex 2023. Den nya superdatorn drivs av NVIDIA GH200 Grace Hopper Superchips och den NVIDIA NVLink Switch System att skapa en nästa generations modell för generativa AI-appar.

Med massiv användning av delat minnesutrymme NVLink sammankopplingsteknik med NVLink Switch System som kan kombineras 256 GH200 Superchips, vilket gör att det fungerar som ett enda GPU-system. Denna teknik ger superdatorn 1 exaflop prestanda och 144 terabyte delat minne. Den nya datorn kommer att ha nästan 500 gånger mer minne än de tidigare generationerna av NVIDIA-superdatorer.

Jensen Huang, grundare och VD för NVIDIA, sa med tillkännagivandet, "Generativ AI, stora språkmodeller och rekommendationssystem är de digitala motorerna i den moderna ekonomin, DGX GH200 AI superdatorer integrerar NVIDIAs mest avancerade accelererade dator- och nätverkstekniker för att expandera gränsen för AI.”

GH200 Superchips revolutionerar den konventionella CPU-till-GPU PCIe-anslutningen genom att integrera en Arm-baserad NVIDIA Grace CPU med en NVIDIA H100 Tensor Core GPU i en enda enhet. Detta genombrott möjliggörs genom implementering av

NVIDIA NVLink-C2C chip sammankopplingar. Som ett resultat upplever bandbredden mellan GPU och CPU en anmärkningsvärd 7x ökning jämfört med den mest avancerade PCIe-tekniken som finns tillgänglig.

Denna innovativa design minskar avsevärt sammankopplingsströmförbrukningen med över 5 gånger. GH200 Superchips introducerar också det imponerande 600GB Hopper arkitektur GPU byggsten, skräddarsydd speciellt för DGX GH200 superdatorer.

DGX GH200 är den första i sitt slag att para ihop Grace Hopper Superchips med NVIDIA NVLink Switch System. Den tidigare generationens datorer gav bara åtta GPU: er som skulle kombineras med NVLink som en GPU utan att kompromissa med prestanda.

Den nya superdatorn ger 0,48 gånger mer NVLink-bandbredd än de tidigare modellerna, vilket gör att den kan bli en massiv AI-superdator med enkelheten att programmera en enda GPU.

Google Cloud, Meta, och Microsoft är några av de första som får tillgång till DGX GH200 för att utforska dess generativa AI-arbetsbelastningar. Tidigare Microsoft tecknade också ett 10 år långt licensavtal med NVIDIA. Företaget förväntas också tillhandahålla designen av en ny superdator som en ritning för molntjänster och andra hyperskalare för dem att ytterligare anpassa för sin infrastruktur.

Mark Lohmeyer, sa vice vd för Compute på Google Cloud, "Att bygga avancerade generativa modeller kräver innovativa metoder för AI-infrastruktur, den nya NVLink-skalan och delade minnet av Grace Hopper Superchips tar itu med viktiga flaskhalsar i storskalig AI och vi ser fram emot att utforska dess kapacitet för Google Cloud och vår generativa AI initiativ.”

NVIDIA kommer också med Helios superdator som kommer att drivas av DGX200-teknik. Maskinen kommer att introduceras med NVIDIA Quantum-2 InfiniBand nätverk för att öka datagenomströmningen för att träna stora AI-modeller.

När NVIDIA tillkännager en ny klass av DGX AI-superdatorer, arbetar företaget kontinuerligt med att förbättra AI-integration, NVIDIA presenterade nyligen ACE for Games på Computex 2023 för att föra in AI i spelvärlden. Helios och NVIDIA DGX200 Superdatorerna förväntas också vara tillgängliga i slutet av detta år, vilket markerar början på en ny era inom AI och datorteknik.

Källa: NVIDIA Newsroom