Microsoft forhåndsviser nye virtuelle maskiner med Nvidia H100 GPUer

Microsoft har et tiårs erfaring med superdatabehandling, ved å bruke de siste fremskrittene innen AI, endrer Microsoft hvordan folk samhandler med datamaskiner for alltid. 13. mars 2023 forhåndsviser Microsoft nye virtuelle maskiner med Nvidia H100 GPUer, ND H100 v5 VM.

En blogg lagt ut på Microsoft Azure-side siterte Greg Brockman, president og medgründer av OpenAI, og sa: "Samdesign av superdatamaskiner med Azure har vært avgjørende for å skalere våre krevende AI-treningsbehov, noe som gjør vårt forsknings- og innrettingsarbeid på systemer som ChatGPT mulig."

Må lese: Microsoft kunngjorde 10 års lisensavtale med NVIDIA

Den nye ND H100 v5 VM muliggjør on-demand i størrelser fra åtte til tusenvis av NVIDIA H100 GPUer sammenkoblet av NVIDIA Quantum-2 InfiniBand-nettverk. Microsofts kunder vil se betydelig raskere ytelse for AI-modeller i forhold til vår siste generasjon ND A100 v4 VM-er med innovative teknologier som:

• 8x NVIDIA H100 Tensor Core GPUer sammenkoblet via neste generasjons NVSwitch og NVLink 4.0
• 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand per GPU med 3,2 Tb/s per VM i et ikke-blokkerende fetttrenettverk
• NVSwitch og NVLink 4.0 med 3,6 TB/s todelt båndbredde mellom 8 lokale GPUer i hver VM
• 4. generasjons Intel Xeon skalerbare prosessorer
• PCIE Gen5 vert til GPU-sammenkobling med 64 GB/s båndbredde per GPU
• 16 kanaler med 4800MHz DDR5 DIMM-er

Anbefalt: OpenAI Chatgpt 4 lar deg gjøre tekst om til video

Ettersom Microsoft forhåndsviser nye virtuelle maskiner med Nvidia H100 GPUer, er ND H100 v5 VM nå tilgjengelig for forhåndsvisning og vil være tilgjengelig som et standardtilbud fra Azure for å la hvem som helst låse opp potensialet til AI på skala i skyen.

Følg med med TechCult for å holde deg oppdatert på alt AI, dingser og teknologi.

Kilde: Microsoft Azure-bloggen