Microsoft förhandsgranskar nya virtuella maskiner med Nvidia H100 GPU: er

Microsoft har ett decenniums erfarenhet av superdatorer, med hjälp av de senaste framstegen inom AI, förändrar Microsoft hur människor interagerar med datorer för alltid. Den 13 mars 2023 förhandsgranskar Microsoft nya virtuella maskiner med Nvidia H100 GPU: er, ND H100 v5 VM.

En blogg postad på Microsoft Azure-sida citerade Greg Brockman, president och medgrundare av OpenAI, och sa: "Att samdesigna superdatorer med Azure har varit avgörande för att skala våra krävande AI-utbildningsbehov, vilket gör vårt forsknings- och anpassningsarbete på system som ChatGPT möjligt."

Måste läsas: Microsoft tillkännager 10-årigt licensavtal med NVIDIA

Den nya ND H100 v5 VM möjliggör on-demand i storlekar från åtta till tusentals NVIDIA H100 GPU: er sammankopplade med NVIDIA Quantum-2 InfiniBand-nätverk. Microsofts kunder kommer att se betydligt snabbare prestanda för AI-modeller jämfört med vår senaste generation ND A100 v4 virtuella datorer med innovativ teknik som:

• 8x NVIDIA H100 Tensor Core GPU: er sammankopplade via nästa generations NVSwitch och NVLink 4.0
• 400 Gb/s NVIDIA Quantum-2 CX7 InfiniBand per GPU med 3,2 Tb/s per virtuell dator i ett icke-blockerande fettträdnätverk
• NVSwitch och NVLink 4.0 med 3,6 TB/s halvsektionell bandbredd mellan 8 lokala GPU: er inom varje virtuell dator
• Fjärde generationens Intel Xeon skalbara processorer
• PCIE Gen5 värd till GPU-interconnect med 64 GB/s bandbredd per GPU
• 16 kanaler med 4800MHz DDR5 DIMM

Rekommenderad: OpenAI Chatgpt 4 låter dig förvandla text till video

Eftersom Microsoft förhandsgranskar nya virtuella maskiner med Nvidia H100 GPU, är ND H100 v5 VM nu tillgänglig för förhandsvisning och kommer att finnas tillgängligt som ett standarderbjudande från Azure för att låta vem som helst låsa upp potentialen för AI på skala i molnet.

Håll dig uppdaterad med TechCult för att hålla koll på allt AI, prylar och teknik.

Källa: Microsoft Azure-bloggen