Microsoft が Nvidia H100 GPU を搭載した新しい仮想マシンをプレビュー
その他 / / April 03, 2023
マイクロソフト スーパーコンピューティングで 10 年以上の経験を持ち、AI の最新の進歩を利用して、Microsoft は人々がコンピューターと対話する方法を永遠に変えています。 2023 年 3 月 13 日に、Microsoft は Nvidia H100 GPU を搭載した新しい仮想マシンである ND H100 v5 VM をプレビューします。
に掲載されているブログ Microsoft Azure ページ OpenAI の社長兼共同創設者である Greg Brockman 氏は次のように述べています。 「Azure とスーパーコンピューターを共同設計することは、要求の厳しい AI トレーニングのニーズをスケーリングするために不可欠であり、ChatGPT のようなシステムでの研究と調整作業を可能にしました。」
必読: Microsoft が NVIDIA との 10 年間のライセンス契約を発表
新しい ND H100 v5 VM は、NVIDIA Quantum-2 InfiniBand ネットワークによって相互接続された 8 個から数千個の NVIDIA H100 GPU のサイズのオンデマンドを可能にします。 Microsoft の顧客は、次のような革新的なテクノロジを使用して、前世代の ND A100 v4 VM よりも大幅に高速な AI モデルのパフォーマンスを確認できます。
- 次世代 NVSwitch および NVLink 4.0 を介して相互接続された 8 個の NVIDIA H100 Tensor コア GPU
- GPU あたり 400 Gb/秒の NVIDIA Quantum-2 CX7 InfiniBand、ノンブロッキング ファット ツリー ネットワークで VM あたり 3.2Tb/秒
- 各 VM 内の 8 つのローカル GPU 間で 3.6 TB/秒のバイセクション帯域幅を備えた NVSwitch および NVLink 4.0
- 第 4 世代 Intel Xeon スケーラブル プロセッサ
- PCIE Gen5 ホストから GPU への相互接続、GPU あたり 64GB/秒の帯域幅
- 4800MHz DDR5 DIMM の 16 チャネル
おすすめされた: OpenAI Chatgpt 4 でテキストを動画に変換
Microsoft が Nvidia H100 GPU を搭載した新しい仮想マシンをプレビューしているため、ND H100 v5 VM がプレビューおよび Azure の標準オファリングとして利用できるようになり、誰もがクラウドで大規模な AI の可能性を解き放つことができます。
TechCult に注目して、AI、ガジェット、テクノロジーのすべてを把握してください。
ソース: Microsoft Azure ブログ