MI300x は AMD の革新的な生成 AI チップです – TechCult

それからそれほど時間が経っていない NVIDIA は、企業向けの高度な AI サービスのグループを発表しましたそして彼らにとって最大の競争相手であるにもかかわらず、どうしてできるだろうか AMD AI競争から遠ざかりますか？ MI300x は、AMD の革新的な生成 AI チップであり、ライバルに対する答えです。 この画期的なチップは、AMD のデータセンターおよび AI テクノロジ プレミアで注目を集め、AMD の生成 AI タスク戦略の中核となっています。 高度な機能を備えた MI300X は、AI テクノロジーの状況を再定義することになります。

生成 AI の力を解き放つ

MI300X は、AMD CDNA™ 3 アーキテクチャに基づく次世代アクセラレータで、AI およびハイパフォーマンス コンピューティング ワークロード向けに特別に設計されています。 192 GB という驚異的な HBM3 メモリをサポートし、大規模な言語モデルのトレーニングと推論に最適なコンピューティング効率とメモリ効率を保証します。 生成AI 作業量。

比類のないメモリ容量と帯域幅

MI300X の重要なハイライトの 1 つは、その大規模なメモリ容量です。 192 GB のメモリを搭載し、競合他社を上回り、Nvidia の H100 GPU の 2.4 倍のメモリ密度と 1.6 倍のメモリ帯域幅を提供します。 このメモリの大幅な増加により、より大規模な言語モデルを完全にメモリ内で実行できるようになり、外部メモリとデータを常に行き来する必要がなくなります。

Falcon-40B で創造性を解き放つ

発表会では、AMD CEO の Lisa Su 氏が、オープンソースの Falcon-40B 言語モデルを使用してサンフランシスコに関する詩を生成することで、MI300X の機能を紹介しました。 このデモンストレーションでは、メモリ内で最大 800 億のパラメータを持つモデルを直接処理できるチップの能力が強調され、その計り知れない能力と可能性がさらに示されました。 MI300X は、次のような要素が飽和した市場に優れたオプションを提供します。 NVIDIA の Grace Hopper スーパーチップ.

AMD Instinct プラットフォーム: 比類のないコンピューティング能力

強力な AI コンピューティングに対する需要の高まりに応えるために、AMD は、8 つの MI300X アクセラレータを業界標準の設計に組み合わせた AMD Instinct プラットフォームを導入しました。 このプラットフォームは、AI 推論とトレーニングのための究極のソリューションであり、比類のないコンピューティング能力とメモリ密度を顧客に提供します。

MI300X は、今年の第 3 四半期に主要顧客へのサンプル出荷が開始され、量産は第 4 四半期に開始される予定です。 AMD Instinct MI300X は、革新的な機能と優れたパフォーマンスにより、生成 AI の分野を変革する準備ができています。 研究者や開発者が創造性を発揮し、人工物の世界で可能なことの限界を押し広げることを可能にします。 知能。

ソース: AMDのデータセンターとAIテクノロジーのプレミア