MI300x – це генеративний чіп AMD, який змінює правила гри – TechCult
Різне / / June 15, 2023
Це не так давно NVIDIA показала свою когорту Advanced AI Services для підприємств, і як їхня найбільша конкуренція, як могла AMD залишатися осторонь гонки ШІ? MI300x — це генеративний чіп AMD, що змінює правила гри, і їхня відповідь своїм суперникам. Цей революційний чіп посів центральне місце на прем’єрі AMD Data Center & AI Technology Premiere і є основою стратегії AMD щодо генеративних завдань AI. Завдяки розширеним функціям MI300X має намір переосмислити ландшафт технології ШІ.
![MI300x — це генеративний чіп AMD, що змінює правила гри](/f/0484d95ffd873d39a4ef2c9d6784c503.png)
Зміст
Вивільнення потужності Generative AI
MI300X — це прискорювач наступного покоління на основі архітектури AMD CDNA™ 3, розроблений спеціально для штучного інтелекту та високопродуктивних обчислювальних навантажень. Він підтримує вражаючі 192 ГБ пам’яті HBM3, забезпечуючи оптимальну ефективність обчислень і пам’яті для навчання великої мовної моделі та висновків у генеративний ШІ робочі навантаження.
![Вивільнення потужності Generative AI | MI300x — це генеративний чіп AMD, що змінює правила гри](/f/59477848ebe615d9fb2d077353215679.png)
Незрівнянна ємність пам'яті та пропускна здатність
Однією з ключових переваг MI300X є його величезний об’єм пам’яті. Маючи 192 ГБ пам’яті, він перевершує своїх конкурентів, пропонуючи в 2,4 рази більшу щільність пам’яті, ніж графічний процесор Nvidia H100, і в 1,6 рази більшу пропускну здатність пам’яті. Це значне збільшення обсягу пам’яті дозволяє запускати більші мовні моделі повністю в пам’яті, усуваючи необхідність постійно переміщувати дані туди-сюди із зовнішньої пам’яті.
Вивільнення творчості з Falcon-40B
Під час відкриття генеральний директор AMD Ліза Су продемонструвала можливості MI300X, використовуючи мовну модель Falcon-40B з відкритим кодом для створення вірша про Сан-Франциско. Ця демонстрація підкреслила здатність чіпа обробляти моделі з до 80 мільярдів параметрів безпосередньо в пам’яті, ще більше демонструючи його величезну потужність і потенціал. MI300X є чудовим вибором на ринку, насиченому Суперчіпи NVIDIA Grace Hopper.
Платформа AMD Instinct: неперевершені обчислювальні можливості
Щоб задовольнити зростаючий попит на потужні обчислення зі штучним інтелектом, AMD представила платформу AMD Instinct Platform, яка об’єднує вісім прискорювачів MI300X у стандартній конструкції. Ця платформа є найкращим рішенням для штучного інтелекту та навчання, надаючи клієнтам неперевершені обчислювальні можливості та щільність пам’яті.
Зразки MI300X планується розпочати для ключових клієнтів у третьому кварталі цього року, а масове виробництво очікується в четвертому кварталі. Завдяки революційним функціям і чудовій продуктивності AMD Instinct MI300X готовий змінити сферу генеративного ШІ, дозволяючи дослідникам і розробникам розкрити свій творчий потенціал і розширити межі того, що можливо у світі штучного інтелект.
Джерело: Прем'єра центру обробки даних і технології ШІ від AMD
![Алекс Крейг](/f/82c0af5dbedfba7e1fc95a8d7136c74d.jpg)
Алекс Крейг
Алекс керує пристрастю до технологій та ігрового контенту. Граючи в новітні відеоігри, слідкуючи за останніми технічними новинами чи залучаючи разом з іншими однодумцями в мережі, любов Алекса до технологій та ігор помітна в усьому, що він робить.
Алекс керує пристрастю до технологій та ігрового контенту. Граючи в новітні відеоігри, слідкуючи за останніми технічними новинами чи залучаючи разом з іншими однодумцями в мережі, любов Алекса до технологій та ігор помітна в усьому, що він робить.