MI300x — революционный генеративный ИИ-чип от AMD — TechCult

Это было не так давно NVIDIA представила свою группу Advanced AI Services для предприятий, и будучи их самым большим конкурентом, как мог AMD остаться в стороне от гонки ИИ? MI300x — революционный генеративный ИИ-чип от AMD и их ответ конкурентам. Этот новаторский чип занял центральное место на премьере AMD Data Center & AI Technology Premiere и лежит в основе стратегии AMD в отношении задач генеративного ИИ. Благодаря своим расширенным функциям MI300X призван переопределить ландшафт технологий искусственного интеллекта.

Раскрытие возможностей генеративного ИИ

MI300X — это ускоритель нового поколения на базе архитектуры AMD CDNA™ 3, разработанный специально для задач искусственного интеллекта и высокопроизводительных вычислений. Он поддерживает впечатляющие 192 ГБ памяти HBM3, обеспечивая оптимальную эффективность вычислений и памяти для обучения больших языковых моделей и логического вывода в

генеративный ИИ рабочие нагрузки.

Непревзойденный объем памяти и пропускная способность

Одной из ключевых особенностей MI300X является огромный объем памяти. Имея 192 ГБ памяти, он превосходит своих конкурентов, предлагая в 2,4 раза большую плотность памяти, чем у графического процессора Nvidia H100, и в 1,6 раза большую пропускную способность памяти. Это значительное увеличение объема памяти позволяет запускать более крупные языковые модели полностью в памяти, избавляя от необходимости постоянно перемещать данные из внешней памяти туда и обратно.

Раскрытие творчества с Falcon-40B

Во время презентации генеральный директор AMD Лиза Су продемонстрировала возможности MI300X, используя языковую модель Falcon-40B с открытым исходным кодом для создания стихотворения о Сан-Франциско. Эта демонстрация продемонстрировала способность чипа обрабатывать модели, содержащие до 80 миллиардов параметров, непосредственно в памяти, что еще больше продемонстрировало его огромную мощность и потенциал. MI300X — отличный вариант на рынке, насыщенном Суперчипы NVIDIA Grace Hopper.

Платформа AMD Instinct: непревзойденные вычислительные возможности

Чтобы удовлетворить растущий спрос на мощные вычисления с искусственным интеллектом, AMD представила платформу AMD Instinct, которая объединяет восемь ускорителей MI300X в стандартный для отрасли дизайн. Эта платформа — идеальное решение для логического вывода и обучения ИИ, предоставляющее клиентам непревзойденные вычислительные возможности и плотность памяти.

MI300X должен начать отбор проб для ключевых клиентов в третьем квартале этого года, а массовое производство ожидается в четвертом квартале. AMD Instinct MI300X с революционными функциями и замечательной производительностью способен изменить область генеративного искусственного интеллекта. позволяя исследователям и разработчикам раскрыть свой творческий потенциал и раздвинуть границы возможного в мире искусственных интеллект.

Источник: ЦОД AMD и премьера технологии искусственного интеллекта