MI300x é o chip AI generativo revolucionário da AMD – TechCult

não faz muito tempo A NVIDIA revelou sua coorte de serviços avançados de IA para empresas, e sendo seu maior concorrente, como poderia AMD ficar fora da corrida da IA? O MI300x é o chip AI gerador de mudança de jogo da AMD e sua resposta para seus rivais. Este chip inovador foi o centro das atenções no Data Center & AI Technology Premiere da AMD e está no centro da estratégia da AMD para tarefas generativas de IA. Com seus recursos avançados, o MI300X está configurado para redefinir o cenário da tecnologia AI.

Liberando o poder da IA ​​generativa

O MI300X é um acelerador de última geração baseado na arquitetura AMD CDNA™ 3, projetado especificamente para IA e cargas de trabalho de computação de alto desempenho. Ele suporta impressionantes 192 GB de memória HBM3, garantindo eficiência ideal de computação e memória para treinamento e inferência de modelo de linguagem grande em

IA generativa cargas de trabalho.

Capacidade de memória e largura de banda incomparáveis

Um dos principais destaques do MI300X é sua enorme capacidade de memória. Com 192 GB de memória, ele supera seus concorrentes, oferecendo 2,4 vezes mais densidade de memória do que a GPU H100 da Nvidia e 1,6 vezes mais largura de banda de memória. Esse aumento significativo na memória permite a execução de modelos de linguagem maiores inteiramente na memória, eliminando a necessidade de mover dados constantemente para frente e para trás da memória externa.

Liberando a criatividade com o Falcon-40B

Durante a apresentação, a CEO da AMD, Lisa Su, apresentou os recursos do MI300X usando o modelo de linguagem Falcon-40B de código aberto para gerar um poema sobre San Francisco. Essa demonstração destacou a capacidade do chip de lidar com modelos com até 80 bilhões de parâmetros diretamente na memória, mostrando ainda mais seu imenso poder e potencial. O MI300X oferece uma ótima opção em um mercado saturado por Superchips Grace Hopper da NVIDIA.

A plataforma AMD Instinct: capacidade de computação inigualável

Para atender à crescente demanda por computação de IA poderosa, a AMD apresentou a plataforma AMD Instinct, que combina oito aceleradores MI300X em um design padrão do setor. Essa plataforma é a solução definitiva para treinamento e inferência de IA, oferecendo aos clientes capacidade de computação e densidade de memória inigualáveis.

O MI300X está programado para começar a amostrar para os principais clientes no terceiro trimestre deste ano, com volume de produção esperado no quarto trimestre. Com seus recursos revolucionários e desempenho notável, o AMD Instinct MI300X está pronto para transformar o campo da IA ​​generativa, permitindo que pesquisadores e desenvolvedores liberem sua criatividade e ultrapassem os limites do que é possível no mundo da tecnologia artificial inteligência.

Fonte: Data Center da AMD e estreia de tecnologia de IA