MI300x è il chip AI generativo rivoluzionario di AMD – TechCult
Varie / / June 15, 2023
Non è passato molto tempo da allora NVIDIA ha rivelato la sua coorte di servizi AI avanzati per le aziende, ed essendo la loro più grande competizione, come potrebbe AMD rimanere fuori dalla gara AI? MI300x è il chip AI generativo rivoluzionario di AMD e la loro risposta ai loro rivali. Questo rivoluzionario chip è stato al centro dell'attenzione al Data Center & AI Technology Premiere di AMD ed è al centro della strategia di AMD per le attività di intelligenza artificiale generativa. Con le sue funzionalità avanzate, l'MI300X è destinato a ridefinire il panorama della tecnologia AI.
Sommario
Liberare il potere dell'IA generativa
L'MI300X è un acceleratore di nuova generazione basato sull'architettura AMD CDNA™ 3, progettato specificamente per i carichi di lavoro di calcolo ad alte prestazioni e IA. Supporta ben 192 GB di memoria HBM3, garantendo un'efficienza di elaborazione e memoria ottimale per l'addestramento e l'inferenza di modelli linguistici di grandi dimensioni in
IA generativa carichi di lavoro.Capacità di memoria e larghezza di banda senza pari
Uno dei punti salienti dell'MI300X è la sua enorme capacità di memoria. Con 192 GB di memoria, supera i suoi concorrenti, offrendo una densità di memoria 2,4 volte superiore rispetto alla GPU H100 di Nvidia e una larghezza di banda della memoria 1,6 volte superiore. Questo significativo aumento della memoria consente di eseguire modelli linguistici più grandi interamente in memoria, eliminando la necessità di spostare costantemente i dati avanti e indietro dalla memoria esterna.
Scatenare la creatività con Falcon-40B
Durante la presentazione, Lisa Su, CEO di AMD, ha mostrato le capacità dell'MI300X utilizzando il modello di linguaggio open-source Falcon-40B per generare una poesia su San Francisco. Questa dimostrazione ha evidenziato la capacità del chip di gestire modelli con fino a 80 miliardi di parametri direttamente in memoria, dimostrando ulteriormente il suo immenso potere e potenziale. MI300X offre un'ottima opzione in un mercato saturo di Superchip Grace Hopper di NVIDIA.
La piattaforma AMD Instinct: capacità di calcolo impareggiabili
Per soddisfare la crescente domanda di potenti sistemi di elaborazione AI, AMD ha introdotto la piattaforma AMD Instinct, che combina otto acceleratori MI300X in un design standard del settore. Questa piattaforma è la soluzione definitiva per l'inferenza e la formazione dell'IA, fornendo ai clienti capacità di calcolo e densità di memoria senza pari.
L'MI300X inizierà a campionare i clienti chiave nel terzo trimestre di quest'anno, con una produzione in volume prevista nel quarto trimestre. Con le sue caratteristiche rivoluzionarie e le prestazioni straordinarie, AMD Instinct MI300X è pronto a trasformare il campo dell'IA generativa, consentendo a ricercatori e sviluppatori di liberare la loro creatività e spingere i confini di ciò che è possibile nel mondo dell'artificiale intelligenza.
Fonte: Data center e tecnologia AI di AMD in anteprima
Alex Craig
Alex è guidato dalla passione per la tecnologia e i contenuti di gioco. Che si tratti di giocare agli ultimi videogiochi, tenersi al passo con le ultime notizie tecnologiche o coinvolgere con altre persone che la pensano allo stesso modo online, l'amore di Alex per la tecnologia e il gioco è evidente in tutto ciò che lui fa.
Alex è guidato dalla passione per la tecnologia e i contenuti di gioco. Che si tratti di giocare agli ultimi videogiochi, tenersi al passo con le ultime notizie tecnologiche o coinvolgere con altre persone che la pensano allo stesso modo online, l'amore di Alex per la tecnologia e il gioco è evidente in tutto ciò che lui fa.