MI300x je generativní AI čip AMD – TechCult, který mění hru

už to dávno není NVIDIA odhalila svou kohortu pokročilých služeb AI pro podnikya být jejich největší konkurencí, jak by mohl AMD zůstat mimo závod AI? MI300x je Game-Changing Generative AI Chip AMD a jejich odpovědí na jejich rivaly. Tento převratný čip se dostal do centra pozornosti na premiéře AMD Data Center & AI Technology Premiere a je jádrem strategie AMD pro generativní úlohy AI. Díky svým pokročilým funkcím je MI300X nastaven tak, aby předefinoval prostředí AI technologií.

Uvolněte sílu generativní umělé inteligence

MI300X je akcelerátor nové generace založený na architektuře AMD CDNA™ 3, navržený speciálně pro AI a vysoce výkonné výpočetní úlohy. Podporuje působivých 192 GB paměti HBM3, což zajišťuje optimální výpočetní a paměťovou efektivitu pro trénování a vyvozování velkých jazykových modelů. generativní AI pracovní zátěže.

Bezkonkurenční kapacita paměti a šířka pásma

Jedním z klíčových předností MI300X je jeho obrovská kapacita paměti. Se 192 GB paměti předčí své konkurenty a nabízí 2,4krát větší hustotu paměti než GPU H100 od Nvidie a 1,6krát větší šířku pásma paměti. Toto významné zvýšení paměti umožňuje spouštění větších jazykových modelů zcela v paměti, což eliminuje potřebu neustále přesouvat data tam a zpět z externí paměti.

Uvolněte kreativitu s Falcon-40B

Během odhalení předvedla generální ředitelka AMD Lisa Su schopnosti MI300X pomocí open source jazykového modelu Falcon-40B, aby vytvořila báseň o San Franciscu. Tato demonstrace zdůraznila schopnost čipu zpracovávat modely s až 80 miliardami parametrů přímo v paměti, což dále ukázalo jeho obrovskou sílu a potenciál. MI300X poskytuje skvělou možnost na trhu přesyceném Superčipy Grace Hopper od NVIDIA.

Platforma AMD Instinct: Bezkonkurenční výpočetní schopnosti

Aby uspokojila rostoucí poptávku po výkonných počítačích s umělou inteligencí, představila AMD platformu AMD Instinct Platform, která kombinuje osm akcelerátorů MI300X do průmyslového standardního designu. Tato platforma je dokonalým řešením pro vyvozování a školení AI a poskytuje zákazníkům bezkonkurenční výpočetní schopnosti a hustotu paměti.

Model MI300X se má začít odebírat klíčovým zákazníkům ve třetím čtvrtletí tohoto roku a objem výroby se očekává ve čtvrtém čtvrtletí. AMD Instinct MI300X se svými funkcemi, které mění hru a pozoruhodným výkonem, je připraven změnit pole generativní umělé inteligence, umožňuje výzkumníkům a vývojářům popustit uzdu své kreativitě a posouvat hranice toho, co je možné ve světě umělých inteligence.

Zdroj: Premiéra datového centra a technologie AI společnosti AMD