MI300x is AMD's baanbrekende generatieve AI-chip - TechCult
Diversen / / June 15, 2023
Het is niet lang geleden NVIDIA onthulde hun cohort van geavanceerde AI-services voor ondernemingen, en omdat het hun grootste concurrent is, hoe zou dat kunnen amd uit de AI-race blijven? MI300x is AMD's baanbrekende generatieve AI-chip en hun antwoord op hun rivalen. Deze baanbrekende chip stond centraal tijdens AMD's Data Center & AI Technology Premiere en vormt de kern van AMD's strategie voor generatieve AI-taken. Met zijn geavanceerde functies is de MI300X klaar om het landschap van AI-technologie opnieuw te definiëren.
Inhoudsopgave
Ontketen de kracht van generatieve AI
De MI300X is een accelerator van de volgende generatie op basis van de AMD CDNA™ 3-architectuur, speciaal ontworpen voor AI en high-performance computing-workloads. Het ondersteunt een indrukwekkend HBM3-geheugen van 192 GB, wat zorgt voor optimale reken- en geheugenefficiëntie voor training van grote taalmodellen en inferentie in
generatieve AI werklasten.Ongeëvenaarde geheugencapaciteit en bandbreedte
Een van de belangrijkste hoogtepunten van de MI300X is de enorme geheugencapaciteit. Met 192 GB geheugen overtreft het zijn concurrenten en biedt het 2,4 keer meer geheugendichtheid dan Nvidia's H100 GPU en 1,6 keer meer geheugenbandbreedte. Deze aanzienlijke toename van het geheugen maakt het mogelijk om grotere taalmodellen volledig in het geheugen uit te voeren, waardoor het niet langer nodig is om voortdurend gegevens van het externe geheugen heen en weer te verplaatsen.
Creativiteit de vrije loop laten met Falcon-40B
Tijdens de onthulling demonstreerde AMD-CEO Lisa Su de mogelijkheden van de MI300X door het open-source Falcon-40B-taalmodel te gebruiken om een gedicht over San Francisco te genereren. Deze demonstratie benadrukte het vermogen van de chip om modellen met maximaal 80 miljard parameters rechtstreeks in het geheugen te verwerken, wat de enorme kracht en het potentieel ervan nog meer laat zien. MI300X biedt een geweldige optie in een markt die verzadigd is door NVIDIA's Grace Hopper Superchips.
Het AMD Instinct-platform: ongeëvenaarde rekenmogelijkheden
Om tegemoet te komen aan de toenemende vraag naar krachtige AI-computing, introduceerde AMD het AMD Instinct Platform, dat acht MI300X-versnellers combineert tot een industriestandaard ontwerp. Dit platform is de ultieme oplossing voor AI-inferentie en -training en biedt klanten ongeëvenaarde rekenmogelijkheden en geheugendichtheid.
De MI300X zal in het derde kwartaal van dit jaar beginnen met het bemonsteren van belangrijke klanten, met volumeproductie verwacht in het vierde kwartaal. Met zijn baanbrekende functies en opmerkelijke prestaties staat de AMD Instinct MI300X klaar om het gebied van generatieve AI te transformeren, waardoor onderzoekers en ontwikkelaars hun creativiteit de vrije loop kunnen laten en de grenzen kunnen verleggen van wat mogelijk is in de kunstmatige wereld intelligentie.
Bron: AMD's première van datacenter- en AI-technologie
Alex Craig
Alex wordt gedreven door een passie voor technologie en gamingcontent. Of het nu is door de nieuwste videogames te spelen, op de hoogte te blijven van het laatste technische nieuws of boeiend te zijn met andere gelijkgestemde individuen online, is Alex' liefde voor technologie en gaming duidelijk in alles wat hij doet doet.
Alex wordt gedreven door een passie voor technologie en gamingcontent. Of het nu is door de nieuwste videogames te spelen, op de hoogte te blijven van het laatste technische nieuws of boeiend te zijn met andere gelijkgestemde individuen online, is Alex' liefde voor technologie en gaming duidelijk in alles wat hij doet doet.