MI300x er AMDs Game-Changing Generative AI Chip – TechCult
Miscellanea / / June 15, 2023
Det er ikke lenge siden NVIDIA avslørte deres kohort av avanserte AI-tjenester for bedrifter, og å være deres største konkurranse, hvordan kunne AMD holde seg unna AI-løpet? MI300x er AMDs Game-Changing Generative AI Chip og deres svar på deres rivaler. Denne banebrytende brikken var i sentrum av AMDs Data Center & AI Technology Premiere og er kjernen i AMDs strategi for generative AI-oppgaver. Med sine avanserte funksjoner er MI300X satt til å redefinere landskapet innen AI-teknologi.
![MI300x er AMDs Game-Changing Generative AI Chip](/f/0484d95ffd873d39a4ef2c9d6784c503.png)
Innholdsfortegnelse
Slipp løs kraften til generativ AI
MI300X er en neste generasjons akselerator basert på AMD CDNA™ 3-arkitekturen, designet spesielt for AI og høyytelses dataarbeidsbelastninger. Den støtter imponerende 192 GB HBM3-minne, noe som sikrer optimal databehandling og minneeffektivitet for trening og slutninger i store språkmodeller generativ AI arbeidsbelastninger.
![Slipp løs kraften til generativ AI | MI300x er AMDs Game-Changing Generative AI Chip](/f/59477848ebe615d9fb2d077353215679.png)
Uovertruffen minnekapasitet og båndbredde
Et av de viktigste høydepunktene til MI300X er dens enorme minnekapasitet. Med 192 GB minne overgår den konkurrentene, og tilbyr 2,4 ganger mer minnetetthet enn Nvidias H100 GPU og 1,6 ganger mer minnebåndbredde. Denne betydelige økningen i minnet gjør det mulig å kjøre større språkmodeller helt i minnet, og eliminerer behovet for konstant å flytte data frem og tilbake fra eksternt minne.
Slipp kreativiteten løs med Falcon-40B
Under avdukingen viste AMD-sjef Lisa Su frem MI300Xs evner ved å bruke åpen kildekode Falcon-40B-språkmodellen for å generere et dikt om San Francisco. Denne demonstrasjonen fremhevet brikkens evne til å håndtere modeller med opptil 80 milliarder parametere direkte i minnet, noe som ytterligere viser dens enorme kraft og potensial. MI300X gir et flott alternativ i et marked mettet av NVIDIAs Grace Hopper Superchips.
AMD Instinct-plattformen: Uovertruffen beregningsevne
For å imøtekomme den økende etterspørselen etter kraftig AI-databehandling, introduserte AMD AMD Instinct Platform, som kombinerer åtte MI300X-akseleratorer til en industristandarddesign. Denne plattformen er den ultimate løsningen for AI-slutning og trening, og gir kundene enestående datakapasitet og minnetetthet.
MI300X er satt til å begynne prøvetaking til nøkkelkunder i tredje kvartal i år, med volumproduksjon forventet i fjerde kvartal. Med sine spillskiftende funksjoner og bemerkelsesverdige ytelse, er AMD Instinct MI300X klar til å transformere feltet av generativ AI, som gjør det mulig for forskere og utviklere å slippe kreativiteten løs og flytte grensene for hva som er mulig i verden av kunstig intelligens.
Kilde: AMDs premiere for datasenter og AI-teknologi
![Alex Craig](/f/82c0af5dbedfba7e1fc95a8d7136c74d.jpg)
Alex Craig
Alex er drevet av en lidenskap for teknologi og spillinnhold. Enten det er gjennom å spille de nyeste videospillene, følge med på de siste teknologinyhetene eller engasjere med andre likesinnede på nettet, er Alex sin kjærlighet til teknologi og spill tydelig i alt han gjør.
Alex er drevet av en lidenskap for teknologi og spillinnhold. Enten det er gjennom å spille de nyeste videospillene, følge med på de siste teknologinyhetene eller engasjere med andre likesinnede på nettet, er Alex sin kjærlighet til teknologi og spill tydelig i alt han gjør.