MI300x adalah Chip AI Generatif Pengubah Game AMD – TechCult

Belum lama ini NVIDIA mengungkapkan kohor Layanan AI Lanjutan mereka untuk perusahaan, dan menjadi pesaing terbesar mereka, bagaimana bisa AMD tetap keluar dari ras AI? MI300x adalah Chip AI Generatif Pengubah Game AMD dan jawaban mereka untuk para pesaingnya. Chip inovatif ini menjadi pusat perhatian di Pusat Data & Teknologi AI AMD Premiere dan merupakan inti dari strategi AMD untuk tugas-tugas AI generatif. Dengan fitur canggihnya, MI300X diatur untuk mendefinisikan kembali lanskap teknologi AI.

Melepaskan Kekuatan Generatif AI

MI300X adalah akselerator generasi berikutnya berdasarkan arsitektur AMD CDNA™ 3, dirancang khusus untuk AI dan beban kerja komputasi performa tinggi. Ini mendukung memori HBM3 192 GB yang mengesankan, memastikan komputasi optimal dan efisiensi memori untuk pelatihan dan inferensi model bahasa besar di AI generatif beban kerja.

Kapasitas Memori dan Bandwidth Tak Tertandingi

Salah satu sorotan utama MI300X adalah kapasitas memorinya yang sangat besar. Dengan memori 192 GB, ini mengungguli para pesaingnya, menawarkan kepadatan memori 2,4 kali lebih banyak daripada GPU H100 Nvidia dan bandwidth memori 1,6 kali lebih banyak. Peningkatan memori yang signifikan ini memungkinkan untuk menjalankan model bahasa yang lebih besar seluruhnya dalam memori, menghilangkan kebutuhan untuk terus-menerus memindahkan data bolak-balik dari memori eksternal.

Bebaskan Kreativitas dengan Falcon-40B

Selama pembukaan, CEO AMD Lisa Su memamerkan kemampuan MI300X dengan menggunakan model bahasa open-source Falcon-40B untuk menghasilkan puisi tentang San Francisco. Demonstrasi ini menyoroti kemampuan chip untuk menangani model dengan hingga 80 miliar parameter langsung di memori, yang selanjutnya menunjukkan kekuatan dan potensinya yang luar biasa. MI300X memberikan pilihan yang bagus di pasar yang jenuh Grace Hopper Superchip NVIDIA.

Platform AMD Instinct: Kemampuan Komputasi Tak Tertandingi

Untuk memenuhi permintaan komputasi AI yang kuat, AMD memperkenalkan AMD Instinct Platform, yang menggabungkan delapan akselerator MI300X ke dalam desain standar industri. Platform ini adalah solusi terbaik untuk inferensi dan pelatihan AI, memberikan pelanggan kemampuan komputasi dan kepadatan memori yang tak tertandingi.

MI300X akan memulai pengambilan sampel ke pelanggan utama pada kuartal ketiga tahun ini, dengan volume produksi diharapkan pada kuartal keempat. Dengan fitur-fitur yang mengubah permainan dan kinerja yang luar biasa, AMD Instinct MI300X siap untuk mengubah bidang AI generatif, memungkinkan peneliti dan pengembang untuk melepaskan kreativitas mereka dan mendorong batas dari apa yang mungkin di dunia buatan intelijen.

Sumber: Penayangan Perdana Pusat Data & Teknologi AI AMD