Meta Bergabung dengan AI Race Merilis Model Bahasa Baru LLaMA
Bermacam Macam / / April 02, 2023
Tahun 2023 telah menjadi tahun perkembangan yang belum pernah terjadi sebelumnya di bidang kecerdasan buatan. Setelah rilis ChatGPT dan integrasinya dengan Tim Microsoft dan Bing, lingkungan di arena AI memanas. Untuk mengatasi kecenderungan sepihak ini, Google menghadirkan model AI-nya sendiri, Bard, yang menghasilkan sekitar 12000 PHK. Sekarang pesaing ketiga Meta bergabung dalam perlombaan AI dan merilis model bahasa baru LLaMA.
LLaMA atau Model Bahasa Besar Meta AI, adalah model bahasa besar yang konon membantu peneliti untuk memajukan pekerjaan di vertikal AI lainnya. Ini bukan hanya satu entitas tetapi dengan berbagai sub-versi yang ukurannya jauh lebih kecil. Untuk meringkasnya “kumpulan model bahasa dasar mulai dari parameter 7B hingga 65B.”
- Ide di balik LLaMA adalah bahwa model bahasa yang lebih kecil akan sangat memperbesar kecepatan penelitian AI karena komunitas besar tidak memiliki akses ke infrastruktur yang diperlukan untuk mempelajari model ini.
- Peluncuran ini tidak terlalu menunjukkan niatnya untuk bersaing dengan model AI lain seperti ChatGPT atau Bard yang memiliki kemampuan berkomunikasi.
Meta juga memberikan penjelasan dalam bentuk jernih mengapa mereka memilih model yang lebih kecil. Itu karena mereka mudah dilatih ulang karena mereka dilatih dengan kata-kata atau token. Sub-model LLaMA 65B dan LLaMA 33B juga dilatih dengan 1,4 triliun token sedangkan model terkecil LLaMA 7B menggunakan satu triliun token.
Harus baca:YouChat 2.0 Bisa Menyaingi Google Bard dan ChatGPT
Meskipun saat ini tidak akan tersedia secara komersial karena alasan yang disebutkan dalam blog. “Untuk menjaga integritas dan mencegah penyalahgunaan, kami merilis model kami di bawah lisensi nonkomersial yang berfokus pada kasus penggunaan penelitian. Akses ke model akan diberikan berdasarkan kasus per kasus kepada peneliti akademis; mereka yang berafiliasi dengan organisasi di pemerintahan, masyarakat sipil, dan akademisi; dan laboratorium penelitian industri di seluruh dunia.”
Di dalam Makalah Meta Research, abstrak menyatakan bahwa,”Secara khusus, LLaMA-13B mengungguli GPT-3 (175B) pada sebagian besar tolok ukur, dan LLaMA-65B bersaing dengan model terbaik Chinchilla70B dan PaLM-540B.” Model terbaik ini masing-masing milik DeepMind dan Google. Selain itu, terungkap bahwa perusahaan hanya menggunakan data yang tersedia untuk umum yang membuat model tersebut kompatibel dengan sumber terbuka. Ini tidak seperti model AI seperti DeepMind Chinchilla, Google PaLM, atau OpenAI GPT-3 yang menggunakan data tidak berdokumen atau tidak tersedia untuk umum.
Direkomendasikan:Cara Mengintegrasikan ChatGPT ke Microsoft Word
Setelah meta bergabung dengan perlombaan AI dan merilis Model LLaMA bahasa baru, telah berselisih dengan rilis Google Bard dengan sedikit desas-desus. Ini bukan sesuatu yang buruk karena tidak terburu-buru dalam merilisnya Google Bard memberikan respons yang salah dan banyak kritik. Ini adalah sesuatu yang mirip dengan Bing Chatbot yang mengungkapkan terlalu banyak tentang sistemnya seperti nama sebenarnya adalah Sydney. Itu juga mengakibatkan Microsoft membatasi obrolan AI Bing menjadi 5 balasan.
Pengumuman LLaMA juga cukup satu dengan postingan Facebook dan pesan di Instagram dari Meta Channel. Itu menyatakan, ”Hari ini kami akan merilis model bahasa besar AI canggih baru yang disebut LLaMA yang dirancang untuk membantu peneliti memajukan pekerjaan mereka. LLM telah menunjukkan banyak janji dalam menghasilkan teks, melakukan percakapan, meringkas materi tertulis, dan tugas yang lebih rumit seperti memecahkan teorema matematika atau memprediksi struktur protein. Meta berkomitmen pada model penelitian terbuka ini dan kami akan membuat model baru kami tersedia untuk komunitas penelitian AI.” Meta juga bersemangat tentang bagaimana komunitas akan belajar dan membangun menggunakan LLaMA.
Nantikan pembaruan lebih lanjut tentang teknologi dan inovasi terbaru dalam AI di TechCult!
Sumber:Meta AI Blog