Meta, AI 레이스에 합류, 새로운 언어 모델 LLaMA 출시

2023년은 인공지능 분야에서 전례 없는 발전의 해였습니다. ChatGPT 출시 후 마이크로소프트 팀 그리고 Bing, AI 분야의 환경이 뜨거워지고 있습니다. 이러한 일방적인 성향에 대응하기 위해 Google은 자체 AI 모델 Bard를 내놓았습니다. 12000명 정리 해고. 이제 세 번째 경쟁자인 Meta가 AI 경주에 합류하여 새로운 언어 모델 LLaMA를 출시합니다.

라마 또는 대규모 언어 모델 메타 AI, 연구원이 AI의 다른 수직 분야에서 작업을 발전시키는 데 도움이 되는 대규모 언어 모델입니다. 단일 엔터티가 아니라 크기가 훨씬 작은 다양한 하위 버전이 있습니다. 요약하자면 "7B에서 65B 매개변수 범위의 기본 언어 모델 모음입니다."

• LLaMA의 기본 아이디어는 대규모 커뮤니티가 이러한 모델을 연구하는 데 필요한 인프라에 액세스할 수 없기 때문에 더 작은 언어 모델이 AI 연구 속도를 크게 높일 것이라는 것입니다.
• 이번 출시는 의사 소통 능력이 있는 ChatGPT 또는 Bard와 같은 다른 AI 모델과 경쟁하려는 의도를 실제로 보여주지 않습니다.

Meta는 또한 명쾌한 형태로 설명을 제공했습니다. 그들이 더 작은 모델을 선택한 이유. 단어 조각이나 토큰에 대해 훈련을 받았기 때문에 재훈련이 쉽기 때문입니다. 또한 하위 모델인 LLaMA 65B 및 LLaMA 33B는 1조 4천억 개의 토큰으로 훈련되고 가장 작은 모델인 LLaMA 7B는 1조 개의 토큰으로 훈련됩니다.

필독:YouChat 2.0은 Google Bard 및 ChatGPT와 경쟁할 수 있습니다.

에 명시된 이유로 지금은 상업적으로 사용할 수 없지만 블로그. “무결성을 유지하고 오용을 방지하기 위해 우리는 연구 사용 사례에 초점을 맞춘 비상업적 라이선스에 따라 모델을 출시하고 있습니다. 모델에 대한 액세스 권한은 학술 연구원에게 사례별로 부여됩니다. 정부, 시민 사회 및 학계 조직과 관련된 사람들; 그리고 전 세계의 산업 연구소.”

~ 안에 메타리서치 논문, 초록은 다음과 같이 말했습니다.”특히 LLaMA-13B는 대부분의 벤치마크에서 GPT-3(175B)보다 성능이 우수하며, LLaMA-65B는 최고의 모델인 Chinchilla70B 및 PaLM-540B와 경쟁력이 있습니다.”

이 최고의 모델은 각각 DeepMind와 Google에 속합니다. 또한 회사는 모델이 오픈 소스와 호환되도록 하는 공개 데이터만 사용한다고 밝혔습니다. 이는 문서화되지 않았거나 공개적으로 사용할 수 없는 데이터를 사용하는 DeepMind Chinchilla, Google PaLM 또는 OpenAI GPT-3와 같은 AI 모델과 다릅니다.

추천:ChatGPT를 Microsoft Word에 통합하는 방법

메타가 AI 경쟁에 합류하고 새로운 언어 모델인 LLaMA를 출시한 후 약간의 소문과 함께 Google Bard 출시와 상충했습니다. 결과적으로 릴리스를 서두르지 않기 때문에 이것은 나쁜 것이 아닙니다. 잘못된 응답을 제공하는 Google Bard 그리고 많은 비판. 이것은 다음과 비슷합니다. 너무 많이 공개한 Bing Chatbot 실제 이름이 시드니인 것처럼 시스템에 대해 설명합니다. 또한 Microsoft는 Bing AI 채팅을 5개의 회신으로 제한합니다..

LLaMA의 발표 역시 페이스북 게시물과 메타 채널의 인스타그램 메시지만으로 꽤 훌륭했습니다. 그것은 말했다,” 오늘 우리는 연구자들이 연구를 발전시킬 수 있도록 설계된 LLaMA라는 새로운 최첨단 AI 대규모 언어 모델을 출시할 예정입니다. LLM은 텍스트 생성, 대화, 서면 자료 요약, 수학 정리 풀기 또는 단백질 구조 예측과 같은 더 복잡한 작업에서 많은 가능성을 보여주었습니다. Meta는 이 개방형 연구 모델에 전념하고 있으며 AI 연구 커뮤니티에서 새로운 모델을 사용할 수 있도록 할 것입니다.” Meta는 또한 커뮤니티가 LLaMA를 사용하여 배우고 구축하는 방법에 대해 흥분하고 있습니다.

기술에 대한 더 많은 업데이트와 TechCult에서 AI의 최신 혁신에 대해 계속 지켜봐 주십시오!

원천:메타 AI 블로그