LLaMA

LLaMA는 2023년 2월 23일 블로그 게시물과 모델의 훈련, 아키텍처 및 성능을 설명하는 문서를 통해 발표되었다. 모델 훈련에 사용된 코드는 오픈 소스 GPL 3 라이선스에 따라 공개되었으며, 모델의 가중치에 대한 접근은 응용 프로그램 프로세스에 의해 관리되었다.

학술 연구원, 정부, 시민 사회 및 학계 조직과 제휴한 사람들, 전 세계 산업 연구소에 사례별로 접근 권한이 부여되었다. 2023년 3월 2일, LLaMA의 가중치가 담긴 토렌트가 업로드되어 온라인 커뮤니티를 통해 확산되었다.

메타 AI가 개발한 대규모 언어 모델로, 제한적인 접근성을 가진 다른 강력한 모델과 달리 연구 커뮤니티에 모델 가중치를 공개한 점이 특징이다.

LLaMA는 메타 AI가 개발한 대규모 언어 모델로, 70억에서 650억 파라미터에 이르는 다양한 크기로 학습되었다. 이 모델은 연구 커뮤니티에 상업적 라이선스에 따라 모델 가중치가 공개되었다.

개발자들은 130억 파라미터 모델의 성능이 다른 대규모 모델보다 우수하며, 가장 큰 모델은 최신 모델과 경쟁할 수 있다고 보고했다.

2023년 3월 메타는 유출된 가중치에 대한 게시 중단 요청을 제출하며 이를 "무단 배포"로 규정했다. 또한 미러에서 LLaMA 다운로드 스크립트가 포함된 저장소에 대한 저작권 침해 요청을 제출했다.

유출에 대한 반응은 다양했으며, 일부는 악의적인 사용을 우려했고, 일부는 접근성이 연구 개발을 촉진할 것이라고 보았다.