LLaMA2 무료로 누구나 브라우저에서 써본다?

메타가 발표한 상용 이용도 가능한 대규모 언어 모델 LLaMA 2를 누구나 무료로 브라우저상에서 시험해볼 수 있는 LLaMA2 챗봇(LLaMA2 Chatbot)이 공개됐다.

LLaMA2 챗봇을 이용하면 화면 왼쪽 메뉴 부분에서 모델과 매개변수를 바꾸거나 채팅 기록을 삭제할 수 있다. 선택할 수 있는 모델은 파라미터 수가 700억인 LLaMA2-70B, 파라미터 수 130억인 LLaMA2-13B, 파라미터 수 70억인 LLaMA2-7B 3개다. 모델 선택 영역 아래에는 수치가 높으면 출력 무작위성 증가(Temprature), 수치가 높으면 단어 선택 다양성이 높아지는 것(Top P), 문장 최대 길이(Max Sequence Length) 3개 파라미터를 자유롭게 바꿀 수 있다. 또 채팅 기록 삭제(Clear Chat History)도 할 수 있다. 채팅은 화면 아래에 있는 텍스트 상자에 문자를 입력하면 된다.

이 챗봇을 개발한 건 벤처캐피털 안드레센호로위츠에서 AI나 LLM을 연구하고 있는 인물(Rajko Radovanović)이다. 그는 LLaMA 2에 대해 창조적인 작업과 상호 작용의 경우 성능은 GPT-3.5와 같지만 매개변수 수가 훨씬 적다고 밝히고 있다. LLaMA2 챗봇 소스 코드는 깃허브에 게시되어 있다. 소스 코드와 코그(Cog)를 이용해 자체 LLaMA2를 배포할 수도 있다. AI 모델을 쉽게 배포할 수 있는 리플리케이트로 만든 LLaMA2 API 토큰도 공개된다. 관련 내용은 이곳에서 확인할 수 있다.