타입세이프AI, LLM보다 빠르고 저렴한 모델 ‘제브’ 출시

챗GPT(ChatGPT) 공동 개발자 디오고 알메이다(Diogo Almeida)가 설립한 타입세이프 AI(TypeSafe AI)가 텍스트 대신 확률을 출력하는 새로운 모델 제브(Jev)를 출시했다.

제브는 대규모언어모델(LLM)이 아닌 시스템 원(System One) 모델로 텍스트를 생성하지 않고 대신 확률, 즉 회사가 교정된 결정(calibrated decisions)이라고 부르는 것을 출력한다. 언어를 배제함으로써 모델을 극도로 저렴하고 빠르게 만들었으며 사용자가 출력을 미리 정의하기 때문에 환각(hallucination)이 발생할 수 없다. 출력 토큰은 무료이며 입력 토큰은 백만 단위가 아닌 10억 단위로 측정된다.

타입세이프에 따르면 제브는 프런티어 LLM보다 40~200배 빠르고 비용은 40~400배 저렴하다. 입력 토큰은 백만 개당 0.042달러(10억 개당 42달러)이며 출력 토큰은 무료다. 이는 클로드 패블 5.1의 입력 가격보다 약 238배 낮은 수준이다. 응답 시간은 70~500밀리초로 비교 테스트에서 LLM의 3~329초보다 훨씬 빠르다.

개발자들이 제품에 큰 관심을 보이고 있으며 수요가 너무 많아 일시 중단되도 했다. 제브는 소프트웨어 자동화에 가장 유용해 보이며 버셀은 오픈에이아이의 루나(Luna) 5.6을 제브로 대체한 결과 5~18배 더 빠르고 더 정확한 결과를 얻었다고 밝혔다.