리퀴드AI, 검색·결제용 저지연 AI 추론 엔진 공개

인공지능(AI) 개발 기업 리퀴드AI(Liquid AI)가 지연 시간을 줄이는 데 초점을 맞춘 추론 엔진 리퀴드 RIPL(Liquid RIPL)을 발표했다.

검색 순위 생성이나 상품 추천 시스템, 결제 승인 같은 작업에 AI를 쓰려면 지연을 얼마나 줄이느냐가 관건이다. 리퀴드 RIPL은 저지연 성능을 목표로 개발한 추론 엔진이다. 리퀴드AI 모델과 함께 써 빠른 응답 속도를 낸다.

회사는 3가지 조건에서 지연 시간을 비교한 결과를 공개했다. LFM2.5-350M을 리퀴드 RIPL로 실행한 경우와 같은 모델을 vLLM으로 실행한 경우, 큐원3.5-0.8B(Qwen3.5-0.8B)를 vLLM으로 실행한 경우다. 초당 요청 수에 따른 지연 시간 변화를 보면 같은 LFM2.5-350M끼리 비교해도 리퀴드 RIPL 쪽 지연이 더 낮았다.

미니CPM5(MiniCPM5)와 그래니트 4.2(Granite 4.2), 큐원3.5를 각각 vLLM으로 실행한 경우와 LFM2.5를 리퀴드 RIPL로 실행한 경우를 비교한 결과도 나왔다. LFM2.5-1.2B를 리퀴드 RIPL로 실행하면 큐원3.5-0.8B를 vLLM으로 실행할 때보다 지연을 14.4분의 1로 줄일 수 있다.

리퀴드 RIPL은 H200이나 RTX 프로 6000 같은 엔비디아(NVIDIA) GPU에서 리퀴드AI 모델을 돌리는 용도로 쓸 수 있다. 요금은 공개하지 않았다. 도입을 검토하는 기업은 리퀴드AI 영업팀에 따로 문의해야 한다. 관련 내용은 이곳에서 확인할 수 있다.