“기업용 생성형AI 플랫폼 구축 돕습니다”

라미니(lamini)는 기업이 AI 기술을 배포하는 데 도움을 주는 플랫폼을 구축 중인 미국 팔로알토 소재 스타트업. 이곳은 얼마 전 스탠퍼드 컴퓨터 과학 교수 앤드류 응 등 투자자로부터 2,500만 달러를 조달했다.

이들은 많은 일반화된 AI 플랫폼은 기업 수요를 충족시키기에는 너무 일반적이며 기업 대상 솔루션과 인프라가 부족하다고 주장한다. 이에 반해 라미니는 처음부터 기업을 위해 구축됐으며 높은 수준으로 일반화된 AI 정확도와 확장성을 제공하는 데 초점을 맞추고 있다.

라미니 측은 거의 모든 CEO와 CIO, CTO에게 최우선 과제는 조직 내에서 일반화된 AI를 최대 ROI로 활용하는 것이라며 개별 개발자를 위한 노트북에서 데모를 실행하는 것은 쉽지만 실제 운영 단계에 이르기까지는 실패가 도처에 산재해 있다고 말한다.

실제로 많은 기업이 비즈니스 전반에 걸쳐 의미 있게 일반화된 AI를 수용하는 데 어려움을 겪고 있다. MIT인사이트 3월 조사에 따르면 기업 75%가 일반화된 AI를 실험한 반면 광범위하게 도입한 기업은 9%에 불과하다. 주요 장애물로는 IT 인프라와 역량 부족, 열악한 거버넌스 구조, 기술 부족, 높은 구현 비용 등이 있다. 보안도 주요 요인으로 최근 인사이트 엔터프라이즈 조사에선 기업 38%가 보안 문제 탓에 일반화된 AI 기술 활용에 어려움을 겪고 있다고 답하기도 했다.

라미니 내 모든 기술 스택은 하드웨어에서 소프트웨어에 이르기까지 기업 규모로 일반화된 AI 워크로드에 최적화되어 있다는 설명이다. 여기에는 모델 오케스트레이션, 파인튜닝, 실행과 트레이닝을 지원하는 엔진이 포함된다. 라미니는 메모리 튜닝이라고 부르는 기법을 적용하고 있는데 이는 모델을 데이터로 학습해 해당 데이터 일부를 정확히 기억하도록 하는 기법이다. 메모리 튜닝은 잠재적으로 모델이 요청에 대해 사실을 만들어내는 현상인 환상을 줄일 수 있다고 한다.

메모리 튜닝은 중요한 사실, 숫자, 데이터를 포함한 기밀 데이터로 모델을 훈련하는 파인튜닝만큼 효율적인 훈련 패러다임으로 모델이 높은 정확도로 중요 정보를 정확히 기억하고 재생할 수 있도록 하며 일반화나 환상을 일으키지 않는다는 것.

라미니 플랫폼은 그 뿐 아니라 폐쇄망 환경을 포함한 고도의 보안 환경에서도 작동할 수 있다. 라미니를 통해 기업은 온프레미스 데이터센터에서 퍼블릭 혹은 폐쇄형 클라우드에 이르기까지 다양한 구성 환경에서 모델을 실행, 파인튜닝 및 트레이닝할 수 있다. 또 애플리케이션이나 사용 사례에 따라 필요하면 1,000개 이상 GPU까지 확장할 수 있는 유연성이 있다.

이를 통해 현재 시장에선 인센티브가 균형을 잃고 있으며 기밀 모델에 통제권이 몇몇 업체에만 집중되어 있지만 라미니 측은 이런 통제권을 다시 많은 사람들, 그 중에서도 통제권과 타인이 소유한 데이터로 인해 가장 큰 손실을 입을 수 있는 기업에 돌려주려 한다고 말한다.

라미니의 기업 대상 일반화된 AI 플랫폼 일부 측면과 경쟁할 수 있는 업체로는 구글, AWS, 마이크로소프트 등 대기업이 있다. 구글, AWS, 오픈AI는 최근 기업을 대상으로 공격적인 영업을 벌이며 스트림라인 파인튜닝, 프라이빗 데이터에 대한 프라이빗 파인튜닝 같은 기능을 선보이기도 했다. 라미니에 대한 자세한 내용은 이곳에서 확인할 수 있다.