주목받는 토종 AI 추론 최적화 솔루션 ‘소이넷’

소이넷은 인공지능 추론 최적화 솔루션인 소이넷(SoyNet)을 개발하는 스타트업이다. 소이넷 솔루션 자체는 2018년 법인 설립 이전에 이미 1.0 버전을 선보여 포스코와 파일럿 프로그램을 진행하면서 고도화를 거쳤고 회사 설립 당시에는 2.0을 출시한 상태였다. 덕분에 설립 이후 곧바로 제품 판매에 들어가 고객을 확보할 수 있었다.

소이넷은 인공지능 모델 추론을 위한 최적화 솔루션이다. AI 시장은 크게 학습 시장과 추론 시장으로 나눌 수 있다. 학습 시장은 데이터 수집에서 가공, AI 모델 개발과 이를 관리하기 위한 도구나 서버 플랫폼 영역이 될 수 있다. 추론 시장은 학습이 끝난 AI 모델을 비즈니스 도메인에 적용하는 서비스나 애플리케이션으로 제공하는 시장.

전자의 경우 AI 모델 성능을 올리기 위한 오랜 시행착오와 많은 데이터를 기반으로 한 장시간 학습이 관건이다. 이에 비해 후자는 사용자에게 AI 기반 서비스를 빠르고 다양하게 제공하는 게 중요하다.

AI 서비스 업체 대부분이 실제 서비스나 상용화로 전환할 때 겪는 이슈는 사용자를 대상으로 추론 속도가 생각보다 느리고 최근 추세인 엣지 컴퓨팅(Edge computing)에 적용하기에는 AI 프레임워크가 너무 무겁고 AI 영역이 하루가 멀다하게 새로운 모델이 발표되는 역동성으로 인해 유연한 대응이 어렵다는 사실이다.

이런 이슈를 대부분 AI 업체는 추가 비용 투입으로 클라우드 서버나 GPU 같은 물리적 시스템을 증설하거나 FPGA, SoC 형태 하드웨어 장치를 직접 제조하는 방식으로 접근하는 실정이다. 문제는 규모가 아주 큰 업체 외에는 이런 접근 자체가 어렵다는 것이다.

소이넷은 이런 이슈를 해결하기 위해 개발한 것이다. 소이넷을 적용하면 같은 GPU 상에서 학습할 때 같은 정확도를 제공하면서 기존 AI 프레임워크보다 실행속도는 월등히 빠르다. 또 적은 GPU 자원을 차지해 경량 엣지 장비에서도 원활하게 구동할 수 있다. 그 뿐 아니라 기존 GPU 하드웨어 기반 가속기 위에서 소프트웨어적으로 추가 실행, 최적화를 실행하기 때문에 변화에도 빠르게 대응할 수 있다.

소이넷은 추론 영역에서 AI 서비스나 앱이 최대한 가볍고 빠르게 동작하도록 만드는 역할을 맡는다. 빠른 응답시간이 요구되는 자율주행이나 실시간 비전 검사, 지능형 영상 분석 등 다양한 비즈니스 요건을 해결할 때 소요되는 고가 서버나 GPU 장비 대체로 인한 비용 절감 효과를 기대할 수 있는 것.

소이넷 솔루션 기능을 다시 정리해보면 이렇다. 첫째는 AI 모델 실행 속도는 올려준다는 것. 소이넷은 복수 코어에 작업을 할당, 처리하는 과정을 최적화해 처리 속도를 높이는 역할을 한다. 회사 측은 기존 AI 프레임워크보다 보통 2∼5배 가량 향상을 기대할 수 있다고 설명한다.

둘째는 AI 모델을 실행할 때 GPU 내부 메모리 사용량을 최소화한다는 것. 셋째는 타임투마켓(Time to Market) 지원. AI 모델 학습이 끝나도 이를 상용화하려면 실행 최적화에 수 개월과 GPU 멀티 코어 기술 인력 투입이 필요하다. 소이넷은 이런 시간과 인력 투입 없이 1∼2주 안에 상용 수준 최적화를 끝낼 수 있다.

넷째는 기존 애플리케이션이나 서비스에 쉽게 융합된다는 것. 소이넷은 라이브러리 형태로 제공해 기존 앱이나 서비스에 제공되는 3∼5개 API만 갖고 사용할 수 있다. 마지막으로 AI 전문 연구자가 필요하지 않다는 것이다. 소이넷을 이용하면 기존 응용 애플리케이션 개발자는 API 몇 개만 활용하는 형태가 되어 AI에 대한 기반 지식이 없어도 손쉽게 AI 프로젝트를 진행할 수 있다.

수익 모델은 라이선스 판매와 엣지 디바이스 최적화 지원, 비즈니스 도메인에 맞는 최적화 AI 모델 개발 등을 들 수 있다. 소이넷 라이선스는 개발자 라이선스와 런타임 라이선스로 나뉜다. 런타임은 영구 라이선스와 연간 단위 구독형 2가지로 다시 분류할 수 있다. 현재 대다수 고객사는 영구 라이선스 구입고ㅘ 연간 유지 보수로 계약을 진행하고 있다.

AI 모델 개발은 무인 매장 플랫폼용 AI 모델과 플랫폼 소프트웨어 개발이나 스마트팜용 최적화 모델, 시계열 이상 징후 감지 개발 등 사례를 들 수 있다.

소이넷은 지난 2019년 S-스타트업 대상, 디캠프 실버상, 로보월드 혁신상을 수상했고 2020년에는 솔트룩스 스타트업워즈 수상과 글로벌창업사관학교 선정, AI 바우처 공급업체 등록을 한 바 있다. CIO 어드바이저 APAC에선 톱머신러닝 기업으로 선정되는 한편 2021년 들어 팁스 업체 선정까지 이어졌다.

소이넷 측은 실행 최적화 솔루션 위에서 동작하는 리테일, 지능형 영상 분석, 비전 검사, 시계열 데이터 기반 스마트 팩토리, 스마트팜 등 비즈니스 도메인을 위한 AI 응용 애플리케이션으로 영역을 넓혀가고 있다.