이 기업이 AI에도 블랙박스가 필요하다는 말하는 이유

유럽 딥테크 시장은 전 세계 시장 가운데 30%를 차지하고 있다. 미중간 기술 패권 경쟁이 치열해지면서 유럽 역시 혁신어젠다를 앞세워 이 시장 육성에 공을 들이고 있다. 사실 EU는 4억 5,000만 명이 넘는 인구를 보유한 세계에서 가장 큰 시장 중 하나로 전 세계 GDP 가운데 24%를 차지하고 있기도 한 거대 경제권이다.

에스토니아에 본사를 둔 알바랩스(ArbaLabs)는 이런 유럽 딥테크에서 출발해 우리나라를 성장 거점으로 삼은 기업이다. 이 회사가 앞세운 자산을 한마디로 말하자면 “AI용 블랙박스”다. 애슐리 리브스(Ashley Reeves) 대표는 “AI 판단이 옳은지를 따지는 게 아니라 AI가 실제로 뭘 했는지를 검증 가능한 형태로 기록하는 게 핵심”이라고 말한다. 쉽게 말해 알바랩스 제품인 알바엣지(ArbaEdge)는 AI 검증 그러니까 AI 판단이 맞았는지 틀렸는지 여부를 판단하는 게 아니다. AI가 내린 판단이 정답인지 여부를 증명하는 게 아니라 AI가 실제로 뭘 했는지 검증 가능한 형태로 기록하겠다는 것.

그런데 AI에 이런 블랙박스가 필요한 이유는 뭘까. LLM 그러니까 대형 언어 모델을 이용하면 당연하지만 결과는 무조건 나온다. 하지만 내부 작동 방식은 알 수 없다. 이런 이유로 AI를 이용하면 답은 알지만 과정은 모르는 소위 블랙박스 문제가 발생한다. 그런데 알바엣지처럼 AI가 뭘 했는지 검증 가능해진다면 AI 시스템을 이해하고 개선하는데 도움이 될 뿐 아니라 AI 출력물로 인한 윤리적, 법적 문제에 대해 도움이 될 수 있다. 신뢰성이나 안전성 측면에서 알바엣지가 “뭘 했는지 검증하는” 해석의 문제가 중요해지는 순간이다.

리브스 대표는 “AI가 소프트웨어 경계를 넘어 드론과 로봇, 스마트시티, 우주 등 물리적 환경으로 빠르게 확장되는 시대인데 정작 어떤 AI 모델이 언제 실행됐는지 결과가 이후에 바뀌지 않았는지 객관적으로 입증할 방법은 의외로 적다”고 말한다. 알바엣지가 주목하는 게 바로 이런 AI 무결성이다.

◇ 우주항공 경력‧대만에서 日 다시 韓 거쳐 다듬은 창업=그런데 리브스 대표나 알바랩스 이력을 살펴보면 조금 독특하다. 리브스 대표는 20여 년에 걸쳐 유럽과 아시아를 오갔다. 일본에서 활동하다가 2013년부터는 대만에 거주하가 싶더니 최근에는 활동 무대를 우리나라로 옮겼다.

“알바랩스 자체가 일단 유럽이 보유한 연구 개발 역량과 아시아가 갖고 있는 첨단 제조나 기술 생태계 연결을 목표로 설립된 게 가장 큰 이유죠.” 그는 아시아 진출은 처음부터 계획된 전략이었다고 말한다. 처음 에스토니아에 법인을 설립한 이유는 유럽 딥테크나 우주 산업 생태계와의 연계성 때문이다. 그는 에스토니아가 혁신 친화적 환경을 갖췄고 유럽 시장 진출에도 용이하다는 점을 꼽았다.

리브스 대표는 반면 “AI와 우주, 하드웨어 같은 분야는 결국 제조, 전자산업, 공급망과 긴밀하게 연결될 수밖에 없고 이 점에서 아시아는 중요한 지역”이라고 말한다. 이런 이유로 알바랩스는 본사를 설립한 이후 2개월 만인 7월 대만 지사를, 하반기에는 알바랩스코리아라는 국내 지사를 연이어 설립했다.

아시아 지역에서 성과도 곧바로 나왔다. 대만 베스트 AI 어워드(BEST AI Awards)에서 골드어워드(Gold Award)를 수상했고 수상은 아니지만 일본에선 테크갈라(TechGala) 최종 후보에 이름을 올렸다. 국내에선 2025년 KSGC(K-Startup Grand Challenge) 2위에 이름을 올렸다. 1년 남짓 기간 동안 우리나라와 대만, 일본 등 동아시아 대표 국가 스타트업 생태계와 산업 네트워크를 접하게 된 것이다.

리브스 대표는 그 중에서도 우리나라를 알바랩스 활동의 중심축이라고 표현했다. 물론 대만이 초기 하드웨어나 기술 네트워크 구축에 중요한 역할을 했지만 우리나라는 기술 검증 외에 사업 개발, 파트너십 구축, 더 중요한 건 향후 성장 측면에서 전략적 거점으로 자리매김하고 있다는 설명이다. 그가 KSGC 참여를 통해 국내 스타트업 생태계를 접하면서 가장 인상깊었던 부분은 생태계 연결성. “스타트업이 정부 프로그램, 대학, 연구기관, 투자자, 대기업과 빠르게 연결될 수 있다는 점은 한국만의 강점이 아닐까 해요.”

그는 우리나라가 세계 최고 수준 전자 산업과 제조 역량을 보유한 데다 최근 AI와 우주 산업에 대한 투자가 빠르게 확대되고 있다는 점에도 주목했다. 회사 입장에선 가설을 검증하고 실제 시장으로 확장하기 좋은 환경이라는 얘기다. 리브스 대표가 KSGC 이후 국내에 남아 사업을 계속하겠다고 결정한 이유도 이런 가능성 때문.

“사실 처음에는 프로그램 참가 자체가 목적이었죠. 하지만 시간이 지날수록 한국이 알바랩스 성장 핵심 거점이 될 수 있다는 확신을 갖게 됐습니다.” 그는 유럽과 아시아를 별개 시장으로 보지 않는다. 아시아에서 기술을 개발하고 검증하고 이를 바탕으로 글로벌 시장에 진출하는 걸 장기 전략으로 삼겠다는 것이다.

그의 개인 이력도 우주 산업 외에 아시아 시장에 대한 이해도를 높이는 데 도움이 됐을 터다. 그는 창업 전 9년간 ESA(European Space Agency. 유럽우주국) 관련 프로젝트, 유럽 우주 산업 생태계 관련 기관이나 기업과 함께 일해본 경험을 보유하고 있다. 이 과정에서 그는 지금 알바랩스가 초점을 맞추는 데이터 무결성은 물론 항공 우주 하드웨어 개발이나 공급망 추적성, 규제 준수 등을 경험했다. 실제로 리브스 대표는 이 기간 중 프로젝트를 수행하면서 늘 “중요한 시스템을 어떻게 신뢰할 수 있느냐”는 같은 질문을 마주했다.

이 과정에서 그는 일본, 대만, 한국으로 활동 무대를 넓혀왔다. 유럽 연구 개발 역량과 아시아 제조‧기술 생태계를 연결하는 프로젝트를 해온 것. 리브스 대표는 이런 개인적 경험을 바탕으로 AI가 소프트웨어를 넘어 드론과 로봇, 스마트시티, 우주 산업 같은 물리적 환경으로 확장되는 피지컬 AI 시대를 맞아 AI에 대한 신뢰성과 무결성을 검증할 수 있는 기술이 필요하다고 판단했다. 그게 알바랩스를 설립하게 된 가장 큰 계기였다. 결과물로 탄생한 알바랩스는 ESA 인증(ESA Verified) 기업으로 활동하면서 유럽과 아시아를 잇는 AI 신뢰성 기술 기업을 표방하게 됐다.

◇ AI를 위한 블랙박스가 필요한 이유=다시 제품 얘기로 돌아가 보자. 알바엣지를 두고 그는 AI를 위한 블랙박스라고 정의했다. 앞서 밝혔듯 알바엣지 목적은 AI 판단에 대한 OX를 가리는 게 아니다. AI가 실제로 뭘 했는지 검증 가능한 형태로 기록하는 데 초점을 맞췄다. 어떤 모델을 실행했고 언제 실행했고 어떤 설정값을 썼고 어떤 결과가 생성됐는지, 또 이후 기록이 바뀌었는지 확인할 수 있다는 얘기다. “다시 말해 AI 운영 과정 전체에 대한 감시 추적(Audit Trail), 증거 체계(Evidence Layer)를 제공한다는 것이죠.”

블랙박스는 어디에도 있다. 항공기에는 비행 기록 장치로, 자동차에는 운행 기록 장치로 블랙박스가 존재한다. 그는 알바엣지가 이런 점에서 AI 시스템을 위한 블랙박스 역할을 수행한다고 말한다.

알바엣지 제공 형태는 다양하다. 하드웨어와 소프트웨어를 결합한 형태로 제공할 수 있지만 환경에 따라선 소프트웨어 중심으로도 구축할 수 있다. 그는 중요한 건 제공 형태가 아니라 “민감한 원본 데이터를 외부에 공개하지 않고도 AI 운영 기록에 대한 무결성을 검증할 수 있다는 것”이라고 말한다.

알바랩스는 올해 발사 예정인 누리호에 알바엣지를 탑재하고 4개월 기간 예정으로 궤도상에서 PoC를 진행할 예정이다. 이미 궤도 실증(Orbital Demonstration) 캠페인 페이지도 열어둔 상태다. 리브스 대표는 이 캠페인이 자사 입장에선 정말 중요한 기술 검증 단계라고 말한다. 가장 극한 환경 중 하나인 우주에서 보유한 AI 무결성 기술이 안정적으로 동작한다면 지상 산업 환경에서도 충분히 신뢰성을 확보할 수 있다는 강력한 근거가 될 수 있기 때문.

리브스 대표가 “중요한 건 단순히 하드웨어를 우주로 보내는 게 목표가 아니라는 것”이라면서 알바랩스 목표로 궤도 환경에서 무결성 기술에 대한 안정성, 복원력, 운영 성능 검증을 꼽는 것도 이런 이유에서다. 물론 그는 창업 1년도 안 된 기업이 이 단계까지 도달한다는 것 자체도 의미 있는 이정표라고 말한다. “이 프로젝트가 한국 우주 산업 생태계와 협력을 통해 이뤄진 결과라는 점에서도 의미가 큽니다.”

그는 직접 겪은 개인적 경력이나 전문성이 항공우주 분야를 알바랩스의 첫 시장으로 만든 점은 인정한다. 하지만 AI 진입 분야에 경계가 없듯 AI 무결성 역시 특정 산업에 국한되지 않는다. 리브스 대표는 스마트시티나 드론‧무인 이동체, 산업 자동화, 로봇, 교통 인프라, 공공 인프라 등을 말 그대로 “AI가 실제 환경에서 의사 결정을 수행하는 모든 산업이 잠재적 적용 대상”으로 정의한다.

실제로 알바랩스는 최근 광명시 G-스마트 허브 오픈랩(G-SMART HUB Open Lab)에 선정되면서 스마트시티에 대한 기술 적용 범위를 모색하게 됐다. 그는 아직 공개되지 않은 프로젝트나 상업적 논의를 진행 중인 기업도 있지만 공개는 어렵지만 기술 검증 분야가 점점 확대되는 만큼 추가 파일럿 프로젝트 진행을 기대하고 있다.

◇ 우주에서 스마트시티까지…알바랩스가 꿈꾸는 시장=알바랩스가 구축하려는 비즈니스 모델은 크게 3가지다. 소프트웨어 라이선스, SaaS 기반 구독 모델, 기업이나 기관을 대상으로 한 맞춤형 구축 프로젝트가 그것이다. 그는 잠재 고객으로 항공우주 기업 외에도 제조업체, 인프라 운영 기관, 정부 기관, AI를 실제 환경에서 활용하는 다양한 조직으로 본다. 물론 알바랩스가 아직 설립 1년이 안 된 초기 기업이지만 리브스 대표는 가장 중요한 목표로 단기적 매출 규모보다 신뢰할 수 있는 고객 사례 발굴, 장기적인 반복 매출 구조 구축을 꼽는다. 지금 기술 검증이나 파일럿 프로젝트 등에 집중하는 이유도 이런 신뢰 구축을 위한 것이다.

리브스 대표는 현재 기술창업비자(D-8-4)를 받고 국내에서 사업을 운영하고 있다. 그의 표현을 빌리자면 지난 몇 개월 사이 한국은 알바랩스 활동의 중심축이 되고 있다. 그는 에스토니아는 유럽 시장 진출과 현재 파트너십을 위한 기반으로, 영국은 산업 전문가와 자문단 거점, 대만은 기술‧산업 네트워크 측면에서의 중요성을 본다. 그럼에도 그는 현재 시점 가장 많은 성장 가능성과 사업 기회를 보고 있는 곳으로 주저 없이 한국을 꼽는다.

리브스 대표가 한국에서 사업을 하면서 가장 놀랐던 건 스타트업을 지원하는 구조가 잘 연결되어 있다는 것이다. 정부 프로그램과 대학, 연구기관, 투자자, 대기업이 긴밀하게 연결되어 있어 스타트업이 이런 네트워크에 접근할 기회도 많다는 것이다. 그는 “그 중에서도 딥테크 분야에선 상당히 적극적 지원이 이뤄지고 있다고 느꼈다”고 말한다. “외국인 창업가 입장에서도 한국은 역동적이고 글로벌 시장을 지향하는 국가라고 느껴요.” 실제로 KSGC 종료 이후 한국에 그가 남기로 결정한 이유 중 하나가 이런 생태계 가능성이었다는 설명이다.

그는 앞으로 5년 뒤 알바랩스의 미래에 대해 “신뢰할 수 있는 AI(Trusted AI) 인프라 분야를 대표하는 기업 중 하나를 희망한다”고 밝혔다. 이를 위해 그는 한국에서 기술을 개발‧검증하고 이를 기반으로 유럽과 아시아를 포함한 글로벌 시장으로 확장할 계획이다. “AI가 실제 세상에서 안전하고 신뢰할 수 있게 운영되도록 돕는 핵심 기술 기업으로 성장하는 것. 그게 목표입니다.”