맥 모아서 가상 GPU 클라우드를…애플, 미니언즈 개발

애플 연구팀이 쓰지 않는 맥(Mac) GPU를 네트워크로 모아 AI 처리에 활용하는 분산 시스템 미니언즈(Minions)를 개발했다. 미니언즈는 이미 애플 사내에서 운영 중이며 길게는 10시간 넘게 걸리던 GPU 이용 대기 시간을 몇 분으로 줄인 것으로 나타났다.

AI 모델을 돌리려면 막대한 연산이 필요하고 그중에서도 GPU가 핵심 역할을 맡는다. 하지만 AI용 GPU는 값이 비싸 회사 안에서 여러 팀이 한정된 GPU를 나눠 쓰다 보면 작업을 시작하기까지 오래 기다려야 하는 경우가 생긴다. 반면 애플실리콘(Apple Silicon)을 탑재한 맥에는 고성능 GPU가 들어 있지만 일상 업무에서는 그 처리 능력 상당 부분이 놀고 있다.

애플 연구팀이 이 점에 착안해 만든 게 미니언즈다. 미니언즈는 사내 여러 맥의 남는 GPU 자원을 모아 가상 GPU 클라우드처럼 쓰는 구조다. GPU 서버를 새로 사지 않고도 기존 맥으로 AI 처리 능력을 확보할 수 있다.

◇ 큰 작업 쪼개 여러 맥에 배분=미니언즈는 큰 작업을 작은 작업 여러 개로 나눠 네트워크에 연결된 맥에 각각 맡긴다. 각 맥에서는 미니언 익스큐터(Minion Executor)라는 프로그램이 돌아가며 처리할 수 있는 작업을 가져와 애플실리콘 GPU로 실행한다. 처리가 끝나면 결과는 아마존 S3(Amazon S3)에 저장된다.

미니언즈가 지원하는 작업은 2가지다. 문장 같은 데이터를 AI가 다루기 쉬운 수치 형태로 바꾸는 임베딩 생성과 대규모언어모델(LLM)을 이용한 텍스트 생성이다. 임베딩 생성에는 허깅페이스(Hugging Face) 오픈소스 모델을 쓰고 텍스트 생성에는 맥에서 LLM을 로컬로 실행할 수 있는 올라마(Ollama)를 쓴다. 모델 하나를 여러 맥에 나눠 돌리는 방식이 아니라 각 맥이 독립적으로 작업을 처리한다.

작업 중인 맥이 잠자기 모드로 들어가거나 네트워크 연결이 끊기거나 사용자가 처리를 멈출 수도 있다. 이에 대비해 각 맥은 5분마다 하트비트라는 가동 상태 신호를 서버에 보낸다. 이 신호를 감시하는 미니언 워치독(Minion Watchdog)이 응답이 끊긴 맥을 찾아내면 그 맥이 맡았던 미완료 작업을 대기열로 되돌린다. 덕분에 다른 맥이 작업을 넘겨받아 다시 처리할 수 있다.

맥 주인은 자기 GPU를 어느 팀이나 프로젝트 작업에 우선 쓸지 정할 수도 있다. 애플에 따르면 사내에서는 슬랙(Slack)으로 팀원들에게 미니언 익스큐터를 켜 달라고 요청해 특정 프로젝트에 연산 능력을 모으기도 한다.

◇ 추가 GPU 구매 없이 대기 시간 단축=실제 운영에서는 기존 GPU 환경에서 10시간 넘게 기다려야 했던 작업을 미니언즈로 몇 분 안에 시작한 사례가 확인됐다. 연구팀은 GPU를 추가로 조달할 필요가 없어졌고 기존 하드웨어를 활용해 인프라 추가 비용을 0으로 묶었다고 밝혔다. 다만 이 비용 평가에는 전기요금과 하드웨어 소모는 들어가지 않았다.

과제로는 데이터 기밀성이 꼽혔다. 다른 팀이나 조직이 관리하는 맥에서 AI 작업을 돌리면 사내 데이터라 해도 정보 유출 우려가 따른다. 미니언즈는 이 문제에 대응해 팀이나 조직별로 데이터베이스와 작업을 맡는 맥 그룹을 분리하는 장치를 갖췄다.

기사 작성 시점에 미니언즈가 지원하는 건 AI 모델로 결과를 만들어내는 추론 작업뿐이지만 연구팀은 앞으로 모델 학습도 지원할 계획이라고 밝혔다. 서로 다른 조직이나 전 세계 맥을 안전하게 연결할 수 있다면 막대한 GPU 자원을 공유하는 대규모 분산 컴퓨팅 기반을 만들 수 있을 것이라는 게 연구팀 설명이다. 관련 내용은 이곳에서 확인할 수 있다.