깃허브 코파일럿, 복수 AI 모델 자동 분배 모드 공개했다

깃허브가 9월 4일 깃허브 코파일럿(GitHub Copilot)에서 작업에 따라 여러 AI 모델을 나눠 쓰는 프로젝트 하이드라퓨전(Project HydraFusion)을 리서치 프리뷰로 발표했다. 깃허브 자체 평가에서는 터미널벤치 2.1 기준으로 클로드 오퍼스 5와 비교해 추정 비용을 67% 줄이면서 제대로 완료한 작업 비율은 4.9%포인트 높았다.

AI를 쓴 프로그래밍에서는 간단한 코드 생성부터 복잡한 수정까지 의뢰 내용 난이도 차이가 크다. 고성능 AI 모델은 어려운 작업에 강한 반면 처리 시간과 이용 비용이 늘기 쉽다는 문제가 있다.

깃허브 코파일럿에는 이전부터 의뢰 내용에 맞는 AI 모델을 고르는 자동 모델 선택 기능이 있었다. 하이드라퓨전은 자동 모델 선택에서 한발 더 나아가 작업 하나에서도 필요에 따라 여러 AI 모델을 조합해 처리하는 구조다.

하이드라퓨전은 의뢰 내용에 따라 모델 하나로만 답하는 방식과 처음 모델에서 충분한 결과가 나오지 않으면 고성능 모델로 넘기는 방식, 다른 모델에 답변 내용을 확인시킨 뒤 수정하는 방식 등을 나눠 쓴다. 개발자는 하이드라퓨전을 선택하기만 하면 되고 어떤 처리 방식과 모델을 쓸지는 자동으로 정해진다.

깃허브는 하이드라퓨전을 코딩용 벤치마크 여러 개로 평가했다. 터미널벤치 2.1에서는 클로드 오퍼스 5와 비교해 추정 비용이 67% 낮아졌고 제대로 완료한 작업 비율은 4.9%포인트 올랐다.

하이드라퓨전은 모든 깃허브 코파일럿 요금제에서 깃허브 코파일럿 CLI 실험 기능으로 쓸 수 있으며 실제로 호출된 각 AI 모델 토큰 사용량과 통상 요금을 근거로 요금이 계산된다. 깃허브는 앞으로 긴 대화가 필요한 작업에서도 검증을 진행할 예정이며 리서치 프리뷰에서 얻은 결과에 따라 모델 구성이나 처리 방식 등을 바꿀 수 있다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.