보안 전문가 “클로드 페이블‧미토스 중단 명령 해제하라”

고도의 사이버 공격이 가능하다는 이유로 제한된 조직을 대상으로만 한정 공개되어 있던 앤트로픽의 AI 모델 클로드 미토스 프리뷰 업그레이드판인 클로드 미토스 5(Claude Mythos 5)와 보안 대책을 적용한 정식판인 클로드 페이블 5(Claude Fable 5)가 6월 9일 등장했다. 그런데 이 모델은 6월 13일 미국 정부 지시로 공개가 중단됐다. 이 조치에 대해 모델을 공개하지 않게 되어 사이버 보안상 불이익이 발생한다며 기술 기업과 보안 연구소 전문가가 정부에 규제 해제를 요구하는 공개서한을 제출했다.

클로드 미토스는 사이버 보안과 관련된 능력이 높아 기존 취약점을 발견하는 데 뛰어나다. 이 능력은 보안을 향상시키려는 방어 측에 도움이 되는 반면 취약점을 악용하려는 공격 측에도 이용될 우려가 있다는 점에서 한동안 일부 조직에 한정해 공개되어 왔다.

이후 다양한 보안 대책을 적용한 일반 공개판 클로드 페이블 5와 일부 조직을 대상으로 한정 공개되는 클로드 미토스 5가 등장해 일반 사용자도 이용할 수 있게 됐지만 직후 미국 정부로부터 수출 규제 지령이 내려져 공개가 중단됐다. 이 이유에 대해 미국 정부는 모델이 부적절한 출력을 하도록 만드는 탈옥 기법이 존재한다는 점을 우려했기 때문이라고 전해진다.

이 중단 조치에 대해 충분한 이유도 없이 최고의 능력을 방어 측으로부터 빼앗는 건 위험하다며 컴퓨터 과학자 알렉스 스타모스(Alex Stamos)와 사이버 보안 전문가 유진 H. 스패포드(Eugene H. Spafford) 등 100명 이상이 연명으로 공개서한을 제출했다.

서한 서두에는 미국 및 그 동맹국의 경영자·기술 리더 서명자 일동은 앤트로픽 페이블 및 미토스 모델에 대한 수출 규제 지령을 해제하고 향후 AI 리스크 평가 취급에 관해 개방적이고 과학적이며 투명성 있는 프로세스에 임할 걸 요구하기 위해 본 서한을 보낸다고 적혀 있다.

서명자는 앤트로픽 미토스급 모델이 취약점 발견과 무기화에 뛰어난 한편 그 성능에서 유일무이한 건 아니며 공격 용도로의 이용을 막기 위해 여러 보호 기능이 내장되는 등 안전성에 뛰어나다고 지적했다. 미국에게 적대국인 중국 AI 능력은 미국보다 조금 뒤떨어질 뿐이며 일반에 공개되지 않은 고성능 모델이 있을지도 모르고 그런 가능성이 있는 상태에서 충분한 이유도 없이 보안 성능이 뛰어난 모델을 이용할 수 없게 만드는 건 위험하다고 덧붙였다.

정부는 수출 규제 지령에 대한 구체적인 발령 이유를 밝히지 않았지만 스타모스는 취약점에 대한 개념 증명을 작성할 수 있는 기능이 정부를 경계하게 만든 것으로 보인다고 추측했다. 스타모스는 개념 증명은 분명 공격 측이 시스템에 침입하기 위한 코드를 작성할 가능성이 있지만 동시에 방어 측이 시스템을 보호하는 방법을 이해하는 데에도 도움이 된다고 말했다.

서명자 중 1명이자 보안 기업 루타 시큐리티(Luta Security) CEO인 케이티 무수리스(Katie Moussouris)는 정부가 확인한 것으로 보이는 탈옥 기법 연구 논문을 확인하고 강압적이고 성급한 수출 규제 지령은 잘못된 판단이었다고 결론지었다. 무수리스 CEO에 따르면 이 연구는 모델에게 보안상 문제가 없는지 코드를 검토해달라고 의뢰하면 거부하지만 이 코드를 수정해달라고 의뢰하면 실행한다는 결과를 보여준 것이라고 한다. 무수리스 CEO는 수정 지시가 작동한 건 방어적인 요구였기 때문이며 이런 지시는 일반적이라며 그 기능을 이유로 공개를 중단하면 방어력을 손상시킨다는 의도치 않은 결과를 초래한다고 밝혔다.

서명자는 정부가 우려하는 것과 같은 기능은 오픈AI GPT-5.5, 앤트로픽 클로드 오푸스와 클로드 소넷, 나아가 중국 문샷AI가 개발한 키미 2.7 같은 모델에서도 재현 가능하며 앤트로픽 일부 모델만 규제해도 의미가 없다고 밝혔다.

서한은 맺음말에서 우리 모두가 AI 규제야말로 나아가야 할 길이라고 생각하는 건 아니라며 하지만 국가 중요 인프라를 보호한다는 본 정권의 칭찬할 만한 목표에 모델 규제가 포함된다면 그 규제는 산업계 및 학계의 의견을 반영해 책정된 과학적 평가에 근거하고 민주적인 규칙 책정 프로세스를 통해 만들어질 필요가 있다고 적었다. 관련 내용은 이곳에서 확인할 수 있다.

한편 AI 모델 API 제공 서비스를 운영하는 오픈라우터(OpenRouter)가 서로 다른 AI를 조합해 실행할 수 있는 시스템인 퓨전(Fusion)을 출시했다. 퓨전은 클로드 오퍼스 4.8과 GPT-5.5, 클로드 오퍼스 4.8과 GPT-5.5, 제미나이 3.1 프로 등 고성능 모델끼리를 조합해 실행할 수 있으며 클로드 페이블 5를 뛰어넘는 벤치마크 점수를 기록하는 데도 성공했다.

퓨전은 사용자 입력을 여러 모델에 병렬 전송하고 모델별 응답을 심사 모델이 읽어 구조화된 분석 결과를 생성한 뒤 호출 모델이 분석 결과를 바탕으로 최종 답변을 생성하는 방식으로 동작한다. 오픈라우터 계정이 있으면 퓨전을 활용한 채팅을 체험할 수 있다.

한편 퓨전 공개 직후인 6월 14일에는 딥시크 V4 프로와 딥시크 V4 플래시, 키미 K2.6을 지정했음에도 심사 모델로 클로드 오퍼스 4.8이 사용되는 현상이 보고된 바 있다. 오픈라우터 개발자는 해당 현상이 버그임을 인정하며 수정을 약속하기도 했다. 관련 내용은 이곳에서 확인할 수 있다.