美 정부 금지했지만…프로젝트 글래스윙에는 미토스 계속 제공중

앤트로픽은 고도의 사이버 공격이 가능할 정도로 높은 성능을 지닌 AI 모델 클로드 미토스 프리뷰(Claude Mythos Preview) 업데이트판인 클로드 미토스 5와 클로드 페이블 5(Claude Fable 5)를 지난 6월 9일 출시했지만 미국 정부 국가안보 당국 지시에 따라 6월 13일 두 모델에 대한 제공 중단을 발표했다. 하지만 클로드 미토스 프리뷰 초기 테스트에 참여했던 일부 조직은 여전히 해당 모델 접근 권한을 유지하고 있다는 보도가 나왔다.

앤트로픽은 클로드 미토스 프리뷰를 4월 7일 발표하고 사이버 방어 능력 강화를 목적으로 일부 조직을 대상으로 제공했다. 이후 6월 9일 클로드 미토스 프리뷰의 업데이트판으로 출시된 게 클로드 페이블 5와 클로드 미토스 5로 일부 조직에만 제공되는 클로드 미토스 5가 보안 제한이 없는 한정판, 일반에 공개된 클로드 페이블 5가 보안 제한이 있는 제품판이라는 위치를 차지한다.

하지만 앤트로픽은 6월 13일 9시 50분경 클로드 페이블 5 및 클로드 미토스 5 제공 중단을 발표했다. 앤트로픽 측 발표에 따르면 미국 정부 국가안보 당국으로부터 미국 국내외를 막론하고 앤트로픽 외국인 직원을 포함한 모든 외국인에 대한 클로드 페이블 5 및 클로드 미토스 5 제공을 중단하라는 내용을 담은 수출 관리 명령이 내려졌다고 한다. 앤트로픽은 명령을 준수하기 위해 모든 고객에 대한 클로드 페이블 5 및 클로드 미토스 5 제공 중단을 결정했다. 미국 정부 측 중단 명령은 중국 정부와 관련된 그룹이 접근한 의혹이 있기 때문이라고 지적되거나 아마존 CEO인 앤디 재시(Andy Jassy)가 정권 당국자에게 사이버 공격에 악용될 수 있는 정보를 해당 모델이 출력했다는 우려를 전달한 것 등이 계기가 됐다고 보도되고 있다.

이런 가운데, 6월 18일 보도에 따르면 앤트로픽이 클로드 미토스 프리뷰 초기 테스트로 모델을 제공한 일부 기업은 클로드 페이블 5와 클로드 미토스 5 규제 명령이 발령된 이후에도 여전히 클로드 미토스 프리뷰에 대한 접근을 유지하고 있다고 한다.

앤트로픽은 클로드 미토스 프리뷰 발표 당시 AI 개발 속도를 고려하면 악용 위험이 높은 AI가 널리 공개되는 건 시간문제라며 공격자에 의한 악용이 시작되기 전에 AI를 방어 목적으로 사용하는 긴급한 노력으로 프로젝트 글래스윙(Project Glasswing)을 시작했다. 프로젝트 글래스윙은 여러 조직에 클로드 미토스 프리뷰 등 AI 모델에 대한 접근 권한을 부여해 취약점 발견에 활용하는 노력으로 초기 참여 조직에는 AWS, 앤트로픽, 애플, 브로드컴, 시스코, 크라우드스트라이크, 구글, JP모건 체이스, 리눅스 재단, 마이크로소프트, 엔비디아, 팔로알토 네트웍스가 포함됐으며 이후 대상 조직이 200곳 안팎까지 확대됐다.

이 가운데 시스코와 산업 제어 시스템용 보안 기업인 드라고스(Dragos)는 현재도 클로드 미토스 프리뷰에 대한 접근을 유지하고 있다고 인정했다.

한편 프로젝트 글래스윙 참여를 요청받았던 유럽연합 사이버보안청(ENISA)은 6월 19일 시점 접근이 더 이상 허용되지 않게 됐다는 취지의 통지를 받았다고 밝혔다. ENISA는 앤트로픽과 협의를 이어가면서 타사 AI도 검토하고 있다고 언급했다. 앤트로픽은 프로젝트 글래스윙 참여 조직 접근 관리 방식에 대한 논평 요청에 응하지 않았다. 관련 내용은 이곳에서 확인할 수 있다.