챗GPT 삭제 건수 3배 증가‧앤트로픽 CEO “오픈AI, 새빨간 거짓말”

앤트로픽(Anthropic)은 미 국방부와의 AI 활용 계약에서 완전 자율형 무기 개발에 AI를 사용하지 않는다는 AI 안전 조치를 설정했고 이로 인해 AI를 모든 용도로 활용하길 원하는 국방부로부터 계약을 파기 당했다. AI 활용 방식을 둘러싼 국방부와의 협의가 한창이던 시기 앤트로픽이 자율형 드론 군집 제어 콘테스트에 참가를 신청했다는 사실이 새롭게 밝혀졌다.

보도에 따르면 앤트로픽은 음성 조작을 통한 자율형 드론 군집 제어 기술을 겨루는 국방부 콘테스트에 참가를 신청했다. 신청 시점은 2026년 초로 자사 기술의 군사 활용을 두고 국방부와 협의 중이던 시기였다고 전해진다.

이 콘테스트는 이전부터 존재가 알려져 있었으며 음성 명령을 디지털 지시로 변환해 복수 드론을 운용할 수 있는 고도화된 기술 개발을 목적으로 했다고 전해진다. 복수 드론을 동시에 비행시키는 것 자체는 이미 가능하지만 해상과 공중에서 복수 드론을 군집으로 지휘하고 표적을 추적하면서 자율적으로 이동시키는 소프트웨어 개발은 여전히 과제로 남아 있으며 국방부는 이를 실현할 수 있는 기업을 찾고 있었다.

이 같은 콘테스트에 앤트로픽이 참가했다는 사실은 앤트로픽이 내세우는 AI 안전 조치와 모순이 발생하는 것 아니냐는 지적이 나온다. 앤트로픽은 정부 기관을 대상으로 자사 AI 클로드(Claude) 커스텀 모델을 제공하는 한편 국민 대규모 감시 및 완전 자율형 무기 개발은 명확히 금지해 왔다. 미 국방부는 규제 완화를 타진했지만 앤트로픽이 이를 거부했고 국방부는 관계 해소 또는 제한 철폐 중 하나를 선택하도록 압박했다. 결과적으로 앤트로픽이 입장을 고수하자 국방부는 관계 해소를 선택했으며 나아가 앤트로픽을 국내 기업에는 적용한 전례가 없는 공급망 리스크로 지정해 정부 기관에서의 사용을 제한하는 보복 조치를 취했다.

사정에 정통한 관계자에 따르면 앤트로픽은 콘테스트에서의 기술 개발이 자사 안전 조치에서 벗어나는 것이라고는 판단하지 않았다고 한다. 앤트로픽 측 제안은 자사 AI인 클로드를 활용해 지휘관 의도를 디지털 지시로 변환하고 드론 함대를 통솔하는 데 초점을 맞춘 것이었다. 관계자에 따르면 자율적인 표적 선정이나 무기 사용 판단에 AI를 활용하는 게 아니며 최종적으로 인명을 위협할 수 있는 드론 군집을 만들어낼 가능성은 있지만 필요에 따라 인간이 감시하고 시스템을 중단할 수 있는 설계가 될 예정이었다고 한다.

또 인간이 시스템을 감독하는 체계도 갖출 예정이었으며 자율형 무기 능력을 안전하게 개발·평가하기 위해 국방부와 공동 연구 프로그램을 설립하고자 했다고 관계자는 덧붙였다.

관계자에 따르면 앤트로픽은 선정 기업에 포함되지 않았지만 이유는 알려지지 않았다. 앤트로픽은 국내 대규모 감시와 완전 자율형 무기를 제외한 전투에서의 광범위하고 합법적인 AI 활용을 지지한다고 거듭 주장해 온 기업이지만 자율형 무기 시스템 운용에 AI가 충분히 성숙하지 않았으며 신뢰성도 부족하다는 입장을 밝혀왔다.

앤트로픽은 AI를 자율형 무기 시스템에 응용하려는 국방부와의 결렬로 정부 기관 내 입지를 잃게 됐다. 국무부, 재무부, 보건복지부 고위 관계자는 직원에게 클로드 사용을 중단하고 오픈AI 챗GPT나 구글 제미나이 등 다른 AI를 사용하도록 지시한 상태다. 이번에 화제가 된 콘테스트에는 스페이스X와 xAI도 참가했다고 보도됐다. 관련 내용은 이곳에서 확인할 수 있다.

한편 앤트로픽이 감시 및 군사 목적의 클로드 제한 해제를 요구하는 미국 국방부와 대립하다 결국 앤트로픽이 미국 정부로부터 공급망 리스크로 지정되고 오픈AI가 새롭게 AI 이용 계약을 체결하는 사태로 이어진 걸 계기로 챗GPT 인기가 하락하는 반면 앤트로픽 인기가 급상승하는 현상이 앱 시장 조사 결과로 확인됐다.

앤트로픽과 국방부의 협상이 결렬된 직후 국방부와 새로운 AI 이용 계약을 체결한 건 오픈AI였다. 샘 알트만(Sam Altman) CEO는 계약은 명백히 너무 서둘렀고 보기에도 좋지 않았지만 자사는 정말 사태를 진정시키고 싶었다며 국방부와 AI 업계 간의 긴장 완화를 위해 계약에 나섰다고 언급했다.

오픈AI가 계약을 체결한 걸 계기로 인터넷상에서는 챗GPT를 취소하라는 움직임이 일었고 동시에 정부와 대립한 앤트로픽을 지지하는 흐름이 형성되면서 앤트로픽의 클로드 앱이 앱스토어 순위에서 1위에 오르기도 했다. 이런 흐름을 기회로 삼아 앤트로픽은 전환 사용자를 확보하기 위해 무료 이용자에게도 메모리 기능을 개방했으며 다른 AI 메모리를 불러오는 가져오기 기능도 추가했다.

보도에서 시장 정보 제공업체 센서타워(Sensor Tower)로부터 제공받은 데이터로 보도한 바에 따르면 챗GPT 앱에 대한 미국 내 삭제 건수는 지난 30일간 통상적인 전일 대비 증가율이 9%였던 데 비해 오픈AI와 미 국방부의 계약이 화제가 된 2월 28일에는 전일 대비 295% 증가했다. 또 같은 날 다운로드 수는 전일 대비 13% 감소했고 다음 날인 3월 1일에도 전일 대비 5% 감소했다. 반면 제휴 발표 전인 2월 27일에는 다운로드 수가 전일 대비 14% 증가했었다.

아울러 챗GPT 앱에 대한 낮은 평가를 의미하는 별 1개짜리 리뷰는 28일 기준 전일 대비 775% 증가했으며 다음 날인 3월 1일에도 전일 대비 100% 증가했다. 반대로 높은 평가를 의미하는 별 5개짜리 리뷰는 50% 감소한 것으로 나타났다.

한편 클로드 앱 다운로드 수는 2월 27일 기준 전일 대비 37% 증가했으며 28일에는 51% 증가한 것으로 보고됐다. 보도에선 데이터를 보면 일부 소비자는 이 사안에 관해 앤트로픽 입장을 지지하는 것으로 보인다고 전했다. 관련 내용은 이곳에서 확인할 수 있다.

한편 앤트로픽 다리오 아모데이 CEO가 미국 국방부와의 계약에 관해 오픈AI가 발신한 메시지를 새빨간 거짓말이라고 지적하는 이메일을 직원에게 보낸 사실이 보도됐다.

보도에 따르면 아모데이 CEO는 직원들에게 보낸 이메일에서 오픈AI가 국방부 거래를 수락하고 자사가 수락하지 않은 주된 이유는 오픈AI는 국방부 직원들을 달래는 데 관심이 있었던 반면 자사는 실제로 남용 방지에 관심이 있었기 때문이라고 적었다.

또 오픈AI는 자사 AI 도구가 대규모 감시에 사용되지 않도록 하는 합의를 명확히 했다고 주장하지만 이에 대해 아모데이 CEO는 새빨간 거짓말이라고 지적했다. 또 샘 알트만 CEO가 스스로를 평화의 사도인 것처럼 가장해 어필하고 있다고 비난했다.

보도에선 앤트로픽이 국방부가 자사 AI를 모든 합법적인 용도에 활용할 수 있도록 허용하라고 요구한 점에 이의를 제기했다고 지적했다. 아모데이 CEO는 이메일에서 오픈AI와 국방부 간 계약은 의심스럽거나 수상쩍다고 여겨지고 있으며 자사는 영웅시되고 있다, 일부 트위터 멍청이에게는 효과가 있겠지만 그건 상관없는 일이라고도 적었다.

한편 2월 말 이란에 대한 군사공격에서는 앤트로픽의 클로드가 탑재된 메이븐 스마트 시스템(Maven Smart System)이라는 AI 시스템이 사용됐다고 보도됐다. 메이븐 스마트 시스템은 데이터 분석 기업 팔란티어(Palantir)가 개발한 시스템으로 이란에 대한 군사공격에서 실시간 표적 설정 및 우선순위 지정을 제공한 것으로 알려졌다.

앤트로픽 주요 지원사인 아마존과 엔비디아는 국방부와의 갈등을 완화하려는 시도를 하고 있다. 아마존·엔비디아·애플·오픈AI 등으로 구성된 업계 단체인 정보기술산업협의회(Information Technology Industry Council)는 조달 분쟁에 대한 대응으로 국방부가 공급망 리스크 지정 도입을 검토하고 있다는 보도에 우려를 표명한다고 밝혔다.

반면 록히드 마틴(Lockheed Martin)을 비롯한 미국 방산업계는 국방부 명령을 받아 앤트로픽 AI 도구 사용을 중단할 예정이라고 보도됐다. 오픈AI는 미국 국방부 뿐 아니라 북대서양조약기구(NATO) 비기밀 네트워크에 관한 계약도 검토 중인 것으로 알려졌다.

보도에선 현재 시점 예측에서 2026년 연간 매출이 200억 달러에 달할 것으로 전망하면서도 국방부와의 갈등이 사업에 영향을 미칠 가능성도 있다고 지적했다. 관련 내용은 이곳에서 확인할 수 있다.