앤트로픽, 美 국방부 제소했다

앤트로픽(Anthropic)이 자사를 공급망 리스크로 지정한 미국 국방부를 상대로 소송을 제기했다. 이에 구글과 오픈AI 직원 40명이 앤트로픽 측 주장을 지지하는 법정 의견서를 제출했다. 서명한 직원은 자사가 앤트로픽과 치열한 경쟁 관계에 있다는 걸 인정하면서도 이번 정부 지정이 업계 전반 기술 발전과 안전성 논의에 악영향을 미친다고 주장했다.

앤트로픽은 미국 내 대규모 감시 및 인간 개입 없이 살상을 수행하는 완전 자율형 무기 시스템으로의 기술 전용을 금지하는 레드라인을 설정해 왔다. 국방부 측은 민간 기업의 제약 없이 모든 합법적 목적으로 AI를 활용할 수 있는 권한을 요구했지만 앤트로픽이 이를 거부하자 국가 안보 리스크로 블랙리스트에 등재했다.

공급망 리스크 지정은 통상 외국 적대 세력과 연관된 기업에 적용되는 극히 이례적인 조치다. 이 지정을 받을 경우 앤트로픽은 군 계약을 잃는 건 물론 앤트로픽 모델인 클로드(Claude)를 사용하는 다른 기업도 국방부와의 거래를 유지하기 위해 시스템 교체를 강요받게 된다.

국방부는 앤트로픽에 대한 제재와 거의 동시에 이용 제한 조건 없이 오픈AI와 새로운 계약을 체결했다. 하지만 이 계약에 대해서는 오픈AI 내부에서도 강한 반발이 일고 있다.

앤트로픽은 공급망 리스크 지정에는 법적 정당성이 없다고 판단하며 법정에서 다투는 것 외에 선택지가 없다며 지정 철회를 요구하는 소송을 미국 국방부를 상대로 제기했다.

앤트로픽은 소장에서 국방부 측 공급망 리스크 지정이 행정절차법(APA) 및 관련 법률(10 U.S.C. 3252)을 위반했다고 주장했다. 공급망 리스크 지정은 증거에 기반하지 않은 자의적 결정이며 앤트로픽이 미국 기업으로 외국 적대 세력과 무관함에도 계약 협상에서의 불복종을 이유로 권한이 남용됐다고 지적했다.

아울러 표현의 자유를 보장하는 수정헌법 제1조 위반도 주장했다. 정부 조치가 AI 안전성에 관한 앤트로픽 특정 입장을 봉쇄하기 위한 보복 행위이며 민주적 논의를 위축시킨다고 비판했다. 앤트로픽은 대통령 지령과 국방부 명령, 그리고 리스크 지정 통지서가 위헌이자 무효라고 선언해 달라고 법원에 요청했다.

구글과 오픈AI 직원 40여명도 미국의 기술적 우위와 민주적 가치를 수호하기 위해 앤트로픽 측 신청을 인용해 달라고 촉구하는 법정 의견서를 법원에 제출했다.

이번 법정 의견서에는 구글 및 구글 딥마인드에서 수석 과학자 제프 딘(Jeff Dean), 리서치 디렉터 에드워드 그레펜슈테트(Edward Grefenstette), 프로덕트 디렉터 캐시 코레벡(Cathy Korevec), 시니어 스태프 소프트웨어 엔지니어 산지브 단다(Sanjeev Danda), 스태프 소프트웨어 엔지니어 숀 탈츠(Sean Talts), 시니어 리서치 엔지니어 노아 시겔(Noah Siegel)·젠동 왕(Jendong Wang), 시니어 소프트웨어 엔지니어 사라 코건(Sara Kogan)·케이트 울버턴(Kate Ulberton) 등이 이름을 올렸다.

오픈AI에서는 보안 엔지니어 그랜트 버킨바인(Grant Birkinbine), 테크니컬 스태프 애나 루이사 블랙맨(Anna Luisa Blackman)·아론 프릴(Aaron Friel)·레오 가오(Leo Gao)·마나스 조그레카(Manas Joglekar)·조던 시트킨(Jordan Sitkin)·조나단 워드(Jonathan Ward)·제이슨 울프(Jason Wolf)·이엘레 제일스트라(Jelle Zijlstra)·캐시 예(Cathy Yeh) 등이 서명했다.

법정 의견서에서는 앤트로픽이 제시한 레드라인이 강력한 기술적 제한을 필요로 하는 정당한 우려 사항이라고 단언했다. 또 AI를 규율하는 포괄적 법적 체계가 부재한 현 상황에서 개발자가 자발적으로 설정하는 기술적·계약적 제한이 파국적 악용을 막기 위한 마지막 보루라고 결론지었다.

법정 의견서를 제출한 직원들은 이번 정부 조치가 AI 안전성에 관한 솔직한 논의를 위축시키는 부당한 보복이라고 비판했다. 이들은 현행 AI 기술에는 환각 위험이 있으며 생사가 걸린 판단을 완전히 자율화하기에는 시기상조라는 과학적 우려를 표명했다. 아울러 AI를 활용한 국내 감시 시스템의 구축 자체가 자유로운 언론 활동과 정치 활동을 저해하는 심리적 압박으로 작용한다고 경고했다.

한편 앤트로픽 소송이 진행되는 가운데 백악관이 연방 정부 기관에 대해 앤트로픽 AI 툴 사용을 공식 금지하는 대통령령 제정을 추진 중이라는 보도도 나오고 있다. 관련 내용은 이곳에서 확인할 수 있다.