앤트로픽 CEO, AI 안전 보장 문제로 美 국방부 요구 거부

AI의 군사 이용과 관련해 AI 기업 앤트로픽과 계약을 맺고 있는 미 국방부가 앤트로픽이 설정한 안전 조치를 철폐하도록 압력을 가하고 있는 가운데 다리오 아모데이 CEO가 협박에 굴하지 않겠다는 성명을 발표한 것으로 알려졌다.

앤트로픽은 미국인에 대한 대규모 감시 및 완전 자율형 무기 개발을 목적으로 한 AI 이용을 금지하는 안전 조치를 마련하고 있다. 이를 불만스럽게 여긴 미 국방부는 앤트로픽에 해당 조치 철폐를 요구했다. 모든 합법적 이용을 앤트로픽이 허용하지 않을 경우 앤트로픽 측 의사를 무시하고 이용을 강행하거나 계약을 해제하고 동사를 공급망 리스크로 지정하는 2가지 선택지를 제시했다.

공급망 리스크로 지정되면 미 국방부 계약업체 및 하청업체는 앤트로픽 제품을 사용하는 게 불허될 가능성이 높으며 나아가 자사 제품 구축에 앤트로픽 제품을 사용하지 않고 있다는 걸 증명해야 하는 상황이 발생할 것으로 예상된다. 지금까지 공급망 리스크로 간주된 기업은 미국 적대국인 중국 화웨이나 러시아 카스퍼스키 등이며 미국 국내 기업이 지정된 사례는 없다.

미 국방부는 대응 기한을 2월 27일로 설정하고 앤트로픽에 답변을 촉구했지만 전날인 26일 아모데이 CEO가 성명을 발표했다.

아모데이 CEO는 AI를 활용해 미국 및 여타 민주주의 국가를 방어하고 전제주의적 적대 세력에 맞서는 게 실존적으로 중요하다고 굳게 믿는다고 밝혔다. 또 앤트로픽이 정부 기밀 네트워크에 자사 모델을 배포한 첫 프론티어 AI 기업임을 강조하는 한편 단기적인 이익 손실에도 불구하고 중국과의 거래를 포기하고 미국의 우위를 확보했다는 점, 그리고 군사적 의사결정을 내리는 주체는 민간 기업이 아닌 국방부이므로 특정 군사 작전에 이의를 제기한 적이 단 한 번도 없다는 점을 역설했다.

다만 일부 제한적인 경우에는 AI가 민주적 가치를 수호하는 게 아니라 오히려 훼손할 수 있다는 견해를 피력하며 다음 2가지 용도는 현재 기술 수준으로는 안전하고 확실하게 실행할 수 있는 범위를 넘어선다고 규정했다. 이 2가지는 지금까지 국방부와의 계약에 포함된 적이 없으며 앞으로도 포함되어서는 안 된다는 입장을 밝혔다.

첫 번째는 대규모 국내 감시. 앤트로픽은 합법적인 대외 정보활동 및 방첩활동을 위한 AI 활용을 지지하지만 이런 시스템을 대규모 국내 감시에 사용하는 건 민주적 가치와 양립할 수 없다고 밝혔다. 두 번째는 완전 자율형 무기. 앤트로픽 측은 현재 우크라이나에서 사용되고 있는 것과 같은 부분 자율형 무기는 민주주의를 수호하는 데 있어 매우 중요하다며 인간 의사결정 없이 표적 선정 및 공격을 자동화하는 완전 자율형 무기 역시 장래에는 국가 방위에 불가결한 존재가 될 수 있지만 현시점에서 최첨단 AI 시스템은 완전 자율형 무기를 뒷받침하기에 충분한 신뢰성을 갖추고 있지 않다고 밝혔다. 앤트로픽 측은 미군 병사와 민간인을 위험에 빠뜨릴 수 있는 제품을 위험성을 인식한 채로 제공할 수 없다먀 이런 시스템 신뢰성 향상을 위해 국방부와 직접 연구개발을 진행하자는 제안도 했으나 받아들여지지 않았다.고 밝혔다.

아모데이 CEO는 미 국방부는 앤트로픽을 공급망 리스크로 지정할 가능성이나 국방생산법을 발동해 안전 조치 철폐를 강제할 가능성도 시사하고 있다며 이 2가지 협박은 본질적으로 서로 모순된다고 지적했다. 하나는 앤트로픽을 안보상 리스크로 규정하고 다른 하나는 클로드(Claude)를 국가 안보에 불가결한 존재로 규정하고 있기 때문이라는 것. 그는 어느 쪽이든 이런 협박이 있더라도 자사 입장은 변하지 않는다며 양심에 비춰 이런 요청에 동의할 수 없다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.