오픈AI, 정부 대규모 감시에 AI 활용 동의 지적에 계약 재검토 발표

오픈AI는 미국 국방부와 계약을 체결해 자사 AI의 군사 활용에 동의했지만 국민에 대한 대규모 감시나 자율형 무기 개발은 인정하지 않았다. 한편 오픈AI 이전에 계약했던 앤트로픽(Anthropic)은 이 2가지를 명확히 금지했기 때문에 국방부로부터 계약을 해지당했으며 국가안보상 위험으로 낙인찍혔다. 같은 내용인데도 오픈AI만 허용된 이유는 오픈AI 계약에 해석의 여지가 있기 때문으로 여겨진다.

앤트로픽은 정부 기관을 위해 자사 AI인 클로드 커스텀 모델을 제공하는 한편 국민 대규모 감시 및 완전 자율형 무기 개발은 명확히 금지했다. 국방부가 규제 완화를 제안했지만 앤트로픽이 거부하자 국방부는 관계 해지 또는 규제 철폐 중 하나를 강요했다. 앤트로픽이 원칙을 고수한 결과 국방부는 관계 해지를 선택했고 추가로 앤트로픽을 국내 기업에는 적용한 적 없는 공급망 위험으로 지정해 정부 기관 사용을 제한하는 보복 조치를 취했다.

직후 오픈AI가 국방부와 AI 활용 계획에 합의했음을 공표했다. 하지만 오픈AI에도 앤트로픽 수준 규제가 있는지 살펴본 결과 미국 국내 대중을 대상으로 감시에 AI 기술을 일절 활용하지 않을 것, 치명적 무력 행사를 수반하는 자율형 무기 체계의 직접적 제어를 행하지 않을 것, 사회신용 체계와 같이 개인 권리에 큰 영향을 미치는 고도의 자동 의사결정에 활용하지 않을 것 등 앤트로픽과 거의 동일한 제한 사항이 있다는 사실이 드러났다. 오픈AI가 이 내용으로 계약할 수 있었던 이유에 대해 의문이 제기됐다.

오픈AI는 이번 합의는 앤트로픽을 포함한 다른 모든 기업보다 더 많은 안전장치를 갖추고 있다고 주장하고 있지만 계약서 전문이 공개되지 않았기 때문에 앤트로픽에는 없는 해석의 여지가 있는 것으로 추측되고 있다.

AI는 패턴 인식에 뛰어나다. 예를 들어 어떤 개인에 대해 위치 정보, 웹 검색 기록, 금융 데이터, 감시 카메라 영상, 유권자 등록 정보 등 개별적으로는 무해해 보이는 데이터를 통합해 정확한 인물상을 구성할 수 있다. 앤트로픽은 이런 행위를 명확히 금지하는 계약을 요구했다고 밝혔지만 오픈AI는 이 점에 대해 정보 활동에서 개인정보 취급은 미국 헌법 수정 제4조, 1947년 국가안전보장법, 1978년 외국정보감시법(FISA), 대통령령 12333, 그리고 명확한 외국정보 목적을 요구하는 국방부 관련 지시에 준수한다고 명시되어 있다고 한다.

보도에선 이런 법률에는 해석의 여지가 있으며, 9.11 이후 정보 기관이 감시 체제를 강화해 국내 첩보 활동을 대상으로 여러 대규모 감시 프로그램을 실시한 과거가 있다며 예를 들어 NSA 계약 직원이었던 에드워드 스노든이 폭로한 PRISM 같은 국제 감시망이 그것이라고 지적했다. 정부는 기술적으로 합법이면 대규모 감시를 실행할 수 있다는 법률상 기술적으로 합법 정의를 확대 해석해 광범위한 대규모 감시 프로그램을 정당화해왔다고 덧붙이며 오픈AI가 주장하는 계약 내용이라면 국방부가 감시를 정당화할 가능성이 있다고 전했다.

이런 논란 속에서 오픈AI 샘 알트만 CEO는 여러 지적을 바탕으로 계약 내용을 수정하겠다고 약속했다.

Here is re-post of an internal post:

We have been working with the DoW to make some additions in our agreement to make our principles very clear.

1. We are going to amend our deal to add this language, in addition to everything else:

“• Consistent with applicable laws,…

— Sam Altman (@sama) March 3, 2026

한편 앤트로픽이 자사의 원칙을 지킨 것이 사용자의 지지를 받은 것으로 보인다. 클로드가 앱스토어 랭킹에서 1위로 올라섰으며 반대로 오픈AI 챗GPT를 둘러싼 불매 운동이 벌어지고 있다. 이를 계기로 앤트로픽은 AI 전환 캠페인을 시작했고 유료 기능을 무료로 개방하고 데이터 이전 도구를 공개했다. 관련 내용은 이곳에서 확인할 수 있다.