“美국방부 AI 활용 계약 거부하라” 구글 딥마인드 직원 집단 서명

구글 직원 수백 명이 4월 27일 순다르 피차이(Sundar Pichai) CEO에게 기밀 사항에 구글 AI를 활용하는 국방부와의 계약을 거부할 걸 촉구하는 서한을 보낸 것으로 보도됐다.

먼저 지난 4월 16일 구글이 국방부와 AI 모델 제미나이(Gemini)를 기밀 환경에서 배포할 수 있도록 하는 협정을 협상 중이라는 보도가 나왔다. 정보를 공개한 관계자에 따르면 협정은 국방부가 제미나이를 모든 합법적 용도에 활용할 수 있도록 하는 내용이었다고 한다. 다만 구글은 계약 협상 과정에서 적절한 인간의 감시·통제 없이 구글 AI가 국내 대규모 감시 및 표적 지정을 포함한 자율 무기에 사용되는 걸 방지하기 위한 추가 조항을 제안한 것으로 알려졌다.

유사한 제안은 앤트로픽이 2월경 국방부와 협상할 당시에도 제기된 바 있다. 당시 국방부는 앤트로픽이 모든 합법적 사용을 허용하지 않을 경우 계약을 해지하고 앤트로픽을 공급망 리스크로 지정하겠다고 위협했다. 결국 앤트로픽 다리오 아모데이(Dario Amodei) CEO가 AI는 대규모 국내 감시나 완전 자율 무기에 사용되어서는 안 된다고 주장하며 국방부 측 요구를 거부하는 뜻을 밝히자 트럼프 대통령은 모든 정부 기관에 앤트로픽 제품 사용 중단을 지시했다.

이 보도를 계기로 4월 27일 구글 딥마인드와 구글 클라우드 직원 600명 이상이 서명한 서한이 피차이 CEO에게 전달됐다고 복수 매체가 보도했다. 서한은 구글 AI를 기밀 용도로 활용 가능하도록 하는 국방부와의 어떤 협정도 체결하지 말 것을 피차이 CEO에게 요구하는 내용이다.

언론에 공개된 서한 사본에는 AI가 인류에 이익이 되기를 바라며 비인도적이거나 극히 유해한 방식으로 사용되는 건 원하지 않는다면서 여기에는 치명적인 자율 무기나 대규모 감시 등이 포함되지만 이에 국한되지 않는다고 밝혔다. 이어 구글이 그런 해악과 결부되지 않도록 보장하는 유일한 방법은 기밀 업무를 일절 거부하는 것이며 그렇게 하지 않으면 우리가 모르는 사이 혹은 우리가 막을 수 없는 상황에서 그런 활용이 이뤄질 수 있다는 내용이 담겼다.

서한에서 직원은 또 AI 개발에 종사자로서 이런 시스템이 권력을 집중시킬 가능성이 있으며 오류를 범할 수도 있다는 점을 인식하고 있다면서 이 기술에 깊이 관여하고 있기에 가장 비윤리적이고 위험한 활용 방식을 규명하고 방지할 책임이 있다고 느낀다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.