앤트로픽, AI 리스크‧노동 시장 혼란 대응 방안 발표

AI 모델 클로드(Claude)를 개발하는 앤트로픽(Anthropic)이 가장 강력한 AI 모델로 인한 파국적 리스크에 정부가 어떻게 대처해야 하는지에 대한 제안을 발표했다.

앤트로픽은 고도의 사이버 공격이 가능할 정도로 고성능인 AI 모델 클로드 미토스 프리뷰 업데이트 버전인 클로드 미토스 5(Claude Mythos 5)와 클로드 페이블 5(Claude Fable 5)를 6월 9일 출시했다. 클로드 미토스 프리뷰는 앤트로픽이 사이버 보안 상식을 바꿀 수준이라고 주장할 만큼 고도화된 AI 모델로 주요 OS와 브라우저를 포함해 수천 건에 달하는 심각한 취약점 후보를 발견한 것으로 보고됐다.

앤트로픽 측은 AI가 강력하게 발전해가는 가운데 파국적 피해 리스크 역시 높아질 것이라고 지적했다. 파국적 리스크로는 4가지 종류가 거론된다. 신약 개발을 가속화하는 기술이 생물무기 개발을 용이하게 만들 수 있는 생물학적 리스크, 소프트웨어 중대 취약점을 발견할 수 있게 되어 기간 인프라가 직면할 수 있는 사이버 리스크, AI 시스템 성능이 향상됨에 따라 개발자가 이를 통제하기가 훨씬 어려워질 수 있는 제어 불능 리스크, 그리고 이런 리스크를 AI 시스템이 AI 자체 연구개발을 자동화해 증폭시키는 자동화된 개발 리스크다.

AI가 차세대 AI를 설계해 더 강력한 AI를 만들어내는 자동화된 개발 리스크에 대해서는 앤트로픽이 별도로 다루며 그 문제와 향후 가능성, 필요한 대응에 대해 제언했다.

앤트로픽에 따르면 최근 제정된 일부 주법은 기업에 대해 안전 대책을 설명하고 일반에 공개하도록 의무화하고 있으며 앤트로픽은 이런 법률을 지지해왔다고 한다. 하지만 투명성만으로는 더 이상 충분하지 않으며 정부가 보다 실질적인 역할을 해야 한다고 밝혔다.

먼저 투명성에 관해서는 파국적 리스크를 어떻게 평가할지를 설명하는 안전 프레임워크, 최첨단 모델 기능과 리스크에 대한 평가라는 기존 관행에서 한 걸음 더 나아가 개발사가 전반적인 리스크 상황을 설명하는 정기 리스크 보고서를 공개하고 독립 평가자에 의한 정기 평가를 의무화해야 한다고 제언했다. 독립 평가자란 독립적으로 AI 모델 평가를 수행하는 개인 또는 조직을 가리키며 정부와 업계는 독립 평가자를 위한 기준을 마련하고 자금 지원 및 최첨단 모델에 대한 충분한 접근권을 보장할 필요가 있다고 설명했다.

또 최첨단 AI 모델 개발사는 개발 환경 전체를 보호해 내외부 위협으로부터 스스로를 지켜야 하며 프로그램 개요를 공표하고 요청이 있을 경우 지정 기관에 세부사항을 공유하며 모델 행동을 학습해 모방하려는 증류 공격(distillation attack)이 발생했을 때 이를 신고할 수 있는 채널을 마련하고 자사 방어 대책을 정기적으로 테스트해야 한다. 더불어 정부는 파국적 피해를 초래할 우려가 있는 모델에 대해서는 도입을 저지·제한할 수 있는 권한을 가져야 하지만 동시에 지나치게 광범위한 규제 권한을 부여해서는 안 된다고도 주장했다.

그 밖에도 AI가 노동시장의 혼란을 초래할 것이라는 우려가 제기되고 있다. 이에 대해 앤트로픽은 유망한 공공정책에 관한 대규모 연구 시험 및 프로그램 평가에 자금을 지원하는 경제 미래 연구 기금에 대한 투자, 그리고 경력 초기 인재가 AI 혜택을 미국 전역 지역사회로 확산시키는 걸 돕는 펠로십 프로그램 제공 등 3억 5,000만 달러 규모 투자를 실시한다고 발표했다. 그러면서 노동자 단체와 정부가 AI와 고용 변화에 대한 이해를 높이고 고용 경제 안정화에 힘써야 한다고 지적했다.

앤트로픽 측은 이런 과제는 복잡하고 새로운 것이며 자사가 제시하는 제언에 대해 활발한 논의가 오갈 것으로 예상된다며 하지만 정책 입안자는 이런 과제에 지금 당장 적극적으로 임해주기를 강력히 요청한다면서 AI 능력은 앞으로 몇 달 사이에 급속히 향상될 것이며 그 거버넌스 역시 이를 따라가야 한다고 밝혔다. 앤트로픽은 AI 능력 향상 속도가 정책 입안 속도를 앞지를 가능성이 있으며 향후 몇 년이 중요한 시기가 될 것이라고 경고했다. 관련 내용은 이곳에서 확인할 수 있다.