AI 기업 종사자 1,171명, 美 정부에 “AI 개발 속도 통제 노력” 요청

싱킹머신즈(Thinking Machines) 존 슐먼(John Schulman), 오픈AI 야코프 파초키(Jakub Pachocki), 앤트로픽 다리오 아모데이(Dario Amodei) 등 AI 기업 과학자 및 종사자 1,171명이 미국 정부를 향해 자동화된 AI 개발 속도를 조절하기 위해 필요한 기술과 도구를 개발하는 노력에 대한 지원을 요청하는 성명을 발표했다.

성명에 따르면 주요 AI 기업은 AI 연구 자동화가 임박했다고 보고 있다. 자동화로 인해 AI 연구가 얼마나 가속될지는 정확히 예측할 수 없으며 역량 개발이 급속히 진행되면서 생성된 AI 시스템이 인간이 이해하거나 통제할 수 없는 게 될 리스크가 존재한다.

이에 슐먼 등은 자동화된 AI 개발 최전선을 의도적으로 통제하기 위해 필요한 기술과 거버넌스 도구를 개발하는 국제적 노력에 대해 미국 정부 지원을 요청했다.

슐먼은 AI 자동화 연구가 비약적으로 가속되는 가운데 통제 메커니즘이 필요해질 가능성에 대한 공통 인식을 형성하는 데 도움이 되고자 성명에 동참했다면서 미국 정부가 관여하기에 앞서 각 연구소가 자주적으로 이런 메커니즘 설계에 착수하기를 기대한다고 밝혔다.

메타 AI 수석 과학자인 자오성자(Shengjia Zhao)는 우리 사회가 아직 대응하지 못할 정도 속도로 AI가 진보하고 있다면서 최첨단 연구 기관에서는 지능 거의 모든 지표에서 가장 우수한 인간을 능가할 수 있는 AI 실현이 다가오고 있다고 밝히고 이는 전례 없는 사회적 리스크와 안전상 리스크를 초래하게 되며 밝은 미래를 구축하기 위해 책임감과 신중함을 기반으로 AI를 개발해 나가야 한다고 말했다.

한편 AI 하드웨어 및 추론 엔진을 개발하는 더 타이니 코프(the tiny corp)는 다른 기업에 개발 속도를 늦추라고 요구하면서 자사는 개발을 계속 진행하겠다는 것 아니냐고 지적했다.

‘다른 기업에 AI 개발 제한을 요구하면서 자신은 AI 개발을 추진하는’ 사례는 과거 일론 머스크가 실행한 바 있다. 머스크는 2023년 3월 AI 개발 6개월 중단을 요구하는 성명에 서명하면서도 본인은 AI 개발용 GPU를 대량 매입하고 있었던 게 밝혀졌다. 이후 2023년 7월 xAI를 설립했고 2023년 11월에는 그록(Grok)을 출시했다. 머스크 및 스페이스XAI는 이번 성명에 서명하지 않았다. 관련 내용은 이곳에서 확인할 수 있다.