오픈AI‧앤트로픽 CEO 사이에는 10년에 걸친 갈등이…

클로드를 개발하는 AI 기업 앤트로픽 다리오 아모데이(Dario Amodei) CEO는 2016년부터 챗GPT 등을 전개하는 AI 기업 오픈AI에 재직했지만 사업에 관한 방향성 차이로 2020년 오픈AI를 떠났다. 그런 아모데이 CEO와 오픈AI의 샘 알트만(Sam Altman) CEO 사이에는 10년에 걸친 갈등이 있다.

앤트로픽은 미국 국방부와 계약 협상을 진행하고 있었지만 앤트로픽이 마련한 안전 조치를 철폐하도록 국방부가 압력을 가했고 이에 대해 아모데이 CEO가 위협에는 굴하지 않겠다며 요구를 거부했다. 결과적으로 트럼프 대통령은 연방 기관에 대해 앤트로픽의 기술 사용 중지를 명령했으며 동사를 공급망 리스크로 지정했다. 한편 오픈AI는 앤트로픽이 거부한 것으로 알려진 조건과 실질적으로 동일한 안전 기준을 유지하면서 합의에 이르렀다.

국방부와의 계약에 즈음해 오픈AI는 앤트로픽과 거의 동일한 제한 사항을 마련했다며 미국 내 대중에 대한 감시에 AI 기술을 일절 이용하지 못하게 하는 것 등 합의를 명확히 했다고 밝혔다. 하지만 아모데이 CEO는 직원에게 보낸 이메일에서 오픈AI가 국방부 거래를 수락하고 자사가 수락하지 않은 주된 이유는 오픈AI가 국방부 직원을 달래는 데 관심이 있었던 반면 자사는 실제로 남용 방지에 관심이 있었기 때문이라고 적었으며 제한 사항을 마련했다는 오픈AI 측 주장에 대해 새빨간 거짓말이라며 비판한 것으로 보도됐다.

애초에 아모데이 CEO는 사업에 관한 방향성 차이로 오픈AI를 떠났으며 2021년 앤트로픽을 설립한 이후로는 자사를 AI 경쟁사에 대한 건전한 대안으로 자리매김하고 있다. 이 때문에 챗봇에 광고를 삽입한 오픈AI를 비판하는 캠페인을 전개하는 등 안전하고 책임 있는 AI 개발을 중시하고 있다. 하지만 오픈AI가 안전성을 중시하지 않는다며 아모데이 CEO 등이 퇴사하기 이전부터 아모데이 CEO와 알트먼 CEO 사이에는 뿌리 깊은 갈등이 있었던 것으로 알려져 있다.

알트만 CEO 및 주변 인물 250명 이상을 인터뷰해 낙관주의자: 샘 알트만, 오픈AI, 그리고 미래를 창조하는 경쟁이라는 저서를 집필한 키치 헤이지는 아모데이 CEO와 오픈AI 임원 사이 갈등에는 오픈AI 공동 창업자인 그렉 브록먼(Greg Brockman)이 강하게 관련되어 있다고 지적했다.

헤이지에 따르면 대립의 기원은 2016년까지 거슬러 올라간다. 당시 구글에서 AI 연구자로 일하고 있던 아모데이 CEO는 여동생 다니엘라 아모데이(Daniela Amodei)와 그녀의 약혼자인 홀든 카노프스키(Holden Karnofsky) 등과 공동 주택에서 생활하고 있었다. 그곳에 빈번히 출입했던 게 브록먼으로 어느 날 올바른 AI 개발 방법에 대해 논의하던 중 브록먼은 미국민에게 상세한 내용을 알려야 한다고 주장한 반면 아모데이 CEO는 AI 발전 속도와 같은 민감한 주제에 대해서는 먼저 정부에 알려야 한다고 주장했다. 브록먼은 나중에 오픈AI와 앤트로픽 간 사고방식 차이를 상징하는 사건이었다고 회고했다.

아모데이 CEO는 2016년 오픈AI에 입사했지만 2017년에는 당시 오픈AI에 자금을 제공하고 있던 일론 머스크(Elon Musk)가 전 직원 기여도를 일람화하도록 요구했고 그 후 직원 10~20%가 해고된 인원 정리를 필요 이상으로 잔인했다며 불신감을 품었다고 밝혔다. 또 같은 해 오픈AI가 미래에 각국 정부 AI 협조 체제를 담당한다는 구상이 논의됐고 브록먼은 범용인공지능(AGI)을 각국 정부에 판매한다는 아이디어를 제안했지만 아모데이 CEO는 적대국에 AGI를 판매하는 건 반역 행위에 준한다고 생각해 퇴직까지 검토했다고 한다.

2018년 머스크가 오픈AI를 떠나자 알트만 CEO가 실질적인 리더가 됐다. 아모데이 CEO는 브록먼과 일리야 수츠케버가 책임자가 되지 않을 걸 조건으로 오픈AI에 잔류하기로 알트만과 합의했다. 하지만 그 후 브록먼이 자신들이 필요하다고 판단하면 알트만 CEO를 해임해도 된다고 통보받았다고 발언했고 아모데이 CEO는 알트만 CEO가 약속을 지키지 않고 있다고 판단했다.

GPT 시리즈 개발이 시작되자 대립은 더 깊어졌다. 당시 연구 책임자였던 아모데이 CEO는 브록먼이 대규모 언어 모델 개발에 관여하는 것에 반대했다. 알트먼 CEO는 브록먼이 프로젝트에 참여할 수 있도록 아모데이 CEO에게 요청했지만 다니엘라도 브록먼을 참여시킨다면 자신이 책임자를 사임하겠다고 주장했고, 최종적으로 브록먼은 프로젝트에 참여하지 않게 되었다.

아모데이 CEO는 GPT-2와 GPT-3 개발을 이끌면서 오픈AI 내에서의 존재감을 높였다. 하지만 회사에 대한 기여도가 더 낮은 브록먼이 회사 중요 방침에 대해 알트먼 CEO에게 의견을 제시하고 있었던 것 등 자신의 기여가 정당하게 평가받지 못하고 있다고 느꼈다고 한다. 브록먼으로부터 프레젠테이션 자료 확인을 의뢰받았다가 나중에 그 자료가 버락 오바마 전 대통령과의 회담용이었다는 걸 알게 되어 자신이 회담에서 배제되어 있었다는 사실에 격분한 적도 있었다고 한다.

2019년 아모데이 CEO는 연구 담당 부사장으로 승진했지만 사내 대립은 가라앉지 않았다. 2020년 알트만 CEO는 아모데이 남매가 자신에 대한 비판을 이사회에 모으고 있다고 추궁했고 아모데이 CEO와 다니엘라가 이를 부인하면서 격렬한 언쟁이 벌어진 것으로 전해진다. 나아가 임원 사이에서 상호 평가를 실시한 결과 브록먼과 다니엘라가 서로 장문으로 비판하면서 조직 내 대립은 결정적으로 치달았다.

2020년 말 아모데이 CEO를 중심으로 한 그룹이 오픈AI로부터 독립하기로 결단했다. 알트만 CEO는 만류를 시도했지만 아모데이 CEO는 이사회에 대한 직접 보고와 브록먼과는 함께 일할 수 없다는 조건을 제시했고 협상은 타결되지 않았다. 최종적으로 아모데이 CEO와 다니엘라 등 10명이 오픈AI를 떠나 앤트로픽을 설립했다. 현재 앤트로픽은 오픈AI의 최대 경쟁 기업 중 하나가 됐다.

지난 2월 인도에서 실시된 AI 임팩트 서밋(AI Impact Summit)에선 나렌드라 모디 인도 총리가 알트만 CEO와 구글 순다르 피차이 CEO의 손을 잡고 들어 올렸다. 이에 호응해 무대 위 거의 모든 사람이 양손을 잡고 들어 올렸지만 알트먼 CEO와 아모데이 CEO는 서로 손을 잡지 않아 대립이 여전히 뿌리 깊다는 게 화제가 됐다. 한편 알트만 CEO는 나중에 무대 위에서 무슨 일이 벌어지고 있는지 몰랐다고 해명했다. 관련 내용은 이곳에서 확인할 수 있다.