클로드, AI 사회 문제 연구 기관 설립했다

AI 클로드를 개발한 앤트로픽이 3월 11일 강력한 AI가 사회에 가져올 과제를 연구하는 기관인 앤트로픽 인스티튜트(Anthropic Institute)를 설립한다고 발표했다. 앤트로픽 인스티튜트는 앤트로픽 공동 창업자인 잭 클라크(Jack Clark)가 이끌며 머신러닝 엔지니어·경제학자·사회과학자 등 학제적 인력으로 구성된다.

앤트로픽은 3월 11일 블로그를 통해 자사는 강력한 AI가 사회에 가져올 가장 중요한 과제에 맞서기 위한 새로운 시도로 앤트로픽 인스티튜트를 설립한다며 앤트로픽 인스티튜트는 앤트로픽 전체 연구 성과를 활용해 더 강력한 AI 시스템을 포함한 세계로의 전환기에 다른 연구자와 일반 대중이 활용할 수 있는 정보를 제공할 것이라고 밝혔다.

2021년 설립된 앤트로픽은 첫 상용 모델 출시까지 2년이 걸렸지만 이후 진보 속도는 믿기 어려울 정도였다고 주장했다. 향후 2년간 더 극적인 발전이 예측되며 극도로 강력한 AI는 많은 이들이 생각하는 것보다 빨리 등장할 것이라는 견해도 내놨다.

강력한 AI 시스템은 일과 경제를 어떻게 변혁할 것인가, 사회 회복력을 높이기 위한 어떤 기회를 가져오는가, 어떤 위협을 만들어내고 키우는가, AI 시스템이 가져오는 가치란 무엇인가, 기업이 적절한 가치를 판단하도록 사회가 지원할 수 있는 방법은 무엇인가, AI가 재귀적으로 자기 개선을 시작할 경우 누가 알아차리는가, 어떻게 AI를 관리할 것인가 등 다양한 과제를 제기한다.

앤트로픽 인스티튜트가 내건 목표는 앤트로픽이 최첨단 AI 시스템을 구축하는 과정에서 이런 과제에 대해 학습한 내용을 발신하고 외부 이해관계자와 협력해 리스크 대응을 지원하는 것이다. 앤트로픽은 우리 사회가 이를 실현할 수 있는지 여부가 변혁적 AI가 과학과 경제 발전, 그리고 인간 삶에서 우리가 가능하다고 믿는 극적인 혜택을 가져올 수 있는지를 좌우한다고 주장했다.

앤트로픽 공동 창업자인 클라크는 앤트로픽 인스티튜트를 이끄는 동시에 앤트로픽 공익 부문 책임자라는 새로운 역할도 맡는다. 앤트로픽 인스티튜트는 머신러닝 엔지니어·경제학자·사회과학자 등 학제적 인력으로 구성되며 3개 연구팀을 통합·확대한다. 3개 연구팀이란 먼저 프런티어 레드팀(Frontier Red Team)으로 AI 시스템 스트레스 테스트를 실시하고 현재 역량 한계를 탐색하는 곳. 다음은 사회 임팩트 팀(Social Impact Team)으로 AI가 현실 세계에서 어떻게 활용되는지를 연구하는 것. 마지막은 경제 연구팀(Economic Research Team)으로 AI가 고용과 경제 전반에 미치는 영향을 추적한다.

또 앤트로픽 인스티튜트는 새로운 팀도 육성 중으로 AI 진보를 예측하거나 AI와 법제도 상호작용을 보다 깊이 이해하는 작업을 진행하고 있다고 밝혔다.

앤트로픽 인스티튜트는 30명으로 출범하며 창립 멤버에는 예일 로스쿨(Yale Law School)의 레지던트 펠로우인 맷 보트비닉(Matt Botvinick), 버지니아 대학교(University of Virginia)의 경제학 교수였던 안톤 코리넥(Anton Korinek), 과거 오픈AI에서 AI 사회적·경제적 영향을 연구했던 조이 히치히(Zoe Hitzig) 등이 합류한다.

앤트로픽은 앤트로픽 인스티튜트 설립과 병행해 공공 정책 부문을 확대할 것도 발표했다. 공공 정책 부문은 모델 안전성 및 투명성, 인프라 투자, AI 분야 민주적 리더십 등 앤트로픽이 우선 과제로 정의한 영역에 초점을 맞춘다.

앤트로픽 인스티튜트 설립은 앤트로픽과 미국 정부 간 갈등이 심화되는 가운데 이뤄졌다. 앤트로픽은 자사 AI를 대규모 국내 감시나 완전 자율형 무기에 사용하는 걸 제한하고 있으며 이에 불만을 품은 미국 국방부는 앤트로픽을 미국 국가 안보에 대한 공급망 리스크로 지정했다.

보도에선 클라크에게 단기적으로 수익 일부를 잃을 가능성이 높음에도 장기적인 연구에 자원을 투입하는 것에 대한 우려를 물었다. 이에 클라크는 전혀 우려하지 않는다며 사람들은 신뢰를 사는 경향이 있으며 자사가 제공할 수 있는 많은 건 기업이 우리를 신뢰하는 데 도움이 되는 연구라며 장기적으로는 안전성에 대한 투자가 자사 이익으로 돌아온다는 견해를 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.