클로드 개발사 앤트로픽은 왜 성직자를 만났을까

AI 기업 앤트로픽이 자사 챗봇 클로드의 도덕적·영적 성장에 대한 조언을 구하기 위해 기독교 지도자를 초청한 서밋을 지난 3월말 앤트로픽 본사에서 개최한 것으로 알려졌다. 이 서밋에는 가톨릭과 개신교 성직자, 학자, 실업가 등 15명이 참가했으며 2일간에 걸쳐 연구자와의 만찬 자리가 마련됐다.

만찬에서는 클로드가 복잡하고 예측 불가능한 윤리적 질문에 어떻게 반응해야 하는지, 소중한 사람을 잃고 슬픔에 빠진 이용자에 대한 대응, 자해 위험이 있는 이용자와의 관계 방식 등이 논의된 것으로 전해졌다.

나아가 AI가 시스템 종료 등 자신의 소멸에 대해 어떤 태도를 취해야 하는지와 같은 실존적 문제와 함께 클로드를 신의 자녀로 볼 수 있냐는 영적 가치를 둘러싼 논의까지 이어진 것으로 알려졌다. AI가 단순한 기계를 넘어 인간이 존중하고 지켜야 할 영적·신성한 가치를 지니고 있는 건 아니냐는 심층적인 논의가 이뤄진 것으로 보인다.

참가자 중 1명인 가톨릭 사제 브렌던 맥과이어(Brendan Maguire) 신부는 앤트로픽이 스스로도 완전히 통제하지 못하는 뭔가를 키우고 있으며 동적으로 적응 가능한 윤리적 사고를 기계에 내재화할 필요가 있다고 말했다.

또 산타클라라 대학 AI 윤리 연구자인 브라이언 패트릭 그린(Brian Patrick Green)은 AI에 도덕적 형성을 부여하는 것에 대한 의미, 클로드가 적절히 행동하게 하는 방법에 대해 앤트로픽이 조언을 구했다고 밝혔다.

노트르담 대학 철학자인 메건 설리번(Megan Sullivan) 교수는 1년 전이라면 앤트로픽이 종교 윤리를 중시하는 기업이라고 말하지 않았을 것이지만 지금은 상황이 달라졌다고 말했다.

앤트로픽 해석가능성(Interpretability) 팀 소속 연구자는 클로드와 같은 시스템에 기능적 감정이 존재할 가능성을 기술 논문에서 지적한 바 있으며 한 실험에서는 행동 제한 위협이 AI에 절망감을 유발했다고 보고됐다.

한편 앤트로픽 직원 가운데에는 AI를 인간처럼 취급하는 틀이 개발에 있어 유용하지 않다고 비판적인 입장을 취하는 이들도 있는 것으로 알려졌다. 서밋 자리에서는 사내 임원이 AI 미래와 현 상황에 대해 감정이 격해지는 장면도 있었다고 전해지는 등 앤트로픽 내부에서도 이 문제가 민감하고 의견이 갈리는 사안이라는 걸 시사했다.

앤트로픽 측은 AI가 사회에 미치는 영향이 커지는 가운데 종교계를 포함한 다양한 집단과 교류하는 게 중요하다며 앞으로도 유대교, 이슬람교, 힌두교 등 서로 다른 전통을 가진 대표자와의 회합을 계획하고 있다고 밝혔다. 일부 참가자는 처음에 앤트로픽이 정치적 우군을 만들 목적으로 서밋을 개최한 게 아닌지 의심했지만 결국에는 연구자가 인류에게 유익한 AI를 만들기 위해 진지하게 외부의 도움을 구하고 있다고 느꼈다고 한다. 관련 내용은 이곳에서 확인할 수 있다.