교황, AI 관련 회칙 발표했다

AI는 문장 작성, 이미지 생성, 검색, 번역, 교육, 의료, 업무 자동화 등에 활용되며 편리한 도구로 확산되고 있다. 반면 인간 판단이 AI로 대체되는 것, 소수 기업에 데이터와 연산 자원이 집중되는 것, 아동이 성적 콘텐츠와 착취에 노출되는 것, 전쟁에서 AI 무기가 사용되는 것 등에 대한 우려도 커지고 있다. 로마 교황 레오 14세가 이러한 문제에 정면으로 맞서는 회칙인 마니피카 후마니타스(Magnifica Humanitas)를 발표했다.

회칙이란 교황이 가톨릭교회와 세계를 향해 제시하는 중요한 공식 문서로 교황의 가르침 중에서도 높은 위상을 지닌다. 레오 14세의 회칙인 마니피카 후마니타스는 5월 15일 서명되어 5월 25일에 공개됐다. 공식 부제는 AI 시대의 인간 옹호이며 레오 14세에게 있어 첫 번째 회칙이다.

레오 14세는 AI를 포함한 기술에 대해 인류에 적대하는 힘이 아니며 그 자체로 악이 아니라고 전제하면서도 기술은 만드는 사람, 자금을 대는 사람, 규제하는 사람, 사용하는 사람 성격을 띠기 때문에 중립적이지 않다고 밝혔다. 다시 말해 AI를 단순히 편리한가, 위험한가 관점으로 볼 게 아니라 AI를 누가 소유하고 누구의 이익을 위해 설계하며 누가 책임을 지는지를 물어야 한다는 내용이다.

회칙은 AI는 인간 지성을 모방할 수 있어도 기쁨이나 고통을 경험하거나 신체를 갖거나 우정과 책임을 내면으로부터 이해하는 건 불가능하다고 설명한다. 레오 14세는 AI가 문장이나 대화에서 공감하는 것처럼 보이더라도 실제로 인간과 같은 관계를 맺고 있는 것은 아니라는 입장을 분명히 했다. 진정한 인간관계나 감정적 유대가 부족한 상황에서는 분별력이 부족한 이용자가 AI와의 상호작용을 인간관계의 대체재로 삼을 위험이 있다고 지적했다.

AI 발전 속도에 비해 사회 규범, 감독 기관, 이용자 이해, 구제 제도가 따라가지 못하고 있다는 이유로 레오 14세는 AI 도입 속도를 늦추는 건 진보에 반대하는 게 아니라 인류에 대한 책임 있는 배려라고도 주장했다. 레오 14세는 추상적으로 윤리가 중요하다고 말하는 것만으로는 부족하며 강력한 법 제도, 독립적인 감독, 지식을 갖춘 이용자, 책임을 방기하지 않는 정치가 필요하다고 강조했다.

아동 보호와 관련해 회칙은 디지털 기기와 SNS에 대한 지나치게 이른 노출이 수면, 집중력, 감정 조절, 대인관계에 악영향을 미칠 수 있다고 지적했다. 아울러 폭력적이거나 모욕적인 콘텐츠, 포르노 및 지나치게 성적인 콘텐츠, 신체와 감정을 가볍게 다루는 메시지, 위험한 행동을 평범한 것처럼 보이게 하는 콘텐츠에 대한 접근이 문제라고 밝혔다. 레오 14세는 AI를 이용한 이미지·영상 조작, 가짜 프로필, 위험한 접촉을 조장하는 알고리즘으로 인해 그루밍, 협박, 미성년자 성착취가 더 눈에 띄지 않게 이뤄지고 있다고 경고했다.

레오 14세는 보호자에게만 책임을 떠넘기는 게 아니라 각국 정부, 학교, 가정이 협력해야 한다고 강조하며 연령 제한, 서비스 제공자에 대한 책임 추궁, 온라인상 성착취와 폭력으로부터 아동을 보호하기 위한 특별 보호 조치 등을 제안했다. 아울러 아동과 청소년 스스로가 조작과 유도를 간파하고 자신과 타인의 존엄을 지킬 수 있도록 교육해야 한다고 밝혔다.

노동 문제에 대해 회칙은 AI가 생산성을 높이는 한편 노동자를 기계의 속도와 요구에 맞추게 하고 기술을 빼앗으며 자동 감시 대상으로 삼고 단순하고 반복적인 작업으로 내모는 위험이 있다고 지적했다. 레오 14세는 인간을 능력이나 생산량으로만 평가하는 시각을 비판하며 AI 시스템은 성능뿐 아니라 인간을 중심에 두고 설계돼야 한다고 강조했다.

또 회칙은 AI의 즉각적이고 매끄러운 응답이 마법처럼 생겨나는 게 아니라 천연자원, 에너지 설비, 데이터센터, 데이터 라벨링, 모델 훈련, 콘텐츠 모더레이션 등에 종사하는 인간 노동으로 뒷받침된다고 설명했다. 레오 14세는 저임금으로 가혹한 작업을 담당하는 청년과 여성, AI에 필요한 기기와 반도체를 위해 희토류를 채굴하는 아동과 청소년을 언급하며 AI와 기술 이면에 존재하는 새로운 형태 노예제 역시 중요한 논점이라고 밝혔다.

레오 14세는 기술 산업과 디지털 경제를 지탱하는 공급망을 투명하게 하고 숨겨진 착취를 통해 경쟁 우위를 얻는 일이 없도록 해야 한다고 밝혔다. 기업과 투자자에게는 노동자 보호, 강제노동 근절, 데이터 기반 비즈니스 모델의 사회적 영향 평가를 우선하는 윤리적 사전 검토 작업이 요구된다고 강조했다.

전쟁과 AI에 관해 레오 14세는 자율 무기의 배치가 용이해질수록 전쟁이 더 실행하기 쉬워지고 인간 통제에서 멀어진다고 경고했다. 회칙은 살상이나 돌이킬 수 없는 판단을 AI에 위임하는 것은 용납될 수 없으며 전쟁을 도덕적으로 정당화할 수 있는 알고리즘은 존재하지 않는다고 못 박았다. AI는 분쟁을 신속하고 비인격적으로 만들고 피해자를 데이터로 취급해 폭력에 대한 문턱을 낮춘다고 지적했다.

회칙 발표 행사에는 AI 기업 앤트로픽(Anthropic) 공동 창업자 크리스 올라(Chris Olah)도 참석했다. 올라는 앤트로픽을 포함한 첨단 AI 기업이 상업적 압력과 경쟁 속에서 움직이고 있으며 외부 감시가 필요하다고 밝혔다. 레오 14세 회칙은 AI 기업을 단순히 적대시하는 게 아니라 AI 개발자, 각국 정부, 학교, 가정, 노동자, 시민사회가 같은 문제에 책임을 공유해야 한다는 내용을 담고 있다.

레오 14세는 회칙에서 AI 시대에 필요한 건 AI를 쓸 것인가 쓰지 않을 것인가라는 양자택일이 아니라 인간 존엄, 공동선, 진실, 노동의 존엄, 평화를 중심에 둔 발전을 선택하는 것이라고 역설했다. 관련 내용은 이곳에서 확인할 수 있다.