연구자가 꼽은 AI발 인류 멸망 시나리오 5가지는?

호주 뉴사우스웨일스대 AI 연구자 토비 월시(Toby Walsh) 교수가 AI가 생물무기나 핵전쟁, 사회 붕괴 등을 거쳐 인류를 멸망시킬 가능성을 시나리오 5가지로 나눠 짚었다. 월시는 시나리오를 막연한 것부터 구체적인 것 순으로 늘어놨으며 뒤로 갈수록 일어날 가능성이 크다고 봤다.

◇ 인간이 예측 못 할 방식으로 멸망=월시가 첫 번째로 꼽은 건 인간을 뛰어넘는 지능을 지닌 초지능이 인간은 상상도 못 할 방식으로 인류를 멸망시키는 시나리오다. 개가 핵전쟁을 상상할 수 없듯 인간도 초지능 행동을 예측할 수 없다는 발상이다.

다만 월시는 지금 AI가 특정 문제를 푸는 데는 뛰어나도 모든 분야에서 인간을 앞서는 건 아니어서 초지능이 나오기까지는 아직 시간이 걸릴 수 있다고 지적했다.

◇ 주어진 목표 좇다 인류 희생=철학자 닉 보스트롬(Nick Bostrom)은 클립을 최대한 많이 만들라는 목표를 받은 AI가 지구와 우주를 클립 공장으로 바꿔버린다는 사고실험을 논문에서 제시했다. 월시는 이 사고실험 속 AI가 인류를 멸망시키는 건 인간을 미워해서가 아니라 클립을 늘린다는 목표를 충실히 따르다 인간 몸을 이루는 원자까지 재료로 쓰려 하기 때문이라고 설명했다. 보스트롬도 지능이 높다고 AI가 인간과 같은 동기로 움직인다는 보장은 없으며 AI에 어떤 목표를 주느냐가 중요하다고 주장했다.

다만 월시는 공장을 지으려 해도 건축 허가와 소송, 반대 운동이 걸림돌이 되는 만큼 초지능을 갖춘 AI라도 현실 세계에서 뜻대로 목적을 이룰 수 있는 건 아니라고 짚었다.

◇ 생물무기로 인류 멸망=월시는 초지능이 생물무기를 개발해 인류를 멸망시키는 시나리오도 꼽았다. AI 발전이 사회에 미칠 영향을 예측한 AI 2027에도 비슷한 결말이 그려져 있다고 언급했다.

스탠퍼드대는 2026년 8월 6일 AI가 제안한 DNA 서열을 바탕으로 바이러스 300종을 합성해 시험한 결과 16종이 대장균을 죽이는 걸 확인했다고 발표했다. 다만 이 연구에서 합성한 건 세균을 감염시키는 박테리오파지였고 연구진 목표는 인류 멸망이 아니라 세균 감염병 새 치료법 개발이다.

월시는 바이러스 감염자가 남에게 옮기기 전에 숨질 만큼 치명적이면 오히려 감염이 퍼지기 어려워지는 만큼 새 바이러스로 인류 전체를 죽음에 이르게 하기는 쉽지 않다고 말했다.

◇ 핵전쟁 촉발=AI가 핵무기 지휘·통제 체계에 침투하거나 군에 잘못된 정보를 줘 핵전쟁을 일으킬 가능성도 거론됐다. 월시는 핵무기 지휘·통제 체계가 인터넷과 분리돼 있다고는 하지만 격리된 시스템에도 침투할 틈은 있다고 지적했다. 그가 예로 든 건 2010년 이란 핵시설 원심분리기를 공격한 악성코드 스턱스넷(Stuxnet)이다. 보안업체 카스퍼스키(Kaspersky)에 따르면 스턱스넷은 USB 메모리를 통해 시설 안으로 들어간 것으로 보인다.

럿거스대 연구진은 2022년 연구에서 미국과 러시아가 전면 핵전쟁을 벌이면 뒤이은 기근으로 50억명 이상이 숨질 것으로 추산했다. 핵폭발로 생긴 화재 그을음이 햇빛을 가려 기후가 바뀌고 식량 생산이 크게 줄기 때문이다. 월시도 핵겨울에 따른 기근을 우려했다.

◇ AI가 사회 무너뜨려 인간 스스로 파멸=월시가 가장 일어날 가능성이 크다고 본 건 AI를 계기로 인간이 스스로 파멸을 부르는 시나리오다. 대량 실업과 허위 정보 범람, 정치적 분열에 더해 사람 대신 친밀한 대화 상대가 돼주는 AI와 교류하면서 인간끼리 유대마저 약해지면 사람들 생존을 떠받치는 사회 구조가 무너질 수 있다는 것이다.

월시는 AI에 분명 우려할 점이 있지만 지나치게 두려워하지는 말라고 당부했다. 관련 내용은 이곳에서 확인할 수 있다.