앤트로픽, 과학자가 AI로 생물무기 설계 시도 가능성 보고

앤트로픽 위협 인텔리전스팀이 2026년 9월 클로드를 악용하려 한 사례를 정리한 보고서를 공개했다. 보고서에는 과학자가 생물무기 설계를 시도했을 가능성이 있는 사례도 담겼다. 다만 과학자 반응은 엇갈린다는 지적이다.

앤트로픽이 2026년 9월 발표한 위협 보고서는 2025년 12월부터 2026년 8월까지 클로드에서 잡아낸 사이버 공격과 영향력 공작, 사기 등 부정행위와 그 대응을 정리한 문서다. 보고서는 클로드를 써서 위해를 끼칠 수 있는 병원체 연구를 시도한 사례 5건을 찾아냈다고 밝혔다.

◇ 보고된 5건은 어떤 내용인가=5건 가운데 3건은 바이러스 개변과 관련된 사례다. 한 사례에서는 연구자들이 클로드를 이용해 치쿤구니야 바이러스가 더 효율적으로 퍼지고 면역계를 회피하도록 돕는 변이를 찾아내는 프로젝트의 연구비 신청서를 작성했다. 치쿤구니야 바이러스는 모기 등을 통해 감염되며 고열과 관절염 증상을 보이는 치쿤구니야열을 일으킨다. 연구자들이 클로드에 보낸 지시에서는 이런 변이를 지닌 바이러스를 만들어 동물실험을 할 계획이 드러났다고 한다.

다른 사례에서는 연구자가 클로드를 써서 조류인플루엔자 바이러스 고병원성 주에 변이를 일으켜 포유류 적응과 감염력 강화를 꾀하는 실험을 계획했다. 세 번째 사례에서는 연구자들이 원숭이두창 바이러스와 천연두 바이러스 등을 포함한 오르토폭스바이러스속에서 쥐에 대한 독성을 낮추는 변이를 찾는 프로젝트 연구비 신청서를 작성했다.

앤트로픽은 바이러스 개변과 관련된 이들 연구 3건이 백신이나 의약품 개발, 새로운 팬데믹 탐지를 목적으로 한 작업의 일부였을 가능성도 인정했다. 동시에 더 위험한 바이러스를 만들기 위한 시도였을 가능성도 있다고 지적했다. 앤트로픽은 치쿤구니야 바이러스 연구를 두고 매우 우려스러운 기능획득 연구라고 표현했다. 조류인플루엔자 연구에 대해서는 팬데믹 가능성을 높인 병원체에 관한 연구라고 했다.

나머지 2건 가운데 1건은 의약품 개발 프로그램 일환으로 공개 정보를 이용해 독소 목록을 만든 사례다. 마지막 1건은 주요 위협으로 꼽히는 세균 독소와 바이러스 독소를 포함한 일련의 독소를 클로드를 이용해 컴퓨터상에서 재설계한 사례였다.

◇ 앤트로픽의 대응=앤트로픽은 이들 사례 연구에 관여한 개인이 현역 과학자라며 이들에게 위해를 끼칠 의도가 있었다고 단언하지는 않는다고 밝혔다. 다만 이들 과학자는 모두 중간 서버와 가상사설망(VPN), 위장 계정 같은 수단을 써서 클로드가 규제되지 않는 다른 나라에서 접속하는 것처럼 보이게 했다고 한다. 클로드는 중국 등 일부 국가에서 쓸 수 없어 그곳에 사는 과학자는 이런 방법으로 접근할 수밖에 없다.

앤트로픽은 이번 발견에 따라 해당 계정을 차단하는 등 클로드 접근을 막는 조치를 취했다. 하지만 적어도 1건에서는 과학자들이 방어책을 우회해 클로드를 계속 이용하는 방법을 찾아냈다고 보고했다.

앤트로픽은 컴퓨터상에서 독소를 재설계한 다섯 번째 사례에서 독소를 가리키는 용어를 의도적으로 모호하게 썼다고 지적했다. 치쿤구니야 바이러스 연구는 군사 연구소에 딸린 기관에서, 오르토폭스바이러스속 연구는 국가 관련 연구소에서 이뤄졌다고도 밝혔다.

위협 보고서가 공개된 뒤인 9월 14일 다리오 아모데이(Dario Amodei) 앤트로픽 CEO는 AI 위험이 커지고 있어 개발 속도를 늦춰야 한다고 주장하는 블로그 글을 올렸다. 이 글에서 그는 생물무기 제조에 AI를 쓰지 못하게 하는 국제 협정을 맺자고 제안했다.

◇ 엇갈리는 전문가 평가=이번 위협 보고서는 대형 AI 기업이 자사 제품이 생물무기 개발에 쓰였을 가능성이 있다고 공개적으로 인정한 첫 사례로 큰 화제를 모았다. 일부 과학자와 안보 전문가는 경계심을 보였다. 조 바이든(Joe Biden) 행정부에서 코로나19 대응을 도운 공중보건 전문가 아시시 자(Ashish Jha)는 잠재적으로 거대한 재앙을 향해 몽유병 환자처럼 걸어가고 있다고 말했다.

반면 앤트로픽 반응이 과하다고 보는 전문가도 있다. 스크립스연구소(Scripps Research) 바이러스학자 크리스티안 안데르센(Kristian Andersen)은 이들 실험이 바이러스학자가 하는 전형적 기초연구의 일부라고 지적했다. 안데르센 등이 발표한 2023년 연구에서는 이번에 보고된 치쿤구니야 바이러스 연구와 비슷한 실험을 지카 바이러스로 진행했다고 한다. 그는 앤트로픽 같은 기업이 어떤 연구가 위험한지 스스로 판단해 중단시킬 수 있다는 점이 오히려 우려스럽다고 사이언스에 말했다.

조지메이슨대 생물안보 전문가 그레고리 코블렌츠(Gregory Koblentz)는 앤트로픽이 거론한 연구가 모두 세계 여러 지역에 퍼져 현재 공중보건 위협이 된 병원체에 관한 것이라고 말했다. 그런 병원체를 연구하는 일 자체는 의심스럽지 않다는 설명이다. 그는 클로드가 막힌 중국 등에 사는 연구자가 VPN 등으로 규제를 우회하려 하는 건 당연한 일이라며 이해를 나타냈다.

중립적 태도를 보이는 전문가도 있다. 존스홉킨스대 생물보안 전문가 지지 그론볼(Gigi Gronvall)은 온라인상 일부 반응이 지나치다고 지적했다. 그러면서 이번 위협 보고서가 생물학자의 AI 악용에 빛을 비춘 것이며 이를 계기로 AI를 이용한 생물무기 개발에 관한 논의가 더 이뤄지고 적절한 규제가 마련되길 바란다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.