AI 생물학 설계물에 워터마크 넣는 기술 나왔다

구글 딥마인드(Google DeepMind)가 9월 30일 AI가 설계한 단백질 등에 검출 가능한 워터마크를 심는 기술 신스ID 바이오(SynthID Bio)를 발표했다. 단백질 기능을 유지하면서도 AI 설계물이라는 걸 식별할 수 있는 구조로 디지털 데이터뿐 아니라 실제 합성한 단백질에서도 워터마크를 확인할 수 있다고 한다. 같은 시기 마이크로소프트(Microsoft) 창업자 빌 게이츠(Bill Gates)는 AI가 생물 테러와 사이버 공격에서 위험한 임계점을 넘었다며 정부 주도 규제를 요구했다.

◇ AI가 만든 단백질, 자연에서 온 건지 알 수 없다=생성형 AI는 글이나 이미지뿐 아니라 생물학 분야에서도 쓰임새가 넓어지고 있다. 구글 딥마인드는 단백질 입체 구조를 예측하는 알파폴드(AlphaFold)와 목표 단백질에 결합하는 새 단백질을 설계하는 알파프로테오(AlphaProteo) 등을 개발했고 AI로 자연계에 없는 새 생체분자를 설계하는 일도 가능해졌다.

새 단백질을 쉽게 설계할 수 있게 되면서 낯선 서열이 자연에서 발견된 건지 AI가 만든 건지 판단하기 어렵다는 문제가 생겼다. DNA 합성 기업은 주문받은 서열을 이미 알려진 위험 서열 데이터베이스와 대조하고 있다. 하지만 AI는 기존 서열과 거의 닮지 않은 새 서열을 만들어낼 수 있어 종래 대조만으로는 유래를 가리기 어려워질 수 있다. AI가 생성한 입체 구조가 제대로 표시되지 않은 채 공개 데이터베이스에 등록되면 뒤이은 연구에도 영향을 미칠 수 있다.

◇ 아미노산 선택을 미세하게 유도=신스ID 바이오는 이런 문제에 대응해 나왔다. 구글 딥마인드는 이전부터 이미지와 음성, 영상, 텍스트에 사람이 알아채기 어려운 워터마크를 심는 신스ID(SynthID)를 개발해 왔으며 신스ID 바이오는 그 개념을 합성생물학으로 확장한 개념 증명이라고 설명했다.

단백질은 아미노산 여러 개가 늘어서 만들어진다. 신스ID 바이오로 아미노산 서열에 워터마크를 넣을 때는 단백질 성질을 크게 바꾸지 않는 범위에서 서열 생성 시 아미노산 선택을 미세하게 유도해 나중에 통계적으로 검출할 수 있는 특징을 서열에 숨긴다. 입체 구조 데이터는 원자 좌표를 조금씩 조정해 같은 식별 정보를 넣는 구조다.

워터마크를 넣어도 본래 기능을 잃지 않는다는 점이 중요하다. 구글 딥마인드는 알파프로테오와 아미노산 서열을 만드는 프로틴MPNN(ProteinMPNN)을 결합해 VEGF-A와 사스코로나바이러스-2(SARS-CoV-2) 스파이크 단백질 RBD, PD-L1 등 표적 3종에 결합하는 단백질을 설계했다. 실험실에서 조사한 결과 워터마크를 넣은 단백질은 넣지 않은 단백질과 비슷한 설계 성공률과 결합력을 보였고 서열 다양성도 유지됐다. 구글 딥마인드는 워터마크를 지니면서 생물학적으로 기능하는 단백질 결합 분자를 만들어냈다고 보고했다. 표적 3종 모두에서 결합력이 크게 떨어지지 않았다는 설명이다.

알파폴드 3를 활용한 단백질 입체 구조 예측에도 신스ID 바이오를 넣을 수 있다. 구글 딥마인드는 알파폴드 3 내부 확산 네트워크 일부를 미세 조정해 모델 자체에 워터마크를 만드는 구조를 심었다. 발표에 따르면 예측 정확도를 유지하면서 워터마크를 거의 완전히 검출할 수 있었고 데이터에 작은 노이즈를 더하거나 좌표를 조금 바꿔도 검출이 가능했다.

◇ DNA 합성 심사에 활용 기대=AI가 만든 서열에서 검증 가능한 워터마크가 나오면 안전 대책을 갖춘 특정 모델에서 생성된 서열이라는 걸 확인하는 단서가 된다. 구글 딥마인드는 신스ID 바이오가 DNA 합성 단계 심사에 도움이 될 거라고 밝혔다. 단백질데이터뱅크(Protein Data Bank)와 유니프로트(UniProt), 젠뱅크(GenBank) 같은 생물학 데이터베이스에서 AI 생성 데이터를 제대로 식별하는 용도도 상정하고 있다.

다만 신스ID 바이오만으로 바이오 보안 문제를 풀 수 있는 건 아니다. 의도적인 변형에 맞서 워터마크를 더 강하게 만드는 일 등이 과제로 꼽히며 생성 출처를 기록하는 메타데이터나 AI 생성 생물 데이터 등록 체계와 함께 쓰는 방안도 검토되고 있다.

구글 딥마인드는 스탠퍼드대와 아크연구소(Arc Institute)와 함께 게놈 생성 AI 에보 2(Evo 2)가 설계한 박테리오파지 게놈에도 신스ID 바이오를 심었다. 초기 실험에서는 워터마크를 넣은 박테리오파지가 세균 배양 환경에서 기능한다는 게 확인됐다. 앞으로는 단백질을 넘어 더 복잡한 생물학 데이터 적용에 대한 기술 논문을 공개할 예정이라고 밝혔다.

◇ 게이츠 “AI는 이미 생물 테러 능력 한계를 넘었다“=기술적 대응이 나오는 한편 규제 공백을 지적하는 목소리도 커지고 있다. 게이츠는 언론인 에즈라 클라인(Ezra Klein)과 인터뷰에서 AI가 안고 있는 여러 위험과 필요한 대책, 그리고 AI가 인류에 가져올 이익을 함께 짚었다.

게이츠는 1970년대 하버드대를 중퇴할 당시 마이크로소프트 공동 창업자 폴 앨런(Paul Allen)에게 기초적인 번역 소프트웨어나 워드프로세서를 파는 사이 AI에서 획기적인 진전이 일어나면 분명 후회할 거라고 말했다고 한다. 1970년대에도 연구자 일부는 오늘날 AI로 이어지는 신경망 연구를 이어가고 있었지만 AI가 크게 진전한 건 21세기 들어서였다.

게이츠는 마이크로소프트에 몸담던 시절부터 정기적으로 오픈AI(OpenAI)를 찾아 연구 내용을 봤다고 한다. 어느 날 샘 올트먼(Sam Altman) 오픈AI 최고경영자 일행이 찾아와 일반 공개 전 GPT가 아주 복잡한 생물학 문제를 푸는 걸 보고 충격을 받았다고 말했다. 2025년 말 앤트로픽(Anthropic)이 개발하는 클로드(Claude) 코딩 성능이 발전해 자신만큼 뛰어나다는 걸 알았을 때 다시 충격을 받았다는 설명이다.

클라인이 고도의 전략 수립은 AI에게 아직 미숙한 영역이라고 보는지 묻자 게이츠는 자신이 세운 자선단체 게이츠재단 자금 운용 회의를 예로 들었다. 2025년 10월 시점에는 AI에게 의견을 물어보자는 말이 농담에 불과했지만 2026년 회의에서는 자금 운용을 두고 챗GPT(ChatGPT)와 클로드가 대화하게 하거나 몇몇 검토 자리에 AI를 동석시키는 방안까지 검토하게 됐다고 했다. 처음에는 농담 같던 존재가 이제 대등한 상대가 됐다는 뜻이며 AI가 최종 결정을 내리지는 않더라도 깊고 복잡한 전략 논의에서 대등한 위치에 서서 중요한 기여를 할 거라고 평가했다.

◇ 위험한 임계점은 이미 넘었다=게이츠는 AI 성능 향상이 뚜렷하다면서도 AI가 대단히 위험한 존재이기도 하다고 지적했다. 주요 AI 개발 기업은 이익 극대화만 좇을 게 아니라 AI가 위험한 임계점에 이르면 개발을 멈추는 것처럼 때로는 이익에 반하는 결정도 내려야 한다고 했다.

게이츠는 능력이 이만큼 이해되지 않은 제품은 지금까지 없었다며 AI는 생물 테러리스트가 수억 명 목숨을 앗아갈 능력을 갖는 한계를 이미 넘어섰다고 말했다. 모든 은행 계좌를 뒤흔들고 전력망을 멈추는 사이버 공격을 수행할 능력도 이미 존재하며 그게 사실임을 알고 있다고 했다. 이런 일이 벌어지는 건 악의를 가진 인물이 AI를 악용해 그런 행동을 시키기 때문이지 AI 자체가 그렇게 하는 건 아니라고 덧붙였다.

구체적으로 무엇이 전환점이었냐는 질문에 게이츠는 앤트로픽이 개발한 AI 모델 미토스(Mythos)를 들었다. 미토스는 사이버 보안 분야에서 높은 능력을 지녀 사람이 오랫동안 지나쳤던 코드 속 버그도 찾아낼 수 있다. 이 능력이 사이버 공격에 쓰이고 세상 각종 시스템과 연결된 방대한 코드가 공격 대상이 되면 인간 사회가 큰 혼란에 빠질 수 있다는 것이다.

게이츠는 AI로 새 분자를 만들어내는 기술이 진전되면서 인체에 이로운 분자를 만드는 흐름이 빨라지는 한편 생물무기 개발에 악용될 위험도 커지고 있다고 지적했다. 천연두보다 악성이면서 증상이 나타나기까지 시간이 더 걸리는 것, 다시 말해 건강 피해가 드러나기 전에 많은 사람을 감염시키는 병원체를 원한다면 예전에는 국가만이 그런 작업을 할 자원과 능력을 갖고 있었지만 이제 그 힘이 최신 AI 도구를 다루는 소수 집단 손에 넘어갔다고 말했다.

◇ “1억명이 죽은 뒤 소송이 무슨 의미인가“=클라인은 AI가 악용된 사실이 알려지면 개발 기업 평판이 깎이는 만큼 자본주의 유인만으로도 충분한 안전장치를 둘 수 있지 않느냐고 물었다. 게이츠는 약이나 항공기에는 엄격한 규제가 있는데 인류가 지금까지 만든 것 가운데 가장 위험할지 모를 AI에 규제가 없는 건 문제라고 주장했다. 필터링이 있다고들 하지만 실제로는 존재하지 않으며 생물무기를 만들고 온갖 감시를 무력화할 수 있는 오픈소스 모델이 이미 나와 있다고 했다. 1억명이 살해된 뒤 소송이 무슨 의미가 있겠느냐고도 반문했다.

게이츠는 AI 업계 밖 정치인과 정책 입안자는 AI 위험성에 대한 인식이 매우 낮다고 지적했다. 로켓이나 핵무기와 AI가 크게 다른 점은 AI가 정부 연구자금으로 개발된 게 아니라 민간 기업이 자발적으로 개발한 기술이고 주된 이용자도 정부가 아니라는 데 있다. 그래서 군사 무기에서는 고도 기술을 지닌 미국 정부도 AI가 얼마나 위험한지 정확히 파악하지 못하고 있다는 설명이다.

AI 개발 기업 자율 규제에 더는 기댈 수 없는 만큼 게이츠는 사이버 공격이나 생물무기 공격으로 막대한 피해가 생기기 전에 정부가 먼저 나서 AI 안전 대책과 감시 체계를 갖추고 이를 모든 AI 모델에 의무화해야 한다고 주장했다.

미국이 AI 개발을 규제하면 중국이 이긴다는 논리에 대해서는 이긴다는 게 무슨 뜻인지 모르겠다고 답했다. 미국이 중국을 이길 수도 없고 중국이 미국을 이길 수도 없으며 양쪽 모두 판도라 상자를 열어버렸다는 것이다. AI는 악의를 가진 사람들이 쓰도록 거기 있는 만큼 이런 보호 대책을 놓고는 국가주의 시각에서 인간적 시각으로 옮겨가는 게 자연스럽다고 했다. 중국이 인류를 위해 그런 행동에 나서지 않을 거라는 생각에는 동의할 수 없으며 그건 검증되지 않은 가설이라고 덧붙였다.

◇ “회계·법률·텔레세일즈가 먼저“=게이츠는 2026년 8월 공개한 블로그에서 이대로면 AI가 사람 일자리를 빼앗아 많은 직업이 영구히 사라질 거라고 경고한 바 있다. 클라인은 AI에 밀려날 거라던 영상의학과 의사와 프로그래머가 여전히 존재하고 많은 일자리가 사라지지 않은 것처럼 보인다고 물었다.

게이츠는 데이터센터 구축 같은 분야에서 새 수요가 생겨 지금은 AI가 없앤 일자리보다 만들어낸 일자리가 더 많다고 인정했다. 그러면서 많은 직업이 남아 있는 건 극히 높은 신뢰성이 요구되기 때문이며 AI가 사람보다 나은 정확도를 낸다는 게 확인되면 일자리는 AI에 넘어갈 거라고 주장했다. 앞으로 몇 년 안에 회계와 법률 업무, 텔레세일즈, 텔레서포트 같은 분야에서 24시간 모든 언어에 대응하고 잡다한 지식도 풍부하며 조급해하지 않는 서비스가 실현될 거라고 말했다.

클라인은 AI가 고용을 빼앗더라도 다른 분야에서 고용이 생기므로 과거 기술 혁명과 마찬가지로 걱정할 필요가 없다는 반론을 내놨다. 게이츠는 그런 주장이 경제 일부에 수요 탄력성이 있다는 사실을 지적하는 데 그친다며 언젠가 사람이 해야 할 작업이 사라지는 단계에 이르면 수요 탄력성도 멈춘다고 설명했다.

미국에서는 20세기에 제조업 해외 이전과 자동화가 진행되며 제조업 일자리가 사라졌다. 그래도 사람들이 서비스업으로 옮겨가 경제 전체 고용 구성이 바뀌었고 미국 총 고용자 수는 1960년 당시보다 줄지 않았다. 그런데 서비스업에서 사람이 지닌 우위는 복잡한 작업을 처리하는 인지 능력인데 AI는 이를 대체할 수 있을 뿐 아니라 24시간 쉬지 않고 모든 언어로 처리한다. AI 발달로 인간 인지 능력마저 희소성을 잃으면 사람에게 남는 일은 한없이 줄어든다는 뜻이다.

게이츠는 일자리 상실 대책으로 직원을 해고하고 AI를 쓰는 기업에 AI 사용세를 매겨 세제와 연금을 부담시켜야 한다고 주장했다. 육아와 노인 돌봄, 일부 의료 처치, 교육 같은 분야에서는 사람만 맡는 일자리를 유지하자는 제안도 내놨다.

◇ 가난한 사람에게는 도움이 된다=게이츠는 AI에 강한 우려를 나타내면서도 게이츠재단을 통해 AI 연구소와 정부 기관 등과 함께 30억명 이상이 모국어로 AI를 쓸 수 있게 하는 5개년 목표를 발표했다. 클라인이 이 점을 묻자 게이츠는 AI에는 좋은 점이 많다며 재단이 세계에서 가장 가난한 사람들에게 AI를 전해 교육과 의료, 농업 측면에서 돕는 활동을 하고 있다고 설명했다.

그는 나이지리아 오지에 사는 요루바어 사용 여성이 가까운 곳에 의사가 없어 AI에만 기댈 수밖에 없는 사례를 들었다. 요루바어는 서아프리카에서 화자 4,500만명을 가진 언어지만 AI 모델은 여전히 요루바어를 충분히 인식하지 못해 여성이 증상을 말해도 제대로 대응하지 못한다고 한다.

결국 AI를 더 많은 언어로 쓸 수 있게 하면 가난하거나 혜택을 받지 못한 사람들이 건강과 농사 문제를 AI에 상담할 수 있게 된다. 게이츠는 AI가 가장 기본적인 인간적 문제를 안고 가장 곤궁한 처지에 놓인 사람들을 돕는다는 점에서 선을 위한 도구라고 말했다. 관련 내용은 이곳에서 확인할 수 있다.