오픈AI, 생물무기 대응에 참여한다

AI는 신약 개발과 감염병 연구 등 생명과학 분야에서도 활용이 확산되고 있다. 논문 정리, 실험 계획 수립, 데이터 분석 등을 지원할 수 있는 반면, 생물무기 개발에 악용될 위험도 있어 안전 대책이 중요해지고 있다. 오픈AI는 5월 29일 생명과학용 AI 모델인 GPT-로잘린드(GPT-Rosalind)를 활용한 생물방어 프로그램 로잘린드 바이오디펜스(Rosalind Biodefense)를 시작했다고 발표했다.

GPT-로잘린드는 오픈AI가 지난 4월 발표한 생명과학 전용 고급 추론 모델. 화학, 단백질 공학, 유전체학에 대한 이해와 도구 활용 능력이 강화되어 있으며 논문 검토, 가설 생성, 실험 계획, 데이터 분석 등을 지원할 수 있다고 알려졌다.

로잘린드 바이오디펜스에서는 오픈AI가 심사를 통과한 개발자에게 GPT-로잘린드 접근 권한을 제공하고 생물방어 및 팬데믹 대응 도구 개발을 지원한다. 구체적인 지원 대상 사례로는 감염병 유행 예측, 감염 확산 조기 탐지, 위험한 DNA 합성 의뢰 스크리닝, 팬데믹 대비, 검사·격리 등 약물을 사용하지 않는 공중보건 대책 등이 꼽힌다.

또 오픈AI는 프로그램 출범 시점 지원 대상으로 포스 이언 바이오시큐리티(Fourth Eon Biosecurity), 시큐어DNA(SecureDNA), 시큐어바이오(SecureBio), 디텍션 프로이큅(Detection ProEquip)을 명시했다. 예를 들어 포스 이언 바이오시큐리티는 DNA 합성 의뢰 내용을 분석해 위험한 염기서열이나 악용 가능성이 있는 의뢰를 탐지하는 시스템을 구축하는 기관. DNA 합성은 연구와 의료 개발에 필수적인 기술이지만 위험한 병원체와 관련된 염기서열이 부적절하게 제작될 경우 심각한 위험으로 이어질 수 있다.

오픈AI는 로잘린드 바이오디펜스와 병행해 미국 정부 및 동맹국 일부 파트너에 대한 GPT-로잘린드의 심사제 접근도 확대한다. 보도에 따르면, 오픈AI는 백악관과 여러 연방 기관에 로잘린드 바이오디펜스의 방침을 설명했으며 공중보건 담당 연방 기관을 참여시키는 절차도 진행 중이라고 한다. 정부 기관과 공공 연구 기관은 감염병 조기 발견, 유행 시 대응 계획 수립, 진단 기술, 백신 및 치료제 개발 등에 GPT-로잘린드를 활용할 것으로 예상된다.

오픈AI는 고도화된 생명과학 AI 제공에는 악용 방지 대책이 필요하다고 보고 GPT-로잘린드를 누구나 자유롭게 사용할 수 있는 형태가 아닌 심사제 접근 방식으로 제공하고 있다. 심사에서는 공익적 활용 목적, 안전 관리 및 거버넌스, 승인된 이용자만 사용할 수 있는 접근 통제 등이 중시된다고 한다. 오픈AI는 고도화된 AI를 방어 측 연구자와 공중보건 기관에 우선 제공해 생물학적 위협에 대한 예방·탐지·대응을 담당하는 측을 강화한다는 방침을 제시하고 있다.

오픈AI는 향후 초기 배포에서 얻은 지식을 바탕으로 접근 경로, 지원 모델, 안전 대책을 개선해 나갈 방침이다. 관련 내용은 이곳에서 확인할 수 있다.