中 AI 기업 증류 공격 대응 위해…오픈AI‧구글‧앤트로픽 협력

고성능 AI 모델 입출력을 추출해 다른 모델 성능을 향상시키는 기법은 증류라고 불린다. 오픈AI와 구글, 앤트로픽 등 주요 AI 기업은 자사 제품을 증류에 활용하는 걸 이용약관으로 금지하고 있지만 중국 기업에 의한 적대적 증류 시도가 잇따르면서 세 기업이 정보 교환을 통해 대응책 마련에 나서고 있다.

증류는 대규모 모델 능력을 추출해 소형이면서도 고성능인 모델을 만드는 기술로 자사 제품 간 활용이나 규약상 금지되지 않은 모델을 대상으로 한 증류는 문제가 되지 않는다. 하지만 AI 개발 기업 다수는 자사 모델을 증류 목적으로 사용하는 걸 금지하고 있으며 API를 통해 이를 시도할 경우 계정 정지 등 제재를 받을 수 있다.

API에 접근해 사용 목적을 숨긴 채 증류를 수행하는 행위는 적대적 증류로 불린다. 중국 대형 AI 기업이 미국 AI 기업을 대상으로 이런 공격을 수행하고 있다는 지적이 제기되고 있다. 예컨대 중국 기업 딥시크(DeepSeek)가 2025년 1월 발표한 추론 모델 DeepSeek R1은 경량성과 높은 성능으로 주목을 받았지만 발표 직후 오픈AI는 해당 모델이 자사 모델을 증류해 개발됐다는 증거를 확보했다고 밝혔다.

이후 1년 뒤인 올해 2월 오픈AI는 미국 하원 중국문제특별위원회에 제출한 문건에서 딥시크가 오픈AI 및 기타 미국 첨단 연구기관이 개발한 성과를 무임승차 방식으로 활용하고 있다고 지적한 바 있다.

구글 위협 인텔리전스 그룹(GTIG) 역시 지난 2월 13일 구글 AI를 대상으로 한 적대적 증류 공격이 증가하고 있다고 보고했다. 또 앤트로픽은 2월 23일 중국에 기반을 둔 AI 기업 딥시크, 문샷, 미니맥스가 자사 모델을 개선하기 위해 클로드 능력을 부정하게 추출하는 대규모 캠페인을 전개하고 있다고 주장했다.

보도에 따르면 오픈AI와 구글, 앤트로픽은 중국발 적대적 증류 공격에 대응하기 위해 기업 간 경계를 넘는 협력 체계를 구축했다. 구체적으로는 AI 업계 단체인 프런티어모델포럼(Frontier Model Forum)을 통해 정보를 공유하고 적대적 증류 공격 탐지 역량을 강화하고 있는 것으로 전해졌다.

실제로 프런티어모델포럼은 2월 23일 적대적 증류 공격의 문제점을 설명하는 자료를 공개했다. 해당 자료에 따르면 공격자는 다양한 방식으로 증류를 수행하고 있다. 프런티어모델포럼은 이런 수법을 문서화함으로써 AI 업계 전반에 책임 있는 모델 활용 기준을 확산시키고 효과적인 보호 대책 개발에 기여하는 걸 목표로 하고 있다. 관련 내용은 이곳에서 확인할 수 있다.