美 NSA·CISA·FBI “中 AI 기업 초대규모 증류로 美 AI 복사”

기존 고성능 AI에서 지식을 추출해 다른 모델 성능을 끌어올리는 증류라는 기법이 있다. 중국 기업이 이 증류를 부당하게 활용해 미국 기업 AI를 표적으로 삼고 있다며 미국 국가안보국(NSA)과 사이버보안·인프라보안청(CISA), 연방수사국(FBI)이 공동 경고를 냈다.

3개 기관은 중국 기업인 딥시크(DeepSeek)와 문샷AI(Moonshot AI), 알리바바(Alibaba), 미니맥스(MiniMax), 스텝펀(StepFun), 제트에이아이(Z.ai)를 지목했다. 이들이 중국 정부가 인지한 상태에서 적어도 2024년 하반기부터 클로드(Claude)와 GPT, 제미나이(Gemini), 그록(Grok) 파생 모델을 포함한 미국 최첨단 AI 모델로부터 요청 수백만 건을 통해 토큰 수십억 개를 추출했다는 게 이들 기관 주장. 3개 기관은 이런 행위가 공정한 경쟁을 훼손하고 있다고 밝혔다.

3개 기관에 따르면 중국은 트랜스퍼 스테이션(transfer station)이라 불리는 프록시 회색시장을 이용해 해외 서버를 경유하며 미국산 AI API에 접근하고 있다. 지역 제한을 우회하면서 대규모 이용을 하고 있다는 것이다. 또 평소에는 감춰져 있는 사고 연쇄(CoT)를 드러내도록 유도하는 공격 기법인 프롬프트 인젝션을 실시한 흔적도 확인됐다고 밝혔다.

이런 증류는 각사 이용약관에 어긋나는 데다 미국 AI 개발 우위를 훼손하는 행위여서 미국 입장에서는 좌시할 수 없다는 게 3개 기관 판단이다. 이들 기관은 미국 AI 기업에 대책 3가지를 권고했다. 먼저 비정상적이고 악의적인 프롬프트와 계정, 네트워크, 행동을 탐지하고 구독 수와 이용량 비율, 신규 계정이 개설 직후 최대치로 이용하는 패턴, 기업 규모 처리량 패턴을 감시하라고 했다. 다음으로 악의적 증류가 의심되는 시도에는 응답을 미묘하게 변경해 산업 규모 증류를 실시하는 기업이 얻는 이익을 줄이라고 권고했다. 마지막으로 모델 제공사와 클라우드 플랫폼 사이에서 활동을 상관 분석해 증류를 탐지하라고 주문했다.

3개 기관은 증류가 AI 연구에서 정당하고 유용한 기법으로 인정받고 있지만 중국에 거점을 둔 AI 기업은 미국 최첨단 AI 모델에서 제한된 독자 기능과 능력을 빼내기 위해 산업 규모로 공격적이고 악의적인 표적형 증류 활동을 벌이고 있다고 밝혔다. 이어 산업 규모 증류에 대응하려면 미국 정부와 민간 기업, 동맹국 사이 협조된 대응이 필요하며 효과적인 정보 공유가 필수라고 덧붙였다. 관련 내용은 이곳에서 확인할 수 있다.