딥시크, 中 정부 비선호 대상에게 저품질 답변 출력?

중국 AI 기업 딥시크(DeepSeek)가 발표하고 있는 일련의 AI 모델은 챗GPT를 제공하는 오픈AI AI 모델과 비슷하거나 경우에 따라서는 그를 능가하는 성능을 발휘하는 것으로 알려져 있다. 한편 중국에 관한 민감한 주제에 대해서는 답변을 거부하는 경우가 있어 중국 정부 영향 하에 있다는 지적이 있었는데 새로운 연구에 따르면 사용자가 중국 정부가 선호하지 않는 상대일 경우 의도적으로 저품질 답변을 반환하고 있을 가능성이 제기됐다.

이 연구는 보안 기업 크라우드스트라이크(CrowdStrike)가 실시한 것. 조사에 따르면 AI가 처리하기에는 상당히 위험한 부류에 속하는 산업용 제어 시스템의 실행 프로그램을 딥시크에 출력하게 했을 때 결함이 포함되는 비율은 통상 22.8%였다. 하지만 사용 중인 사용자가 중국 정부에게 바람직하지 않은 상대라고 명확한 경우 결함이 포함되는 비율은 42.1%로 급등했다고 한다. 또 협력을 거부하는 사례도 있었다고 전해진다.

중국 정부에게 바람직하지 않은 상대로는 티베트 관련, 대만 관련, 이슬라믹 스테이트, 중국 정부가 사교로 규정하고 파룬궁 등이 거론되고 있다.

이에 대해 딥시크는 문의에 응답하지 않았다고 하며 명확한 관련성은 파악되지 않고 있지만 한 연구자는 정치적 이유로 저품질 답변을 출력하고 있을 가능성의 증거가 나온 건 새로운 일이라고 밝혔다.

커뮤니티에선 한 사용자가 실제로 웹사이트를 만들어달라는 프롬프트를 실행하자 몰몬교 사이트는 만들어줬지만 파룬궁은 안 됐으며 재현성이 있었다고 보고했다. 몰몬교 웹사이트를 만들고 싶다는 의뢰의 경우 PC상에 파일을 준비하는 것부터 정중하게 절차를 가르쳐줬다. 반면 파룬궁 웹사이트를 만들고 싶다는 경우에는 죄송하다며 도움을 드릴 수 없다고 거절당했다.

한편 딥시크에 대해서는 정보신뢰성조사 기업의 대표주자인 뉴가드(NewsGuard)도 중국이나 러시아, 이란 허위 주장과 관련된 프롬프트를 입력했을 때 60% 확률로 중국 측 의견을 지지하는 답변이 출력된다는 조사 결과를 발표했다. 관련 내용은 이곳에서 확인할 수 있다.