오픈AI, 러시아·이란 선전 공작용 챗GPT 계정 차단했다

오픈AI(OpenAI)가 러시아와 이란이 AI로 만든 가상 조직과 가상 인물을 앞세워 벌인 영향력 공작에 쓰인 챗GPT(ChatGPT) 계정을 차단했다고 발표했다.

오픈AI에 따르면 최근 위협 행위자들이 벌인 활동은 기존 수법과 기술에 AI를 결합해 가상 인물과 조직을 정교하게 만들어 낸 뒤 출처를 숨긴 채 지정학이나 분쟁에 관한 메시지를 표적에게 보내는 방식이었다.

◇ 러시아, 남미에서 다크 클라크 작전=러시아 공작은 다크 클라크(Dark Clark) 작전으로 불린다. 위협 행위자가 미아 클라크(Mia Clark)라는 가상 인물을 내세워 조사 플랫폼을 자처하는 사회조사센터(SRC)를 운영하고 활동 실적 보고서로 자신들 활동을 그럴듯하게 꾸민 데서 이름이 붙었다.

작전 표적은 중남미 국가들이었다. 그중에서도 아르헨티나와 볼리비아에서 우크라이나와 현지 지도층을 깎아내리는 허위 정보가 퍼졌다. 연구자들은 허위 정보 일부가 러시아에서 활동하는 민간 군사기업 바그너그룹(Wagner Group)의 후신인 폴리톨로지(Politology)와 라 콤파니아(La Compania)라는 조직에서 나왔다고 지적했다.

작전은 중남미 현지인을 끌어들여 사회조사센터를 위해 일하게 하는 데도 성공했다. 이들은 자신이 러시아를 위해 일하고 있다는 사실을 전혀 몰랐던 것으로 알려졌다.

에콰도르 질다 알시바르 가르시아(Gilda Alcívar García) 장관은 다크 클라크 작전으로 퍼진 허위 정보를 부인하는 성명을 냈다. 에콰도르 매체 루파(Lupa)도 팩트체크 기사를 실었다. 오픈AI는 이를 두고 허위 정보가 부인 성명과 팩트체크를 끌어낼 만큼 널리 퍼졌다는 방증이라고 짚었다.

◇ 이란, 가짜 필자 7명 내세워 기사 유포=이란 공작은 서로 다른 명의 7개로 생성한 기사를 언론사에 팔아넘겼다는 점에서 가짜 서명 작전으로 불린다. 오픈AI에 따르면 이 작전 위협 행위자는 페르시아어로 프롬프트를 입력해 페르시아어와 영어 콘텐츠를 만들었다. 주로 SNS 댓글 등을 생성했고 장문 기사와 편집자에게 보낼 기고 제안문을 다듬거나 내부 보고서를 손보는 데도 썼다.

실제로 세계 각국 매체 10여 곳에서 공작용 필자 명의로 된 기사 100건 가까이가 게재되거나 전재됐다. 다만 SNS에서는 해당 기사에 대한 반응이 그다지 많지 않았다.

오픈AI는 정보가 어떤 경로로 유통되는지에 따라 확산 가능성이 크게 달라진다고 설명했다. 오픈AI는 지금까지의 허위 정보 확산을 6개 범주로 나눠 왔다. 범주1과 범주2는 단일 플랫폼 안에서 퍼진 경우로 폭발적으로 확산했는지 여부로 갈린다. 범주3과 범주4는 여러 플랫폼으로 퍼진 경우로 역시 폭발적 확산 여부에 따라 나뉜다. 범주5는 정치인이나 유명인에게까지 번진 경우이고 범주6은 의사결정에 영향을 미치는 수준이다.

오픈AI는 2024년 초 이후 적발한 영향력 공작 30건을 주요 확산 수단인 SNS와 웹사이트, 외부 출판물로 나누고 확산 정도를 범주1~6으로 평가해 분류했다. 그 결과 SNS 가짜 계정만으로 정보를 퍼뜨리는 데는 한계가 있지만 허위 정보를 다른 매체에 어떻게든 끼워 넣으면 잠재적 도달 범위가 넓어지는 경향이 나타났다고 오픈AI는 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.