SNS에서 제시카 포스터라는 미국 육군 여성 병사를 사칭하는 계정이 화제가 됐다. 이 계정은 트럼프 대통령에 대한 강한 지지를 표명하고 애국심을 자극하면서 섹시한 이미지를 게시해 운영 시작으로부터 겨우 4개월 만에 100만 명 이상 팔로워를 확보했지만 실제로는 AI로 생성된 가상 존재라고 전문가가 지적했다. 미국 육군에는 그녀의 군 경력에 관한 기록이 존재하지 않으며 이미지에는 AI 특유의 부자연스러운 점이 다수 발견됐기 때문에 메타는 약관 위반을 이유로 이 계정을 삭제했다.
포스터의 인스타그램 계정에는 트럼프 대통령과의 투샷 사진이 공개되어 있었다. 또 러시아 블라디미르 푸틴 대통령, 우크라이나 블라디미르 젤렌스키 대통령과 함께 찍힌 사진도 공개되어 있다. 트럼프 대통령과 축구 선수 리오넬 메시가 함께 찍힌 사진도 있다.
하지만 이미지 세부 사항을 검증해보니 트럼프 대통령이 신설한 평화위원회(Board of Peace)가 국경 평화 회담(Border of Peace Conference)으로 오기되어 있거나 명찰에 성이 아닌 이름이 기재되어 있거나 군복 계급장에 오류가 있는 등 군사적 정확성을 결여한 많은 증거가 발견됐다.
메타 측 관계자는 이미지에 AI 생성 특유의 부자연스러운 점이 다수 발견됐으며 미국 육군에도 그녀의 기록이 존재하지 않았다는 점을 근거로 포스터의 인스타그램 계정을 3월 19일에 삭제했다고 밝혔다.
또 포스터의 계정은 정치적 게시물 사이사이에 자신의 발을 강조한 사진을 눈에 띄게 배치하는 등 팔로워 관심을 끌기 위한 연출을 펼쳤다. 이 계정의 주요 목적은 SNS에서 확보한 주목을 유료 플랫폼으로 유도해 수익화하는 데 있었던 것으로 보인다. 초기에는 성인 대상 유료 콘텐츠를 배포하는 온리팬스 링크가 붙어 있었지만 실제 성인 인간이라는 확인이 이뤄지지 않았기 때문에 해당 서비스에서 삭제됐다고 한다.
그 후 AI 모델 활동을 인정하는 팬뷰라는 서비스로 이전해 노스캐롤라이나 주 포트 브래그 기지에 소속되어 있다고 자칭하면서 더 노골적인 콘텐츠 구독을 유도했다. 전문가는 포스터는 트럼프 지지층의 이상을 상징하는 존재로 조형됐으며 권력자나 역사적 사건에 가까운 위치에 자신을 배치해 거짓이라도 독자적인 가치를 획득하고 있다고 분석했다.
AI 생성 캐릭터를 활용한 유사한 수법은 미국 이외 지역에서도 확인되고 있다. 이란에서는 여성 전투 임무가 금지되어 있음에도 불구하고 여성 병사가 군을 칭찬하는 영상이 대량으로 확산된 사례가 있다. 미디어 조작 연구자는 AI로 인해 이런 거짓 계정 생성과 커스터마이징이 극히 용이해지면서 정치적 메시지를 확산시키는 봇 군단에 의한 정보전과 프로파간다에 악용될 위험성이 있다고 경고했다. 한 전직 하원의원도 언뜻 보기에 AI라는 걸 판별할 수 있는 존재에 이토록 많은 이들이 속고 있는 현황을 비정상이라고 비판했다. 관련 내용은 이곳에서 확인할 수 있다.
