틱톡에 AI 광고 비밀리 배포? 해킹으로 폭로된 스타트업

대형 벤처캐피탈 안드레센 호로위츠(Andreessen Horowitz)가 지원하는 스타트업인 더블스피드(Doublespeed)가 해킹당하면서 의심스러운 광고 배포 비즈니스를 운영하고 있다는 사실이 폭로됐다.

더블스피드는 안드레센 호로위츠가 주도하는 자금 조달 프로그램에서 100만 달러를 유치한 스타트업으로 생성형 AI를 활용해 고객사의 제품을 홍보하는 서비스를 전개하고 있다. 하지만 실제로는 대량의 가짜 계정을 생성하고 봇처럼 보이지 않도록 어느 정도 육성한 뒤 특정 제품을 홍보하는 방식으로 운영한 것으로 드러났다.

더블스피드 시스템에 접근해 보복이 두려워 익명을 조건으로 정보를 공유한 해커에 따르면 더블스피드 백엔드 시스템과 회사 소유 스마트폰에 대한 접근 권한을 획득하는 데 성공했으며 더블스피드와 관련된 400개 이상 틱톡 계정 정보를 입수했다고 한다. 이 계정 중 200개 계정이 적극적으로 제품 프로모션을 진행하고 있었지만 대부분은 해당 게시물이 광고임을 명시하지 않았다.

SNS 기업이 이런 위장 캠페인을 비정상적 행동 정책 위반으로 감지·제거하려고 하기 때문에 더블스피드는 인간다운 행동을 위장했던 것으로 전해진다. 더블스피드가 운영하는 틱톡 계정에서는 언어 학습 앱, 데이트 앱, 성경 앱, 건강보조식품, 마사지 기기 등이 홍보됐다.

예를 들어 클로이 데이비스(Chloe Davis)라는 계정은 AI로 생성된 중년 여성을 등장시킨 건강 관련 이미지 200개 가까이를 게시했다. 게시물에서는 여성이 다양한 신체 불편함과 대처법에 대해 이야기했으며 게시물 마지막에는 항상 Vibit이라는 회사 마사지 롤러를 사용하는 사람 사진이 포함되어 있었다고 한다.

pattyluvslife라는 별도 틱톡 계정은 UCLA 학생을 자처하며 대형 제약회사나 건강보조식품 업계가 사기라는 게시물을 반복한 뒤 로자벨라(Rozabella)라는 회사 건강보조식품을 홍보했다. 다만 게시된 이미지 문자가 부자연스러워 AI 생성 콘텐츠라는 게 명백했다.

더블스피드가 운영하는 틱톡 계정 대부분은 슬라이드쇼나 정지 이미지를 게시했지만 일부는 춤 등 동영상을 게시하기도 했다.

틱톡은 커뮤니티 가이드라인에서 현실적인 풍경이나 인물을 담은 AI 생성 콘텐츠 또는 대폭적인 편집을 거친 콘텐츠에는 명시적인 표시를 의무화하고 있다고 설명했다. 틱톡 측은 기사에서 지적한 계정에 AI 생성 표시를 추가했다고 한다. 관련 내용은 이곳에서 확인할 수 있다.