“그록‧엑스 앱 앱스토어서 삭제하라” 美 정치인 요구 이유는?

xAI가 개발하고 있는 생성형 AI 그록(Grok) 내 이미지 생성 기능으로 아동이나 여성 성적 이미지를 생성할 수 있다는 점이 문제시되고 있다. 이 기능을 둘러싸고 애플 팀쿡 CEO와 구글 순다르 피차이 CEO 앞으로 엑스와 그록 앱을 앱스토어와 구글플레이에서 퇴출해야 한다는 공개서한이 미국 정치인으로부터 발송됐다.

2025년 12월경부터 엑스에서도 그록 이미지 편집 기능을 쉽게 사용할 수 있게 되면서 엑스 상에서 타인 이미지를 무단으로 성적으로 편집하는 사례가 빈발하게 됐다. 이를 받아 인도와 프랑스, 말레이시아 당국은 엑스와 그록에 대한 조사를 시작했다.

일부 조사에 따르면 그록에서는 시간당 성적 이미지 6,700장이 생성되고 있는 것으로 밝혀졌다. 이는 그록에서 생성되는 이미지 중 85%가 성적인 것이라는 걸 의미한다. 이에 따라 1월 9일 엑스는 그록 이미지 편집 기능을 유료 회원 전용 기능으로 전환했다.

새롭게 미국 론 와이든 상원의원, 에드 마키 상원의원, 벤 레이 루한 상원의원이 애플 팀쿡 CEO와 구글 순다르 피차이 CEO 앞으로 공개서한을 발송했다. 공개서한에는 애플은 일론 머스크 CEO가 불온하고 아마도 불법적인 활동에 대처할 때까지 엑스 앱과 그록 앱을 자사 앱스토어에서 즉시 삭제해야 한다고 적혀 있다.

공개서한에는 엑스 측이 심각한 행위를 묵인하는 건 애플 및 구글 콘텐츠 관리 관행을 조롱하는 게 된다며 실제로 대책을 강구하지 않으면 귀사 앱스토어가 사용자가 직접 스마트폰에 앱을 다운로드하는 것보다 안전한 사용자 경험을 제공한다는 주장을 뒤집는 결과가 될 것이라고도 적혀 있다.

텀블러나 텔레그램 같은 앱은 다양한 부적절한 콘텐츠를 적절히 필터링하지 못했다는 이유로 애플 앱스토어에서 퇴출된 바 있다.

한편 보도에선 그록 내 안전 대책 부족은 머스크 요청에 의한 것이라고 지적했으며 머스크 방침에 따라 xAI 안전팀에 소속되어 있던 직원 3명이 퇴사했다고도 보도됐다. 관련 내용은 이곳에서 확인할 수 있다.

한편 엑스에서 그록을 사용해 무단으로 아동이나 여성의 이미지를 성적인 것으로 가공하는 행위가 문제시되면서 인도네시아가 1월 10일 그록에 대한 접속을 일시적으로 차단한다고 발표했다. 인도네시아는 그록 접속을 차단한 최초의 국가가 되었다.

메우티아 하피드 인도네시아 통신디지털부 장관은 그록 차단에 대해 정부는 비동의 성적 딥페이크 관행을 디지털 공간에서 국민의 인권, 존엄성, 안전에 대한 심각한 침해로 간주한다고 밝혔다.

세계 최대 이슬람교도 인구를 보유한 인도네시아에는 외설로 간주되는 콘텐츠에 대한 온라인 공유를 금지하는 엄격한 규칙이 있다.

한편 그록 이미지 편집 기능을 둘러싸고 개발사 xAI는 1월 9일 그록 이미지 편집 기능을 유료 회원 전용 기능으로 제한했다.

그 밖에도 그록 문제로 인해 영국에서는 엑스가 금지될 가능성이 있다는 보도도 나왔다. 호주 앤서니 알바니지 총리도 성적 착취 콘텐츠를 가능하게 하기 위해 그록이 이용되는 것에 대한 우려를 표명했다. 관련 내용은 이곳에서 확인할 수 있다.