사용자 반발에…메타, 인스타그램 AI 기능 삭제했다

메타가 AI를 이용해 인스타그램 상 사진을 편집하는 기능을 폐지했다. 7월 7일 메타는 이미지 생성 AI인 뮤즈 이미지(Muse Image)를 발표했다. 뮤즈 이미지는 채팅 서비스 메타 AI에서 공개 인스타그램 계정을 멘션하면 해당 계정 이미지를 편집할 수 있는 기능이었다.

하지만 이 기능은 사용자 동의 없이도 이미지를 뮤즈 이미지로 편집할 수 있다는 점이 문제였다. 또 사용자 입장에서는 자신의 사진이 뮤즈 이미지로 편집되더라도 별도 연락이나 알림이 없다는 점에 대해서도 불만을 품고 있었던 것으로 보인다.

이에 대해 보도에선 타인 이미지를 손쉽게 조작할 수 있는 상태는 악용·괴롭힘·사칭·동의 없는 이미지 편집 등 문제를 야기할 가능성이 있다고 지적했다.

사용자 반발에 따라 메타가 인스타그램 내 뮤즈 이미지 제공을 일시 중단한 사실이 밝혀졌다. 메타는 사용자가 메타 AI 내에서 공개 인스타그램 계정을 멘션해 이미지를 생성할 수 있는 신기능을 일시 중단하고 있다며 이번 조치는 이용자 및 CAA를 포함한 탤런트 에이전시의 면밀한 검토 속에서 이뤄졌다고 한다.

메타 측은 주 초 자사는 메타 AI에서 이미지를 생성하는 한 방법으로 참조하고 싶은 공개 인스타그램 계정을 멘션해 이용할 수 있는 기능을 발표했으며 당초 의도는 유용한 크리에이티브 도구를 제공하고 자신의 공개 콘텐츠가 이런 방식으로 참조되는지 여부를 통제할 수 있도록 하는 것이었지만 이 기능이 기대에 부응하지 못했다는 피드백에 따라 이용할 수 없도록 조치했다고 밝혔다.

한편 소셜 미디어에 추가된 AI 기능이 문제시된 건 이번이 처음이 아니다. 엑스에서 생성 AI 그록(Grok)을 사용할 수 있게 됐을 당시 여성이나 아동 사진이 무단으로 성적 이미지로 가공되는 사태가 다수 발생해 큰 문제가 된 바 있다. 이 사건으로 인해 그록은 인도네시아와 말레이시아에서 일시적으로 접속이 차단됐다. 나아가 엑스 개발사인 스페이스XAI(구 xAI)는 그록이 아동 성적 학대 콘텐츠(CSAM)를 생성했다는 이유로 소송을 당했다. 관련 내용은 이곳에서 확인할 수 있다.