구글이 투자한 어린이용 AI 애니메이션 스튜디오

유튜브 모회사인 구글이 어린이용 애니메이션을 AI로 제작하는 영상 스튜디오 애니마j(Animaj)에 100만 달러를 투자한다는 사실이 밝혀졌다. 일부에선 유튜브에서 문제가 되고 있는 AI 생성 저품질 콘텐츠를 늘리는 데 기여하는 투자라는 비판이 나오고 있다.

유튜브에는 AI로 생성된 조잡한 콘텐츠와 허위 정보가 넘쳐흐르고 있다. 예를 들어 AI로 생성된 가짜 영화 예고편이 공식 예고편을 웃도는 조회수를 기록할 만큼 인기를 끌다가 스팸 및 오해를 유발하는 메타데이터 정책 위반을 이유로 채널이 폐쇄되는 사태가 발생했다.

유튜브는 AI로 생성된 조잡한 콘텐츠에 대응하기 위해 다양한 조치를 취하고 있다. 3월에는 정치인을 사칭한 AI 딥페이크 동영상을 탐지하는 도구를 발표했다.

AI에 의한 저품질 콘텐츠, 그 중에서도 영유아를 대상으로 한 건 쉽게 큰 수익을 올릴 수 있다고 한다. 유튜브는 영유아 시청자도 많아 AI 저품질 콘텐츠 온상이 되고 있다는 지적이다.

구글은 이전부터 AI에 의한 저품질 콘텐츠가 유튜브에서 대거 양산되고 있음을 인정해왔으며 질 낮은 잡다한 콘텐츠를 게시하는 계정 수익화를 정지하는 노력을 기울이고 있다고 강조하고 있다.

하지만 지난 2월 공개된 보고서에 따르면 유튜브 아동 안전 정책을 위반하는 걸 포함해 어린 시청자를 타깃으로 한 AI 저품질 콘텐츠가 수천 건 발견됐다고 한다. 또 유튜브가 애니메이션 동영상에 AI 생성 여부를 표시하는 라벨 부착을 의무화하지 않는 점도 문제로 지적되고 있다.

아동 안전 비영리단체 페어플레이 포 키즈(Fairplay for Kids) 측 관계자는 구글이 진짜 문제에서 주의를 돌리려 하는 건 흔한 일이라며 유튜브와 유튜브 키즈에서는 AI에 의한 조악한 콘텐츠가 만연해 성장기 아이가 위험에 노출되고 있다고 말했다. 이어 만일 AI 저품질 콘텐츠 관리가 유튜브 측 최우선 과제였다면 AI가 생성한 수백만 건에 이르는 어린이용 동영상은 이미 삭제됐어야 한다고 덧붙였다.

이런 가운데 3월 4일 유튜브 모회사인 구글은 AI를 활용한 어린이용 엔터테인먼트 기업 애니마j에 100만 달러를 투자한다고 발표했다. 이번 투자를 통해 애니마j는 구글 AI 퓨처스 펀드(AI Futures Fund)에 참여하고 구글 최첨단 생성형 AI에 대한 접근권을 확보하게 된다. 애니마j는 AI 퓨처스 펀드가 지원하는 첫 번째 어린이용 미디어 기업이 됐다.

애니마j는 어린이용 미디어에 특화된 AI 콘텐츠 스튜디오다. 제작 콘텐츠에는 포코요(Pocoyo)와 래빗츠(Rabbids) 등 인기 어린이 콘텐츠가 포함되어 있다. 애니마j는 자사는 포코요와 마야 더 비(Maya the Bee) 같은 어린이용 IP를 AI를 활용한 창의성을 원동력으로 하는 디지털 퍼스트 멀티플랫폼 전략을 통해 세계적인 프랜차이즈로 성장시키고 있다고 밝혔다. 애니마j 공동 창업자 식스토 드 보플랑(Sixto de Vauplane)은 애니마j는 AI를 활용한 고품질 장편 영화를 제작하는 개념 증명이라고 말했다.

애니마j는 구독자 수 470만 명을 넘는 헤이 키즈(HeyKids)를 비롯한 어린이용 유튜브 채널과도 제휴하고 있으며 보도에 따르면 애니마j가 제휴하는 유튜브 채널 총 재생 횟수는 2025년 220억 회를 넘어섰다고 한다.

프란츠는 애니마j가 제작하는 동영상에 대해 동요를 소재로 하고 어린이용 캐릭터가 등장해 가족 시청자를 끌어들이는 전형적인 AI 생성 동영상이라며 하지만 이런 동영상의 본질은 무엇보다 시청자를 매료시키는 데 있다고 말했다.

아동 안전 옹호 단체와 교육 전문가는 자극적인 영상과 음악으로 아이를 매료시키는 걸 목적으로 한 콘텐츠에 경종을 울리며 대신 콜 앤드 리스폰스(call-and-response) 형식 동영상 등 속도가 느리고 상호작용이 많은 근거 기반 교육 콘텐츠를 보호자에게 권장하고 있다. 한편 미국소아과학회(American Academy of Pediatrics)는 AI가 생성한 콘텐츠에 주의하도록 보호자에게 경고하며 짧은 동영상보다 긴 동영상을 선택할 걸 권장하고 있다.

또 유튜브에 넘쳐나는 아이를 매료시키는 콘텐츠는 영유아가 아직 뇌 배선을 형성하는 시기에 놀고 교류하고 오감을 충분히 활용하는 데 필요한 시간을 빼앗아 간다고 지적했다. 이는 AI가 생성한 동영상에 해당하는 문제지만 인기 유튜브 채널 코코멜론(CocoMelon)이나 선의로 어린이를 위해 제작된 일부 콘텐츠에도 해당된다.

이에 애니마j 유튜브 채널에는 아기를 대상으로 한 동영상이 가득하다며 구글이 애니마j에 투자한다는 건 헤이 키즈 같은 채널에 투자하는 것과 마찬가지이며 결국 아기에게 해를 끼치는 일에 투자하는 것이라고 덧붙였다.

또 유튜브 설계 자체가 아동 발달에 부적절하다고 경고했다. 구체적으로는 쇼츠(Shorts) 동영상 무한 스크롤, 알고리즘 기반 추천 동영상, 자동 재생을 끌 수 없는 점 등이 건전한 발달을 촉진하는 데 유해하다고 지적했다.

애니마j는 기존 지식재산권을 AI로 확장하는 걸 목적으로 하고 있어 수백 명에 이르는 다른 유튜브 크리에이터가 내세우는 초현실적이고 때로는 외설적인 저품질 콘텐츠를 양산하는 기업이 아닐 가능성도 있다. 하지만 일부에선 AI와 생성 도구 보급이 영유아 교육 연구자가 권장하는 것과 정반대 행태를 보이는 업계를 급격히 가속화시키는 것이 아닌지 우려하고 있다. 관련 내용은 이곳에서 확인할 수 있다.