구글, 미디어 팩트체크용 AI 도구 백스토리 발표했다

구글 딥마인드(Google DeepMind)는 2025년 이미지와 텍스트로 된 설명문을 입력하면 이미지가 AI 생성인지 여부를 판별하고 지금까지 어떤 맥락에서 사용된 이미지인지를 조사하는 AI 도구인 백스토리(Backstory)를 발표했다.

백스토리는 구글 딥마인드가 개발한 AI 도구로 이미지를 업로드해 기본 정보나 질문을 입력하면 자동으로 체크를 실행해 이미지가 AI로 생성된 것인지 여부를 조사한다. 백스토리는 AI 검출 기능 일환으로 구글 이미지 생성 AI인 나노 바나나(Nano Banana)가 삽입하는 워터마크인 신스ID(SynthID)나 이미지에 콘텐츠 인증 정보를 삽입하는 C2PA 메타데이터를 체크한다.

또 이미지에 조작된 흔적이 있는지 여부나 과거에 인터넷상에 게재된 적이 있는지 있다면 어떤 맥락에서 사용됐는지와 같은 정보를 AI 에이전트가 정리해 인용 문헌이 첨부된 리포트를 작성해 준다. 지금은 트러스티드 테스터스 프로그램(Trusted Testers Program)을 통해서만 이용할 수 있으며 저널리스트나 오신트(OSINT) 전문가, 정보 리터러시 연구자 등 수천 명이 시험 운용하고 있다고 한다.

실제로 인도 최대 보도 기관인 인디아 투데이에서는 멤버 6명으로 구성된 팩트체크 팀이 백스토리를 활용해 대량 유언비어나 오정보를 식별하는 작업에 도움을 받고 있다. 백스토리는 주로 팩트체크의 첫 단계를 담당하고 있으며 작업 신속화에 한몫하고 있다고 보도됐다.

인디아 투데이 팩트체크 팀을 이끄는 발 크리슈나(Bal Krishna)는 팀에서는 거의 모든 사람이 다른 도구와 조합해 백스토리를 사용하고 있다며 배경 정보나 방향성을 제시해 주기 때문에 퀵 레퍼런스로 활용되고 있다고 밝혔다. 이어 서로 다른 5개 도구, 서로 다른 5개 로그인으로 하던 작업을 모두 같은 장소에서 할 수 있다는 게 백스토리의 훌륭한 점이라고 덧붙였다.

예전에는 이미지 팩트체크를 할 때 우선 AI 이미지 검출기로 AI 생성인지 여부를 조사하고 그 후 이미지 검색을 실시해 출처를 찾는 작업이 필요했다. 하지만 백스토리는 이를 한 번에 실행할 수 있다는 것이다.

구글 딥마인드에서 백스토리 개발에 참여한 조이 달메(Zoe Dalme)는 이미지를 보고 맥락을 이해하려고 할 경우 많은 이들은 일련의 프로세스 중 일부분에만 주목하기 쉽다며 백스토리는 이들 모두를 하나의 사용자 경험으로 통합하려고 하고 있다고 밝혔다.

그는 백스토리 주요 사용자는 저널리스트라고 생각하고 있지만 미래에 더 널리 이용 가능해지면 단순히 이미지가 AI 생성인지 여부를 구별하고 싶을 뿐 아니라 더 상세한 맥락을 알고 싶은 니치 층에서도 수요가 생겨날 것이라고 보고 있다.

다른 많은 AI 모델과 마찬가지로 백스토리도 완벽하지 않으며 도구 하단에는 백스토리는 실수를 저지를 가능성이 있으니 반드시 확인하라는 면책 사항이 표시된다. 실제로 니먼 저널리즘 랩 기자가 자신의 얼굴 사진으로 백스토리를 시험한 결과 다른 저널리스트로 오인한 결과가 나왔다고 보고됐다.

또 백스토리는 이미지 맥락 추적에 있어 검색 엔진에 인덱스 등록된 이미지밖에 참조할 수 없다. 그 때문에 인덱스화되지 않은 틱톡 같은 SNS나 왓츠앱이나 시그널 비공개 그룹과 같은 장소가 출처인 경우 추적할 수 없을 수 있다.

인디아 투데이에서 공개하는 팩트체크 기사에서는 백스토리가 생성한 리포트를 그대로 사용하지는 않으며 얻어진 정보는 기자가 반드시 수작업으로 확인하고 있다고 한다. 그럼에도 백스토리는 대형 기술 기업이 개발한 첫 팩트체커용 이미지 검증 도구이며 일상 업무를 효율화하는 데 도움이 되고 있다고 주장했다. 관련 내용은 이곳에서 확인할 수 있다.