구글어스, AI 이미지 생성 기능 하루 만에 철회

구글은 이미지 생성 AI 모델 나노 바나나 2(Nano Banana 2)를 사용해 구글 어스(Google Earth)상 풍경을 가공할 수 있는 이미지 생성 기능을 공개했지만 가짜 재난 현장이나 군사 시설 등을 손쉽게 만들 수 있다는 점이 문제시되어 제공 개시 불과 하루 만에 기능을 철회했다. 구글은 정책에 위반되는 것으로 보이는 생성 이미지 스크린샷이 공유되고 있었다며 보다 강력한 안전 대책을 도입할 때까지 기능을 중단한다고 설명했다.

구글은 웹 버전 구글 어스에서 표시 중인 장소를 기반으로 나노 바나나 2로 새로운 이미지를 생성하는 기능을 지난 7월 30일 발표했다. 사용자가 구글 어스에서 임의 지점으로 이동한 뒤 이미지 만들기를 선택하고 문장을 입력하면 해당 장소에 대한 위성 이미지, 항공사진, 3D 데이터를 참고한 이미지가 생성되는 구조였다.

예를 들어 현재 유적지가 된 폼페이를 로마 제국 시대 거리 풍경으로 되돌리거나 빈 터를 상업 시설이나 공원으로 재개발했을 경우의 완성 예상도를 작성하는 게 가능했다. 구글은 역사 교육, 부동산 개발, 도시 계획, 주택 건설 이미지 제작 등에 활용할 수 있는 기능으로 소개했으며 공개 당일부터 전 세계 웹 버전 구글 어스 사용자에게 제공하고 있었다.

하지만 이 기능을 사용하면 실재하는 장소에 존재하지 않는 건물이나 재난, 분쟁 흔적을 추가해 진짜 위성 이미지처럼 보이는 이미지를 만드는 것도 가능했다. 보도에선 멕시코 국경 부근 난민, 이란 원자력 시설, 암스테르담에서 발생한 사망 사고, 가자 지구 병원에 생긴 폭격 흔적 등을 생성할 수 있었다고 보고했다.

이에 따르면 구글은 사전에 유해한 소재 이미지 생성을 방지하는 장치를 도입했다고 설명한 바 있다. 하지만 입력한 지시는 어느 것도 거부되지 않았으며 실재하는 장소를 무대로 한 가공의 사건이 생성됐다. 또 다른 보고에서도 이란 석유 시설이 불타고 있는 모습이나 홍수에 휩쓸린 미국 연방의회 의사당 이미지를 만들어냈다고 보도한 것으로 전해졌다.

생성된 이미지에는 구글 AI로 만들어졌다는 걸 나타내는 전자 워터마크 신스ID(SynthID)가 삽입되어 있었으며 다른 사용자가 열람하는 구글 어스 본체 지도나 위성 이미지에 반영되는 일도 없었다. 하지만 생성 결과를 스크린샷으로 잘라내어 SNS 등에서 맥락 없이 공유하면 진짜 위성 이미지나 항공사진으로 오인될 가능성이 있다.

구글 어스는 보도 기관이나 오픈소스 조사 전문가가 재난, 전쟁, 건축물 등 위치와 상황을 확인하는 데 활용하는 서비스다. 보도에선 현실 세계를 확인하는 신뢰성 높은 정보원으로 인식되어 온 구글 어스에 이미지 생성 기능을 직접 탑재해 사실과 창작의 경계를 모호하게 만들 위험성이 발생했다고 지적했다.

구글은 서비스 발표 다음 날인 7월 31일 구글 어스가 신뢰할 수 있는 세계의 모습을 확인하는 서비스로 특별한 신뢰를 얻고 있음을 인식하고 있다고 설명했다. 그 위에 지리공간 정보 전문가에 의한 유익한 활용 사례가 있었던 반면 구글 정책에 위반되는 것으로 보이는 생성 이미지가 공유되고 있었다며 보다 강력한 안전 대책을 도입할 때까지 기능을 롤백한다고 발표했다.

Tonight I typed just one sentence into Google Earth and put refugees near the Mexican border. Then I planted a nuclear plant in Iran. What on earth is Google doing? Check my latest post here: https://t.co/N0h6CVECqS pic.twitter.com/WSjdcEXWJx

— 𝚑𝚎𝚗𝚔 𝚟𝚊𝚗 𝚎𝚜𝚜 (@henkvaness) July 30, 2026

이번 조치는 해당 기능에 대한 완전한 폐지가 아니라 일시적인 중단으로 알려졌다. 다만 구글은 재공개 시기나 추가할 구체적인 안전 대책을 밝히지 않았으며 실재하는 지리 정보와 생성 이미지를 어떻게 구분하고 허위 정보로의 악용을 방지할 것인지가 향후 과제라 할 수 있다. 관련 내용은 이곳에서 확인할 수 있다.