구글, 제미나이로 가짜 웹사이트 제작 도구 공개한 中 조직 제소

택배 배송 알림이나 은행의 긴급 메시지 등을 위조하고 가짜 웹사이트를 만들어 사람들을 속였다는 이유로 구글이 중국에 거점을 둔 범죄 조직 아웃사이더 엔터프라이즈(Outsider Enterprise)를 제소했다.

구글은 아웃사이더 엔터프라이즈가 아웃사이더(Outsider)라고 불리는 피싱 키트를 배포했다고 주장하고 있다. 아웃사이더는 프로그래밍 지식이 없는 사람도 손쉽게 피싱 사이트를 만들 수 있는 도구로 은행이나 정부 기관 등을 모방한 웹사이트 템플릿은 물론 피해자 행동을 추적하기 위한 대시보드 등도 제공했다.

게다가 아웃사이더 엔터프라이즈는 구글 AI 제미나이를 이용해 웹사이트를 제작하는 튜토리얼 영상도 공개했다. 제미나이 사용법을 소개하면서 제미나이가 만든 코드를 아웃사이더에 붙여 넣으면 피싱 사이트를 만들 수 있다는 식으로 안내했다고 한다.

그 밖에도 아웃사이더에는 발송하는 피싱 이메일에 구글 로고를 붙여 신뢰도를 높이는 기능도 존재했다. 피해자가 이런 이메일 링크를 클릭해 실제 사이트로 착각하고 신용카드 번호나 2단계 인증 코드를 입력하면 해당 정보가 범죄자에게 빠져나가게 된다.

구글에 따르면 지난 5월 18일부터 6월 1일까지 단 2주 동안 아웃사이더 엔터프라이즈와 관련된 의심스러운 메시지가 5만 5,000건 신고됐다고 한다. 이 조직은 이미 10만 명 이상을 속였으며 적어도 신용카드 사기 3만 6,000건에 연관됐을 것으로 의심받고 있다.

구글은 아웃사이더 엔터프라이즈가 구글 드라이브에 정보를 저장했다는 이유로 아웃사이더 엔터프라이즈에 대한 접근을 차단하는 조치를 취했으며 아웃사이더 엔터프라이즈와 관련된 다수 웹사이트도 차단했다. 또 자사 서비스를 범죄에 이용하고 로고를 무단으로 사용해 신뢰도를 훼손했다는 이유로 구글은 구제 조치를 요구하며 소송을 제기했다.

구글은 피싱 이메일을 차단하기 위해 AT&T와 T-모바일 같은 통신사 뿐 아니라 연방수사국(FBI)과도 협력하고 있다고 설명했다. 또 AI를 활용한 사기에 대항하기 위해 AI 기반 도구를 사용하고 있다고도 밝혔으며 이를 통해 매월 100억 건 이상의 사기 메시지를 차단하고 있다고 한다.

소송과 더불어 구글은 AI에 의한 위협에 대응하기 위한 법 개정도 제안했다. 몇몇 연방 의원이 이 법안에 동의하며 구글이 근면한 미국인을 보호하기 위해 이렇게까지 적극적으로 노력해 온 걸 기쁘게 생각한다는 등 의견을 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.