고령자 겨냥한 AI 음성 사기 급증

AI 기술 발전에 따라 AI 음성 기술을 이용한 교묘한 사기가 빈발하고 있다. 미국 플로리다주 힐즈보로 카운티에 거주하는 샤론 브라이트웰이라는 남성은 지난 2025년 7월 AI 음성 클론 기술을 이용한 교묘한 사기 사건 피해를 입었다.

그는 자신에게 걸려 온 사기 전화에 대해 마치 딸 울음소리가 들리는 것 같았다고 설명했다. 사기 전화에서는 먼저 딸의 AI 음성 클론이 운전 중 임산부를 치었다는 것, 그리고 휴대전화가 경찰에 압수됐다는 걸 설명했다. 이후 전화는 딸 변호사를 자처하는 남성으로 바뀌어 보석금으로 현금 1만 5,000달러가 필요하다고 설명했다. 이 변호사는 은행에서 돈을 인출할 때 용도를 말하지 말라고 경고했으며 그 이유로 딸 신용에 흠이 갈 수 있기 때문이라고 설명했다고 한다.

이 전화를 받은 후 1시간 이내에 이 남성은 현금을 인출해 법원 관계자로 보이는 배달원에게 현금을 건넸다. 이후 진짜 딸과 연락이 닿아 딸이 사고를 낸 적이 없다는 것 그러니까 전화가 사기였음을 알게 됐다고 밝혔다. 이 남성이 피해를 입은 AI 음성을 이용한 사기는 현재 미국에서 가장 흔한 범죄 중 하나가 됐을 뿐 아니라 가장 기술적으로 고도화된 범죄이기도 하다.

지난 4월에는 FBI 인터넷 범죄 신고 센터가 2025년 온라인 범죄에 관한 연례 보고서를 발표했으며 동 보고서가 작성되기 시작한 26년 역사상 처음으로 AI를 이용한 사기가 독립된 카테고리로 분류됐다. 이 보고서에 따르면 2025년 AI가 관련된 신고는 2만 2,000건 이상 접수됐으며 AI 범죄로 인한 피해액은 8억 9,300만 달러를 넘었다. 이 중 60세 이상 피해자 피해액은 실로 3억 5,200만 달러에 달해 고령자가 AI를 이용한 금융 범죄에서 가장 많이 표적이 되는 연령층임도 밝혀졌다.

FBI는 보고서 수치가 어디까지나 피해자가 인식하고 신고한 것 뿐이라며 문제 실태를 과소평가하고 있다고 지적했다. AI 음성 클론에 의한 전화 피해자 대부분은 AI가 관여했다는 사실을 인식하지 못하고 있기 때문에 FBI가 보고한 AI 범죄 손실액 8억 9,300만 달러는 상한이 아니라 하한으로 해석하는 것이 적절하다.

고령자를 중심으로 피해가 확산되는 AI 음성 사기 핵심 기술은 단 3초 음성 데이터만 있으면 원래 음성과 구별이 안 되는 합성 음성을 생성할 수 있다는 것이다. 필요한 음성 데이터가 불과 3초이므로 음성 사서함 메시지, 팟캐스트 발췌, 인스타그램 계정에 게시된 동영상 등에서도 생성할 수 있다. 틱톡 동영상 하나에 등장하는 손주가 사기꾼이 사건을 날조하는 데 필요한 모든 정보를 제공하고 있는 셈이라는 설명이다.

또 AI 음성 사기 위협이 심각해지는 이유 중 하나는 AI 음성 클론을 손쉽게 만들 수 있기 때문만이 아니라 이를 수행하기 위한 도구가 저렴하고 풍부하게 존재한다는 점에도 있다. 이에 더해 컨슈머 리포트는 디스크립트(Descript), 일레븐랩스(ElevenLabs), 로보(Lovo), 플레이HT(PlayHT), 리젬블 AI(Resemble AI), 스피치파이(Speechify) 등 음성 클론 제품 대부분이 부정 사용이나 악용에 관한 유효한 안전 대책을 갖추지 못하고 있다고 지적했으며 이런 기술에서 안전 대책이 부족하다는 지적도 나오고 있다.

인기 AI 음성 클론 도구 중 유명한 일레븐랩스는 다층적 안전 대책 프로그램을 구축하고 있다고 주장하고 있다. 실제로 일레븐랩스에는 사칭을 금지하는 사용 정책, 자사 시스템에서 생성되었을 가능성이 있는 음성을 식별할 수 있는 공개 AI 음성 분류기, 생성된 콘텐츠를 생성 원본 계정에 연결하는 추적 기능, 선거 기간 중 특정 보호 대상 인물의 클론 음성 생성을 차단하는 금지 음성 보호 기능 등이 포함되어 있다.

이에 대해 업계 최고 수준의 안전 시스템을 탑재한 일레븐랩스 AI 음성 클론 기술조차 보호 기능으로는 부족하다는 지적이다. 일레븐랩스 안전 시스템은 사소한 대책이 아니며 많은 경쟁사가 제공하는 대책보다 뛰어나지만 이런 대책에는 구조적 약점이 있다는 것. 거의 모든 게 사후 대응형이라는 점이다. 사기가 발생하고 피해자가 저축을 잃은 후에 수사관이 발신원을 특정하는 데 도움이 된다. 다시 말해 3초 음성에서 AI 음성 클론을 생성하는 걸 방지하는 효과는 거의 없다. 클론 생성을 방지하기 위해 필요한 것, 즉 클론 생성을 탐지하는 엄격하고 강제적인 메커니즘은 경쟁이 치열하고 변화가 빠른 시장이 스스로에게 부과하기를 꺼리는 것이기 때문이다. 보호 대책으로 인해 기업이 이익을 잃는 경우 시장은 자발적으로 이를 제공하려 하지 않는다.

AI 음성 사기에서 고령자가 표적이 되는 이유는 고령자 평균 저축액이 높아 효율적인 타깃이기 때문이다. 한 번 전화가 성공하면 젊은 층을 표적으로 할 때보다 훨씬 많은 이익을 효율적으로 얻을 수 있기 때문. 목소리는 위조할 수 있다고 100번 설명해도 AI 음성 클론이 자녀나 손주인 척하며 도움을 요청하면 그런 지식은 순식간에 사라져 버린다.

한편 AI 음성 사기를 규제하기 위한 방법 중 하나로 거론되는 건 누가 AI로 음성 클론을 만들었는지를 탐지할 수 있도록 도구 이용자에게 이용 개시 시 신원 증명을 의무화하는 것이라는 지적이다. 관련 내용은 이곳에서 확인할 수 있다.