줌, 월드와 협력 AI와 인간 구분하는 서비스 도입

화상회의 플랫폼 줌(zoom)이 신원 인증 기업인 월드(World)와 파트너십을 체결하고 회의 참석자가 AI로 생성된 사칭자가 아닌 실제 인간임을 확인하는 서비스를 도입한다. 이번 협력은 딥페이크를 활용한 사기 위협이 급격히 증가함에 따라 회의의 안전성을 확보하기 위해 추진됐다. 실제로 2024년 초 엔지니어링 기업 에이럽은 홍콩의 한 직원이 최고재무책임자 및 동료들로 위장한 딥페이크 인물들과 화상회의를 진행하던 중 2500만 달러를 송금해 막대한 피해를 입은 바 있다. 2025년에도 싱가포르의 다국적 기업이 유사한 공격을 받았으며 지난해 1분기에만 딥페이크 사기로 인한 금융 손실액이 2억 달러를 넘어선 것으로 추정된다. 보안 업계 보고서에 따르면 기업 대상 사고당 평균 손실액은 현재 50만 달러를 상회하고 있어 비디오를 통해 고액 거래를 진행하는 기업들에게 딥페이크 화상회의는 심각한 위험 요소로 부상했다. 월드 측은 기존의 딥페이크 감지 기술이 AI 조작 흔적을 찾기 위해 비디오 프레임을 분석하는 수준에 머물러 한계가 있다고 지적했다. 비디오 생성 모델의 성능이 정교해짐에 따라 기존 방식의 신뢰도가 떨어지고 있다는 설명이다. 이를 해결하기 위해 도입되는 월드 아이디 딥 페이스 기술은 세 가지 단계를 거쳐 사용자를 검증한다. 사용자가 월드의 오브 기기를 통해 등록할 때 촬영한 서명된 이미지와 사용자 기기를 통한 실시간 얼굴 스캔 그리고 다른 회의 참가자들에게 보이는 라이브 비디오 프레임을 교차 참조하는 방식이다. 세 가지 요소가 모두 일치할 경우에만 해당 참가자의 이름 옆에 인증된 인간 배치가 표시된다. 줌 회의 주최자는 딥 페이스 대기실 기능을 활성화해 모든 참가자에게 신원 인증을 요구할 수 있으며 회의 도중에 특정 참가자에게 즉석 인증을 요청하는 것도 가능하다. 줌 대변인 트래비스 아이사만은 이번 통합이 고객이 자신의 사용 사례에 가장 중요한 가치를 바탕으로 업무 흐름에 신뢰를 쌓을 수 있는 개방형 생태계 접근 방식의 일환이라고 밝혔다. 한편 샘 올트먼의 월드는 줌 외에도 틴더 및 비자 등 다양한 소비자 플랫폼과 파트너십을 구축하며 인간 인증 영역을 확장하고 있다. 지난달에는 구매 시점에 자동화된 AI 프로그램이 아닌 실제 인간이 쇼핑 에이전트를 운영하고 있는지 확인하는 기술을 출시하기도 했다.