英, 애플‧구글에 성적 이미지를 OS 레벨에서 검지하는 기능 요구 방침

영국 정부가 아동 보호를 목적으로 스마트폰과 PC상에서 나체 이미지를 자동으로 검지하고 차단하는 소프트웨어 도입을 기술 기업에 강력히 권고하는 방침을 확정했다고 보도됐다. 정부는 애플과 구글 같은 기업에 대해 성적 이미지를 기기 OS 레벨에서 검지하는 알고리즘을 내장할 걸 요구할 예정이라고 한다.

애플은 커뮤니케이션 세이프티(Communication Safety)라는 도구를 제공하며 메시지나 에어드롭 등에서 누드 사진을 검지할 수 있지만 13세 미만은 보호자의 비밀번호가 필요한 반면 13세 이상이면 경고를 무시하고 이미지를 열람할 수 있다.

구글도 패밀리 링크(Family Link)와 메시지 앱에서의 경고 기능을 제공하고 있지만 이런 대책은 왓츠앱이나 텔레그램 같은 서드파티 앱을 포함한 시스템 전체를 커버하는 건 아니다.

이에 대해 영국 여성 및 소녀 대상 폭력 안전 담당 장관인 제스 필립스는 영국 기업 세이프투넷(SafeToNet)이 개발한 함블록(HarmBlock)이라는 소프트웨어로 부적절한 이미지를 자동 차단하는 아동용 기기를 지향해야 할 방향성의 좋은 예라고 평가했다.

보도에 따르면 영국 정부는 애플과 구글에 대해 사용자가 성인임이 확인되지 않는 한 나체를 포함한 이미지가 화면에 표시되는 걸 기본 방지하는 기능을 요구하고 있다고 한다. 성인이 이른바 NSFW 콘텐츠를 생성하거나 열람하려면 생체 인증이나 공적 신분증 등을 이용해 연령 확인을 해야 한다. 또 성범죄 전력이 있는 인물에 대해서는 이런 차단 기능을 항상 활성화해 두는 것이 의무화될 방침이다.

이 기술은 당초 모바일 기기 도입에 초점이 맞춰져 있지만 당국은 데스크톱 PC에도 적용 가능하다고 보고 있으며 이미 부적절한 콘텐츠를 스캔할 수 있는 기능이 마이크로소프트 팀즈 등에 탑재되어 있다고 지적했다고 한다.

호주에서는 16세 미만 소셜 미디어 이용을 전면 금지하는 조치가 취해졌지만 영국에서는 어디까지나 유해 콘텐츠 열람 방지에 중점을 두고 있다. 이번 제안은 불법 또는 유해 콘텐츠 삭제 프로세스를 기업에 의무화하는 온라인 안전법과 병행해 기능하도록 설계됐다.

하지만 영국에 도입된 포르노 사이트 연령 확인 시스템이 이미 가짜 사진이나 VPN 사용으로 쉽게 우회됐다는 보도도 있어 가령 영국 정부가 요구하는 콘텐츠 차단 기능이 구현된다 해도 기술적 실효성에 대해서는 의문이 남는다고 지적했다.

또 사용자 기기 내부를 검열한다는 구조에 대해 프라이버시와 시민적 자유 침해에 대한 우려가 강하게 제기되고 있다.

보도에선 안전과 맞바꿔 프라이버시를 포기하게 만드는 전형적인 사례나 감시와 통제를 위한 인프라 구축이라고 비판하는 댓글이 많이 올라왔다. 그중에는 이건 아동 보호를 구실로 생체 인증에 의한 ID 관리와 콘텐츠 감시를 상시화하는 1984와 같은 관리 사회로 가는 길이라고 경계하는 목소리도 있었다. 관련 내용은 이곳에서 확인할 수 있다.