캐나다 정부, 16세 미만 소셜 미디어 이용 금지 법안 제출

6월 10일 캐나다 마크 밀러(Mark Miller) 정체성·문화부 장관이 안전한 소셜미디어 법안(Bill C-34)을 제출했다. 안전한 소셜미디어 법안은 소셜미디어와 AI 챗봇으로 인한 피해가 발생하기 전에 리스크에 대처할 책임을 의무화하는 것.

밀러 장관이 제출한 안전한 소셜미디어 법안은 소셜미디어 및 AI 챗봇에 새로운 안전 요건 도입을 의무화하고 온라인 서비스 책임과 투명성을 높이는 것을 목적으로 하는 법안이다.

안전한 소셜미디어 법안에는 16세 미만 아동이 소셜미디어 서비스 계정을 갖는 걸 금지하는 제한이 포함되지만 소셜미디어 측이 아동을 위한 충분한 안전 대책을 마련했다는 걸 입증할 경우 예외를 신청할 수도 있다.

안전한 소셜미디어 법안은 제품과 기능 설계에서 아동 안전을 최우선으로 하고 특정 콘텐츠나 위험성이 높은 상호작용에 아동이 노출될 기회를 줄이기 위한 조치를 포함하도록 의무화한다. 규제 대상 서비스는 플랫폼상의 리스크를 식별·완화·대응할 것도 요구받는다.

안전한 소셜미디어 법안은 3가지 의무를 통해 작동한다. 첫째는 아동 보호 의무로 안전한 소셜미디어 법안의 규제를 받는 모든 서비스에 적용되는 의무다. 라이브스트리밍이나 사용자 업로드 성인용 콘텐츠 서비스를 포함한 소셜미디어에는 다음 2가지 추가 의무가 부과된다. 먼저 책임 있는 행동 의무다. 서비스 제공자는 7개 카테고리의 유해 콘텐츠 노출에 따른 리스크를 평가·완화하고 인공적으로 생성·변조된 콘텐츠에 라벨을 붙이며 이용자가 유해 콘텐츠를 신고하거나 다른 이용자를 차단할 수 있는 명확하고 접근하기 쉬운 방법을 제공해야 한다.

다음은 특정 콘텐츠 접근 차단 의무다. 아동을 성적 피해에 노출시키는 콘텐츠, 피해자를 재차 피해에 노출시키는 콘텐츠, 딥페이크에 의한 성적 이미지 등 동의 없이 유포되는 사적인 콘텐츠를 신속히 삭제하도록 요구한다.

AI 챗봇도 책임 있는 행동 의무 대상이 된다. AI 챗봇에는 요구되는 사항을 보면 AI 챗봇이 유해 콘텐츠를 전달할 리스크를 완화할 것, 이용자가 자신이나 타인에게 위해를 가하려 할 경우 등 위기 상황에서의 신고 기준에 대해 투명성을 확보할 것, AI 챗봇이 유해한 행동을 취할 리스크를 완화할 것 등이다.

그 밖에도 안전한 소셜미디어 법안에는 규제 집행, 법령 준수 확보, 아동에게 더 안전한 온라인 서비스 실현, 온라인상 피해를 입은 사람들을 지원하기 위한 독립적인 디지털 안전 위원회 설립 등도 담겨 있다.

마크 카니(Mark Carney) 캐나다 총리는 안전한 소셜미디어법은 소셜미디어와 AI 플랫폼에 책임을 부과해 더 안전하게 만들고 16세 미만 아동의 소셜미디어 접근을 제한하는 것이라며 점점 더 많은 아동이 불안, 우울, 자해, 착취로 고통받고 있으며 아이를 안전하게 지키기 위해 법률이 기술 발전을 따라잡도록 해야 한다고 언급했다.

이에 대해 한 전문가는 정부가 모든 것을 끌어모으는 방식을 취하고 있으며 모든 내용을 안전한 소셜미디어 법안에 욱여넣고 많은 중요한 세부사항을 향후 규정에 위임하고 있는데 그중 다수는 아직 존재하지도 않는 위원회가 결정하게 된다며 이는 수년이 걸릴 것이라고 비판했다. 이어 법안에 따르면 시행에는 내각 명령이 필요하며 대상 서비스 기준을 정하는 규칙이 마련될 때까지는 어떤 서비스도 규제 대상이 되지 않는다며 게다가 의무는 이후 내각이 지정한 서비스에만 적용된다고 언급했다. 관련 내용은 이곳에서 확인할 수 있다.