캘리포니아, 어린이용 AI 인형 판매 4년 금지 법안 발의

캘리포니아주 스티브 파디야(Steve Padilla) 상원 의원이 18세 미만 어린이를 대상으로 한 AI 챗봇 탑재 장난감의 제조 및 판매를 4년간 금지하는 법안(SB 867)을 발의했다. 이번 법안은 AI 기술이 안전 규정보다 빠르게 발전하고 있다는 판단에 따라 규제 당국이 적절한 가이드라인을 마련할 시간을 확보하기 위한 일시 중단(Moratorium) 조치이다.

최근 트럼프 대통령이 주 정부의 AI 규제를 제한하는 행정 명령에 서명했으나 어린이 안전 관련 법안은 예외로 분류되어 있어 본 법안의 추진력이 확보된 상태다. 최근 AI 챗봇이 탑재된 인형들이 어린이에게 부적절하거나 위험한 답변을 내놓은 사례가 보도되면서 규제 필요성이 커졌다.

중국 포로토이(FoloToy) 사의 곰 인형 쿠마가 테스트 결과 칼, 성냥 사용법 등 위험한 가이드와 성적인 대화를 시도한 것이 발견되어 판매 중단 및 리콜된 바 있으며 중국 미리아트(Miriat) 사의 AI 인형 마일로는 어린이에게 중국 공산당(CCP)의 가치관을 반영하도록 프로그래밍된 답변을 제공한다는 사실이 확인됐다. 또 챗봇과 장기간 대화를 나누던 청소년이 자살을 선택한 사건들이 발생하며 챗봇 운영사에 대한 유가족들의 소송이 이어지고 있다.

캘리포니아는 이미 2026년부터 시행될 챗봇 보호법(SB 243)을 통과시킨 바 있으며 이번 장난감 금지 법안은 그보다 더 강력한 물리적 차단 조치가 될 전망이다.