EU “AI 생성 콘텐츠에 라벨 표시 의무화”

8월 2일부터 EU 인공지능법(AI법)에 따른 AI 생성 콘텐츠 표시에 관한 규정 적용이 시작됐다. AI가 생성한 이미지나 음성, 동영상, 텍스트에 대해 인공적으로 생성된 것이라는 걸 식별할 수 있는 표시가 의무화된다.

AI법은 2024년 5월 성립된 법률로 같은 해 8월 시행 당초에는 일부만 적용됐다. 올해 8월 2일부터는 AI 생성 콘텐츠에 관한 라벨 표시가 의무화된다. 이 변경으로 인해 생성형 AI 시스템을 개발·구축하고 있는 기업에는 AI가 출력한 콘텐츠임을 알 수 있도록 기계 판독 가능 형식으로 마킹할 의무가 부과된다.

또 딥페이크에 해당하는 이미지·음성·동영상이나 공익에 관한 정보를 전달할 목적으로 공개하는 AI 생성 텍스트에 대해서는 이를 열람하는 이들에게 AI 생성물이라는 걸 공개해야 한다.

생성물 이외의 경우 챗봇이나 AI 에이전트, 아바타는 첫 상호작용을 시작하는 시점 AI임을 이용자에게 알리도록 설계되어야 한다고 규정되어 있다.

의무 대상은 시스템을 개발·제공하는 프로바이더와 자사 제품·서비스·출판물에서 AI를 이용하는 도입 기업 양쪽 모두다. 지리적 요인에 따른 면책은 없으며 어디에 거점을 두고 있든 AI 생성물이 EU 역내에서 사용되는 경우에는 AI법 적용 대상이 된다.

위반한 경우 최고 1,500만 유로 또는 전 세계 연간 매출액 3%에 해당하는 벌금이 부과된다. 중소기업에 대해서는 감면 조치가 적용된다고 한다.

유럽위원회에 따르면 AI 제작물임을 표시하고 라벨링해야 하는 의무를 준수하기 위해 앤트로픽, 구글, 메타, 마이크로소프트, 미스트랄, 오픈AI, 코히어, 알레프 알파(Aleph Alpha), 블랙 포레스트 랩스(Black Forest Labs), 신세시아(Synthesia)를 포함한 서비스 제공자 83개사와 게티이미지, 레노버, 루프트한자, 전력 회사인 이베르드롤라(Iberdrola), 불가리(Bulgari) 등 도입 사업자가 자율적인 행동 규범에 서명했다고 한다. 관련 내용은 이곳에서 확인할 수 있다.