유엔 사무총장 “AI 디지털 격차…수십 억명에 제공할 필요”

제네바에서 개최된 제1회 AI 거버넌스에 관한 글로벌 대화(Global Dialogue on AI Governance)에서 안토니우 구테흐스(António Guterres) 유엔 사무총장이 AI에 관한 연설을 했다.

구테흐스 사무총장은 주로 개발도상국에서 AI를 자유롭게 사용하지 못하는 이들이 존재한다는 디지털 격차를 축소할 필요성과 함께 안전성을 충분히 검증하고 법적 책임을 명확히 할 것, 아동 안전과 복지를 우선시할 것에 대해 언급했다.

디지털 격차 축소 방안으로 구테흐스 사무총장은 개발도상국이 자기학습형 AI 기술에 확실히 접근할 수 있도록 해야 한다고 강조했다. 격차를 줄이기 위해 20개국 이상이 유엔 지원에 의한 AI 역량 구축을 위한 글로벌 네트워크 구상을 지지했다고 발표했다. 구테흐스 사무총장은 나아가 AI 인프라에 대한 민간 투자가 500조 달러에 달한다고 전제한 뒤 이에 비하면 개발도상국 AI 역량 구축에 대한 공적 지원은 오차 범위에 불과하다고 지적하며 공적 지원 확대를 호소했다.

구테흐스 사무총장은 AI가 적절히 활용되고 널리 공유된다면 수십 년 분 개발을 수년으로 압축해 위대한 21세기 평등화 동력이 될 수 있다며 디지털 격차가 AI 격차로 변하고 그 AI 격차가 개발 격차, 안보 격차, 나아가 주권 격차로 발전하는 걸 허용해서는 안 된다고 덧붙였다.

AI 안전성 검증에 대해 구테흐스 사무총장은 AI 기술 안전성을 충분히 검증하고 법적 책임을 명확히 해야 한다며 각국이 시스템 시험 방법, 리스크 측정 방법, 책임 소재에 대해 보조를 맞추면 안전성은 기술과 함께 확산되지만 그렇게 하지 못하면 호환 불가능한 규칙이 난립해 비용을 끌어올리고 세계를 분단시키며 누구도 보호할 수 없게 된다고 말했다. 또 책임을 지는 건 인간이어야 한다는 보편적 원칙을 재확인했다.

아동 안전과 복지에 대해 구테흐스 사무총장은 향후 AI 거버넌스 합의 최우선 사항으로 삼아야 한다며 각국에 AI 아동안전서약 채택을 호소했다.

유엔이 제창하는 아동안전서약에 따르면 AI 개발자는 다음과 같은 규칙을 준수해야 한다. 아동이 이용 가능한 AI 시스템은 아동 대상 안전성 시험과 독립적 감독을 거치지 않는 한 어떤 기업도 제공해서는 안 된다. 다음으로 어떤 기업도 자사 AI가 아동의 성적 이미지를 생성하는 걸 허용해서는 안 되며 모든 기업은 그런 이미지를 탐지·신고·삭제해야 한다, 아동이 고통의 징후를 보일 경우 시스템은 중단되고 실제 사람에 의한 지원으로 연결되어야 한다는 것이다.

구테흐스 사무총장은 또 모든 주요 AI 기업에 대해 자사 시스템 탄소 배출량, 수자원 사용량, 토지 이용을 포함한 환경 부하를 측정·공표하는 동시에 2030년까지 모든 데이터센터를 재생에너지로 가동할 걸 거듭 촉구했다. 관련 내용은 이곳에서 확인할 수 있다.