AI 기본법, 고영향 AI 3가지 판단 기준은?

“고영향 AI 사람이 최종 검토 하면 규제 대상에서 제외”

심지섭 과학기술정보통신부 사무관은 22일 개최된 AI 스타트업 성장 전략 설명회에서 “AI기본법은 스타트업의 혁신을 저해하지 않는 방향으로 운영될 예정”이라며 스타트업이 가진 우려를 불식시켰다.

올해 1월 22일부터 인공지능(AI) 발전과 신뢰 기반 조성 기본법(AI 기본법)이 본격 시행된 가운데 중소벤처기업부와 과학기술정보통신부가 관련 설명회를 개최했다. 이날 설명회에서는 AI 기업들이 주목하고 있는 고영향 AI, 투명성, 안전성 등 3가지 핵심 규제에 대해 구체적인 기준이 제시됐다. 특히 정부는 규제 이행 부담을 고려해 최소 1년 이상의 유예 기간을 운영하고 필요시 추가 연장도 검토하겠다는 방침을 밝혔다.

먼저 모호한 기준으로 스타트업의 우려가 가장 큰 고영향AI 규제에 대한 자세한 설명이 있었다. 심 사무관은 가장 강력한 규제가 적용되는 고영향 AI에 대해 “세 가지 조건이 동시에 충족돼야만 지정된다”고 설명했다. 단순히 채용이나 의료 분야라고 해서 무조건 규제 대상이 되는 것은 아니라는 의미다. 고영향 AI 판단의 3요소는 법률상 지정된 영역(에너지·원자력·채용·대출·교육·수사 등), 기본권 안전에 위협을 초래하는 실질적 위험성 그리고 사람의 개입 부재다.

심 사무관은 “가장 중요한 판단 기준은 사람의 개입 여부라고 강조했다. 그는 “예를 들어 AI가 입사 지원자의 점수를 산출하더라도 최종 합격 여부를 인사 담당자가 검토하고 승인한다면 이는 고영향 AI가 아니다”라고 설명했다. 반면 운전자가 전혀 개입하지 않는 ‘자율주행 레벨 4’ 차량이나, 은행원의 심사 없이 AI가 대출 승인까지 단독 처리하는 시스템 등은 규제 대상에 포함된다. 심 사무관은 “위험을 통제할 수 있는 사람의 절차가 있다면 과도한 규제를 적용하지 않겠다는 것이 법의 취지”라고 덧붙였다.

생성형 AI의 확산에 따른 혼란을 막기 위한 투명성 의무도 구체화됐다. 핵심은 사용자가 내가 지금 AI와 소통하고 있다는 사실을 명확히 알게 하는 것이다. 심 사무관은 “텍스트, 이미지, 오디오 등 생성형 AI가 만든 결과물에는 식별 가능한 워터마크나 표식을 의무적으로 넣어야 한다”고 말했다. 또 챗봇 서비스 등을 제공할 때는 대화 상대가 사람이 아닌 AI임을 사전에 고지해야 한다. 일반 생성물의 경우 가시적, 비가시적 방법 적용이 가능하지만

딥테이크 AI 생성 결과물을 반출할 경우 사람이 직관적으로 판단할 수 있도록 알려야된다. 다만 예술이나 창의적 표현물일 경우 예외가 적용된다.음성은 재생초기에 AI 생성 사실 안내 음성 송출, 이미지는 워터마크, 영상에는 전체 재생 구간에 워터마크 등을 포함해야한다.

마지막으로 안정성에 대한 규제에 대해서는 현존 AI는 대부분 해당되지 않아 사실상 미래를 위한 규제로 볼 수 있다. 심 사무관은 “안전성 규제는 통제 불가능한 수준의 초거대 AI가 초래할 사회적 재난을 막기 위한 최소한의 안전장치”라며 판단 기준으로는 학습에 활용된 누적 연산량을 기반으로 정부가 검토 중인 기준은 10의 26승 FLOPs 이상이다. 그는 “현재 전 세계 빅테크 기업들이 내놓은 최신 모델조차 이 기준에는 미치지 못하는 것으로 파악된다”고 말했다.

한편 정부는 AI 기본법 지원 데스크를 운영해 기업들의 문의 사항과 애로사항을 청취하고 해소해 나갈 계획이다.