AI 제출 서류에…美 법원, 변호사에 벌금 부과

AI에 의해 생성된 실제로 존재하지 않는 판례를 인용한 사실이 드러나면서 미국 캔자스주 연방지방법원이 복수 변호사에게 1만 2,000달러 벌금을 부과한 것으로 밝혀졌다.

이번 명령은 캔자스주 연방지방법원에 계류 중인 특허 분쟁 사건에서 내려졌다. 특허 침해 소송에서 원고를 대리한 샌디프 세스 변호사는 제출한 서류에 존재하지 않는 판례와 허위 정보가 포함된 점에 대해 압박감 때문에 챗GPT를 사용했고 내용을 검증하지 않은 채 사용했다고 증언했다.

이에 대해 연방지방법원 판사는 근거 없는 신청을 억제하기 위한 규정을 위반했다며 세스 변호사에게 5,000달러 벌금을 부과했다. 또 주 징계 당국에 판결문 사본을 제출할 것과 유사 사태를 방지하기 위해 사무소 차원에서 어떤 조치를 취할 것인지 입증할 걸 지시했다.

판사는 서류에 서명한 다른 변호사 역시 내용을 확인하지 않은 책임이 있다고 지적하며 서류에 이름이 기재된 변호사 2명에게 각각 3,000달러 벌금을, 현지 대리인으로 관여한 4번째 변호사에게는 1,000달러 벌금을 부과했다. 벌금 총액은 1만 2,000달러가 됐으며 판사는 이를 직무상 의무를 집단적으로 이행하지 못한 결과라고 표현했다.

판사는 판결문에서 법원에 서류를 제출하는 변호사는 검증되지 않은 생성형 AI를 법률 조사에 사용하는 데 따른 위험성과 정확성을 확인하지 않은 채 법원 제출 서류에 서명하는 행위가 갖는 윤리적 의무를 인식해야 한다며 변호사가 검증되지 않은 생성형 AI 조사에 의존한 결과 이른바 환각을 포함한 법적 근거가 생성되는 사례가 지난 수년간 폭발적으로 증가했으며 그 규모는 비정상적이라고 밝혔다.

세스 변호사는 부끄러운 교훈이었다며 기업은 엄격한 정책을 마련하지 않는 한 어떤 형태로든 AI를 도구로 사용해서는 안 된다고 말했다. 최근에는 변호사가 생성형 AI를 사용해 작성한 서류를 제출했다가 재판 과정에서 문제가 드러나는 사례가 잇따르고 있다. 관련 내용은 이곳에서 확인할 수 있다.