AI로 없던 판례 생성한 변호사에 벌금

한 재판에서 AI가 생성한 판례를 인용한 변호사에 대해 5,500달러 벌금 지불이 명령됐다. 담당 판사는 변호사에게 반성을 촉구한 뒤 교육적 지도를 받아야 한다고 지시했다.

2024년부터 고객 파산 절차를 담당해온 세믈라드 법률사무소 소속 토머스 닐 변호사는 채권자인 코로나 인베스터즈에 대한 변제 계획을 작성했지만 코로나 인베스터즈가 이를 승낙하지 않고 변제 계획 실현 가능성에 이의를 제기했다. 이에 대해 닐 변호사는 코로나 인베스터즈에는 변제 계획에 이의를 제기할 자격이 없다고 반박하며 그 주장을 뒷받침하는 증거로 판례 4건을 인용했다.

그런데 본 건을 담당한 판사가 판례를 정밀 검토한 결과 4건 모두에 문제가 있다는 게 밝혀졌다. 각각의 문제점을 보면 몬토야 사건의 경우 변호사가 인용한 문언이 실제 법원 기록에 일체 기재되어 있지 않을 뿐만 아니라 해당 기록에서는 자격 문제에 대해 전혀 언급하지 않았다. 이어 콜먼 사건은 관할 주가 다른 데다 역시 인용한 문언 기록이 없고 자격에 대해서는 언급하지 않았다. 다음으로 러셀 사건은 관할 주가 다르고 인용한 문언 기록이 없다. 마지막으로 재거 사건은 존재하지 않는다.

4건 모두 무관한 판례였다는 것에 의문을 품은 판사가 닐 변호사에게 이유를 물었더니 닐 변호사는 챗GPT를 사용했다고 인정했다. 닐 변호사는 이들 판례 인용 부분에 대해서는 아마도 어느 정도 AI를 통했지만 인용이 틀렸다고는 생각하지 않았다면서 AI에 대해 동일한 사용법을 한 적은 지금까지 없었으며 AI가 제공한 데이터를 정밀 검토하지 않은 것은 AI가 판례를 조작하는 일은 없을 것이라고 생각했기 때문이라고 말했다.

판사로부터 지적을 받은 닐 변호사는 AI를 법률 연구에 이용할 때는 AI 결과물을 모두 확인한다고 약속하며 일리노이주 변호사등록·징계위원회에 자신을 신고했다고 밝혔다. 세믈라드 법률사무소도 인간 손에 의한 검증 없이 AI를 법률 연구나 인용문 생성에 이용하는 걸 엄격히 금지한다고 밝혔다.

닐 변호사와 세믈라드 법률사무소는 자주적으로 부적절한 행위를 인정하고 재발 방지를 약속하며 본 건에서의 손해배상 청구를 철회하고 법률학습프로그램(CLE)을 수강했다며 제재를 내리지 말 걸 요구했지만 판사는 노력은 평가하지만 그에 상응하는 대가는 필요하다며 닐 변호사 등에게 5,500달러 제재금을 지불하도록 명령했다.

제재를 과하는 이유로 판사는 고객 전원에게 충분한 자원을 할애할 수 없었다면 다른 법률사무소에 일부를 위임했어야 하며 생성 AI에 의존해서는 안 됐다며 닐 변호사는 AI 위험성에 대해 몰랐다고 주장하고 있지만 최근 AI 위험성을 모르는 변호사는 현실을 모른다고 할 수 있다면서 이 문제는 최소한 2023년부터 법조계에서 뜨거운 화제가 되고 있기 때문이라는 2가지 점을 들었다.

판사는 이번에는 절제된 제재라고 생각한다며 다음에 같은 일을 한 변호사는 더 중대한 처벌을 받을 가능성이 있다고 경고한다고 지적했다. 다행히 전국파산판사회의가 곧 총회를 개최하는 데다 더 다행히 총회에서는 인공지능의 가능성과 위험성이라는 슬로건으로 전체 회의가 열린다면서 닐 변호사와 세믈라드 법률사무소의 시니어 변호사는 해당 회의에 직접 참석하도록 명한다고 덧붙였다. 관련 내용은 이곳에서 확인할 수 있다.