수학자 16인, AI 잠재적 위협 경고 선언 발표했다

수학 연구에서의 AI 활용이 증명의 신뢰성, 저작권 및 기여 귀속, 연구 자율성 등에 영향을 미친다는 이유로 15개 대학 연구자 16인으로 구성된 이들이 지난 6월 2일 인공지능과 수학에 관한 라이덴 선언(Leiden Declaration on Artificial Intelligence and Mathematics)을 발표했다. 이 선언은 AI를 수학에서 배제하는 게 아니라 수학 핵심 가치를 지키면서 AI를 활용하기 위한 투명성, 동료 심사, 인간 책임, 산업계와의 관계에 관한 규범 마련을 촉구하는 내용.

라이덴 선언은 수학적 증명이 인간이 아닌 작동 방식을 완전히 이해할 수 없는 알고리즘에 의해 만들어지게 될 경우 오류에 대한 책임과 올바른 결과에 대한 평가를 누가 져야 하는지의 문제를 제기한다. 또 AI가 만들어낸 증명이 진정한 새로운 성과인지, 아니면 기존 연구를 적절한 인용 없이 재조합한 것인지를 어떻게 구별할 것인지도 이미 가상의 문제가 아니라고 밝혔다.

이 선언은 네덜란드 라이덴대학교 로렌츠센터에서 2025년 9월 열린 수학 연구 기계화(Mechanization and Mathematical Research) 워크숍을 계기로 탄생했다. 회의에는 10개국에서 수학자 60명, 컴퓨터 과학자, 인문사회과학 연구자, 정책 관계자가 참가했으며 이후 아인트호벤 공대 짐 포르테히스(Jim Portegies)가 소집한 16인이 선언문을 정리했다.

선언은 수학이 단순히 결과의 집적이 아니라 이해, 명료함, 판단력을 기르는 인간 활동이라는 입장을 바탕으로 수학 연구 가치로 증명을 통한 높은 확실성, 결과에 대한 저자의 책임, 제3자에 의한 검증 가능성, 연구의 깊이와 중요성을 평가하는 공동체 기준, 연구 과제를 자율적으로 형성하는 힘을 제시했다.

또 선언은 AI가 5가지 위협을 야기한다고 지적했다. 첫 번째 위협은 그럴듯하지만 틀린 증명과 논증 증가. 현재의 자동화 기술이 올바른 수학적 증명과 구별하기 어려운 부정확한 논증을 생성할 수 있다고 밝히며 동료 심사 제도가 정확성, 투명성, 독립적 검증 가능성을 담보하지 못하게 될 우려가 있다고 경고했다.

두 번째 위협은 기여 귀속과 저작권 문제다. AI 모델은 공개된 수학 논문과 라이브러리를 광범위하게 활용해 학습하면서도 출력 시 인간의 연구 성과를 적절히 인용하지 않는 경우가 있으며 이게 수학에서의 전통적인 평가와 책임 체계를 훼손한다고 지적했다.

세 번째 위협은 AI 기술 의존과 불평등. 최신 독점 AI 및 고가의 계산 자원에 접근할 수 있는 연구자가 유리해지면 채용·자금 배분·평가 체계가 AI 활용 자체에 쏠리게 되어 그런 기술을 이용할 수 없거나 이용하고 싶지 않은 연구자가 불이익을 받을 가능성이 있다.

4번째 위협은 동료 심사를 거친 논문이 아닌 보도자료나 블로그 기사를 통한 AI 수학 성과의 과대 홍보. 이런 발표가 AI의 능력을 과대평가하게 만들고 인간 선행 연구와 기여를 과소평가하게 할 뿐 아니라 특정 수학 과제를 상용 AI 제품의 일반 추론 능력 지표로 활용하는 결과로 이어진다고 밝혔다.

5번째 위협은 수학 연구 자율성 상실이다. 기술 기업 관여가 강화되면서 수학적으로 깊은 의미를 지닌 문제가 아니라 자동화하기 쉬운 문제나 기업 제품을 부각시키는 문제가 우선시될 우려가 있다고 선언은 밝혔다.

이런 문제에 대한 대응으로 선언은 논문 내에서 대규모 언어 모델, 기계학습 시스템, 증명 지원 시스템, 수학 소프트웨어 등 활용을 명시하는 도구 및 계산 자원 공개 항목을 설치할 걸 수학자에게 권고했다. 또 AI를 활용한 경우에도 증명 정확성, 논증의 타당성, 선행 연구 인용의 완전성에 대해서는 인간 저자만이 책임을 져야 한다고 밝혔다.

선언은 아울러 AI를 저자로 취급해서는 안 되며 신뢰와 책임은 수학 공동체에 속하는 인간에게 남아 있어야 한다고 했다. AI가 적절한 귀속을 수행할 수 없는 한계가 있는 이상 새로운 결과의 근거가 된 출처를 적극적으로 찾아 제시하고 충분한 귀속이 불가능한 경우에는 그 사실을 명기해야 한다는 입장을 밝혔다.

연구 기관, 학회, 비영리 연구 지원 기관에 대해서는 AI를 활용한 논문 투고 및 동료 심사에 관한 방침, 저자성, 투명성, 지식재산권, 행동 규범을 정비하는 게 요구된다. AI로 얻은 결과에 대해서는 인간이 핵심 논증을 설명할 수 있도록 할 것, 필요에 따라 형식 검증을 요구할 것, 이론적 결과와 계산 결과를 상호 확인할 것 등도 제안됐다.

선언은 수학적 성과가 계속해서 동료 심사가 이뤄지는 학술지, 회의록, 서적 등을 통해 발표되어야 하며 보도자료와 블로그 기사는 보조적 역할에 그쳐야 한다고 강조했다. 또 산업계로부터 독립된 대학, 국가, 국제 차원의 연구소와 개별 연구자가 활용하기 쉬운 저자원 기술 지원을 촉구했다.

정부와 정책 결정자에 대해서는 저자 권리를 보호하는 법적 보호를 강화하고 AI 기업의 과도한 홍보를 무비판적으로 수용하지 말며 수학자를 포함한 전문가 의견을 정책 판단에 반영하는 게 요구됐다. 선언은 또 AI 산업 규제와 공공 계산 인프라에 대한 투자를 촉구하며 수학 연구가 일부 상업 기술에 지나치게 의존하는 상황을 피해야 한다고 밝혔다.

라이덴 선언은 국제수학연맹(IMU)으로부터 공식 지지를 받았다. 울리케 틸만(Ulrike Tillmann) 국제수학연맹 부회장은 AI가 새롭고 자극적인 기회를 여는 한편 간과할 수 없는 문제를 낳고 있으며 수학 연구의 미래는 인간의 판단, 공정하고 투명한 관행, 국제 수학 공동체의 공유 가치에 의해 이끌어져야 한다고 말했다. 관련 내용은 이곳에서 확인할 수 있다.