수학자 단체 “오픈AI 수학 성과 공개는 권력 과시” 비판

오픈AI가 10월 사내 최첨단 AI 모델로 생성한 수학 성과 722건을 발표했다. 이를 두고 세계 각국 수학자로 구성된 인간을 위한 수학협회(Association for Human Mathematics)가 한 번에 700건 넘는 성과를 공개한 건 학술 성과를 보여 주는 게 아니라 권력 과시에 불과하다고 비판했다.

최근 AI 모델이 여러 연구에 쓰이고 있지만 수학자 가운데는 수학 연구에 AI를 쓰면 증명 신뢰성과 연구 자율성을 해칠 수 있어 잠재적 위협이 될 수 있다고 주장하는 목소리도 있다. AI 개발 기업은 AI 모델 성능을 평가하는 기준으로 수학 문제 풀이를 쓰기도 하는데 AI가 쓴 논문에는 수학자가 일반적으로 덧붙이는 설명이 빠져 있다는 점도 문제로 지적된다.

이런 가운데 오픈AI는 10월 6일 사내 AI 모델로 얻은 수학 성과 722건을 발표했다. 성과는 수학 분야별로 분류됐으며 일부는 수학 증명을 컴퓨터로 검증할 수 있는 프로그래밍 언어인 린(Lean)으로 증명을 형식화했다.

◇ 자문그룹 권고 무시했다는 비판=인간을 위한 수학협회는 오픈AI 발표에 대해 성명을 냈다. 협회는 수학자들이 이런 작업을 바란 적이 없다고 밝혔다. 오픈AI가 정당성 근거로 삼은 수학·인공지능 자문그룹도 첫 권고 성명에서 최첨단 AI 기업이 고난도 수학 문제를 사내 모델로 검증해서는 안 된다고 했다는 게 협회 설명이다. 협회는 오픈AI가 자문그룹을 무시해 수학 연구 신뢰성과 윤리, 과학 연구 규범을 가볍게 여겼다고 비난했다.

협회가 언급한 자문그룹은 프린스턴 고등연구소(Institute for Advanced Study)가 주관하는 수학·인공지능 자문그룹(AGMAI)이다. 오픈AI는 AGMAI와 협의를 거듭했으며 AGMAI가 9월 29일 공개한 AI 생성 수학 정보의 책임 있는 공개라는 제언에 따라 수학 성과를 발표했다고 주장하고 있다.

하지만 AGMAI는 제언 첫머리에서 현재 일부 최첨단 AI 연구 기관이 일반 과학계는 접근할 수 없는 자체 모델로 고난도 수학 문제를 검증하고 있으며 제언은 이런 현실을 감안해 마련했다고 밝혔다. 그러면서 이상적으로는 그런 행위를 피해야 한다고 했다. 이 행위를 용인하는 게 아니며 자체 모델로 고난도 수학 문제를 검증하는 일을 멈춰야 한다는 점을 처음부터 분명히 해 두고 싶다고도 했다. AI 개발 기업에 수학 연구 중단을 요구한 셈이다.

인간을 위한 수학협회는 오픈AI 수학 성과 공개가 이런 AGMAI 제언을 무시한 처사라고 지적한 것이다. 협회는 이번 성명에서 수학자에게는 역사와 분야 고유의 고찰을 바탕으로 한 독자적인 진보관이 있다고 밝혔다. 이번 발표가 수학 발전에 기여한다는 오픈AI 주장을 부정하며 수학자와 일반 대중에게 이 발표 모델의 가치를 적절한 회의심을 갖고 평가해 달라고 강하게 촉구했다. 한 번에 파일 700개 넘게 공개한 건 학술 성과가 아니라 권력 과시에 불과하다고도 했다. 협회는 수학자들에게 오픈AI와 공동 연구를 중단하라고 요청했다.

◇ 사고 과정 공개는 10건뿐=보도에선 오픈AI가 공개한 성과 719건 가운데 AI 모델 사고 과정을 공개한 건 10건에 그쳤다고 지적했다. 3건은 발표 뒤 철회됐다. 테크크런치는 케임브리지대학교(University of Cambridge) 등 수학자들이 10월 발표한 논문에서 린으로 수학 증명을 형식화한 부분에 문제가 있다는 지적이 나왔다고도 전했다.

보도에선 AI 모델이 고난도 수학 문제를 풀 수 있게 되면서 인터넷 보안을 지키는 암호화가 위기에 놓였다고 지적했다. 인디펜던트는 수십 년 동안 인터넷 보안이 민감한 데이터를 암호화해 공공 네트워크로 전송할 때 개인정보를 보호하는 암호 기술에 의존해 왔다고 짚었다. 이 기술은 현재로서는 효율적으로 풀기 매우 어려운 수학 문제에 기대고 있는데 AI가 빠르게 발전하면서 이런 문제를 풀 수 있는 새 알고리즘이 개발될 가능성이 생겼다고 경고했다.

비트코인과 이더리움 같은 가상화폐 핵심인 암호 기술도 AI 모델 성능이 높아지면서 위기에 놓였다. 이더리움 연구자 저스틴 드레이크(Justin Drake)는 오픈AI 발표가 수학 초지능이 현실이 돼 가고 있음을 분명히 보여 줬다고 말했다. 수십 년 치 진보가 몇 주 만에 일어난다는 얘기가 있지만 이제는 몇 세기 치 수학 진보가 몇 주 만에 일어나는 시대를 살게 될 것이라고 덧붙였다.

이론 컴퓨터과학자 스콧 애런슨(Scott Aaronson)은 자신의 블로그에서 수학자인 아내가 오랫동안 매달려 온 수학 문제 하나가 오픈AI 발표 성과에 들어 있었다고 밝혔다. 이 글은 소셜 뉴스 사이트 해커뉴스(Hacker News)에서도 화제가 됐다. 한 이용자는 AI 모델이 수학 미해결 문제 하나를 푸는 데 드는 비용이 810달러 정도로 비용 면에서 매우 저렴하다는 댓글을 남겼다. 관련 내용은 이곳에서 확인할 수 있다.