오픈AI 나비에·스토크스 난제 해결 주장에 성과 도용 의혹

오픈AI(OpenAI)가 2026년 9월 8일 유체역학 난제인 나비에·스토크스 방정식(Navier–Stokes equations)에 관한 문제 해결책을 찾았다고 발표했다. 한편으로는 앤트로픽(Anthropic)과 뉴욕대(New York University) 소속 수학자 성과를 가져다 썼다는 의혹도 불거졌다.

나비에·스토크스 방정식은 유체역학에 쓰이는 방정식으로 기압이나 바람 움직임을 예측하는 기상 예보 시스템 등에 활용된다. 다만 3차원 비압축성 나비에·스토크스 방정식은 매끄러운 초기 조건에서 출발한 해가 늘 매끄러운 상태로 계속 존재하는지 아니면 유한 시간 안에 특이점이 생기는지가 풀리지 않은 상태다. 상금 100만 달러(14억원대)가 걸린 밀레니엄 문제 가운데 하나이기도 하다.

오픈AI 발표를 보면 GPT-6 아스트라(GPT-6 Astra)보다 훨씬 성능이 높은 내부 모델을 쓴 멀티 AI 에이전트 시스템으로 나비에·스토크스 문제 해결로 이어지는 증명을 얻었다. 린(Lean)을 이용한 형식화도 이미 마쳤다.

증명 과정에서 AI 에이전트는 메시지 270만건을 보냈고 토큰 1,300억개를 출력했다. 오픈AI 연구자 노엄 브라운(Noam Brown)은 증명에 들인 비용이 수백만 달러에 이르렀다고 인정하면서도 비용은 빠르게 떨어진다고 밝혔다. 오픈AI o3를 발표하던 당시에는 ARC-AGI-1에서 87.5% 점수를 내는 데 50만 달러를 썼지만 지금은 20달러로 그보다 높은 점수를 낼 수 있다는 것이다. 2025년 국제수학올림피아드에서 금메달을 딸 때도 막대한 컴퓨팅 자원을 썼지만 2026년 국제수학올림피아드에서는 월 20달러 구독자라면 누구나 금메달을 딸 수 있을 것이라고 내다봤다. 테스트 시점 컴퓨팅 자원을 크게 끌어올려 미래 한 자락을 엿봤으며 1년 뒤에는 나비에·스토크스 방정식과 맞먹는 문제를 푸는 AI에 누구나 접근할 수 있게 되리라 믿는다는 게 그의 설명이다.

◇ 앞서 근접했던 수학자들=오픈AI는 AI 에이전트 시스템으로 나비에·스토크스 방정식 문제를 풀었다고 주장한다. 그런데 오픈AI가 발표에 앞서 앤트로픽 소속 레벤트 알포게(Levent Alpöge)와 뉴욕대 소속 트리스탄 벅마스터(Tristan Buckmaster)가 나비에·스토크스 방정식 해결에 근접했다는 정보를 확보하고 있었다는 사실이 드러났다.

벅마스터가 공개한 성명을 보면 두 사람은 클로드(Claude)와 코덱스(Codex)를 써서 나비에·스토크스 방정식을 비롯한 난제 여러 건을 푸는 작업을 해 왔다. 벅마스터는 2026년 9월 3일 앤트로픽이 수학 미해결 문제를 풀었다는 소문이 퍼지고 있고 두 사람 연구 진행 상황이 오픈AI에 알려졌다는 정보를 접한 뒤 오픈AI 수학 연구자에게 연락했다. 그 결과 경쟁을 피하기 위한 논의 자리가 마련됐다. 벅마스터는 이 자리에서 오픈AI가 나비에·스토크스 방정식 관련 프롬프트를 보낸 시점이 두 사람 연구 정보를 얻은 뒤였다는 사실이 확인됐다고 밝혔다. 또 자신이 쓰던 코덱스 세션 정보가 학습에 쓰였는지 물었지만 모델은 사용자 데이터를 참조하지 않는다는 답만 들었을 뿐 학습 여부에 대한 답은 듣지 못했다는 내용도 성명에 담겼다.

오픈AI는 벅마스터 성명에 대해 오픈AI 연구원과 AI 에이전트는 두 사람 연구 성과를 참조하지 않았고 나비에·스토크스 방정식 문제를 풀려고 특정 사용자 데이터에 접근한 적도 없다고 밝혔다. 성과를 가져다 썼다는 의혹은 부인하면서도 가능성은 낮지만 두 사람이 오픈AI 제품을 쓰면서 나온 익명 데이터가 모델 개선에 기여했을 가능성을 완전히 배제할 수는 없다고 덧붙였다.

알포게는 오픈AI가 가능성을 완전히 배제할 수 없다는 점을 인정한 데 경의를 표한다고 말했다. 그러면서 알포게가 논문 저자에서 빠지면 밀레니엄상은 우리 것이라는 대화를 복도에서 들었을 때 운명이 정해진 게 분명해졌다고 말하며 앤트로픽과 오픈AI 협력이 성사되지 않은 데 실망을 나타냈다.

반면 오픈AI 세바스티앵 뷔베크(Sébastien Bubeck)는 알포게와 주고받은 메시지 화면을 공개하면서 알포게에게 논문 저자에서 빠지라고 요구한 적이 없다고 주장했다. 알포게에게 회의 참석을 여러 차례 요청했지만 알포게가 거부했다고도 했다.

◇ 수요 몰린 GPT-6 아스트라=AI 에이전트 능력과 코딩 능력이 높은 오픈AI 최신 모델 GPT-6 아스트라는 2026년 9월 3일 공개돼 플러스(Plus) 이상 유료 요금제에서 쓸 수 있게 됐다. 그런데 인기가 지나치게 높아 챗GPT(ChatGPT) 개발 인력이 구독 신규 등록을 일시 중단해야 할 수도 있다고 말한 사실이 알려졌다.

아스트라는 일반 공개 전부터 성능이 너무 강력해 보안을 다시 살피고 있다는 이야기가 나올 만큼 높은 성능이 엿보였다. 공개 뒤에는 제3자 평가에서 코딩 능력 최상위권 성능을 보이며 실력을 입증했다.

개발 인력인 티보 소티오(Thibault Sottiaux)는 엑스(X)에 아스트라 수요가 전례 없는 수준이며 수요를 감당하려고 가능한 모든 수단을 쓰고 있지만 이런 상황은 처음 본다고 올렸다. 인기가 이어지면 프로(Pro) 구독 신규 등록을 일시적으로 멈춰야 할 수도 있다고 밝혔다. 샘 올트먼(Sam Altman) 오픈AI CEO도 이에 호응해 유감스러운 일이지만 상황이 가라앉을 때까지 고객에게 좋은 서비스를 제공하는 걸 최우선으로 생각하겠다고 덧붙였다.

아스트라는 공개일부터 일부 조직에 먼저 제공되기 시작해 며칠에 걸쳐 플러스와 프로, 비즈니스, 엔터프라이즈 사용자 전체로 확대되는 중이다. 토큰 효율도 높다는 평가가 나오면서 벼르고 나온 최신 AI를 가볍게 써 보려는 사용자가 늘어난 것으로 보인다. 관련 내용은 이곳에서 확인할 수 있다.