2026년 8월, 인공지능이 260년 넘게 풀리지 않던 유체역학의 고전 난제인 오일러 방정식 특이점 문제를 해결하는 데 결정적인 보조 역할을 했다. 뉴욕대학교와 앤트로픽 연구진은 AI 모델을 활용해 3차원 비압축성 오일러 방정식의 해가 유한 시간 안에 폭발한다는 것을 증명하고, 이를 기계 검증 언어로 정형화했다. 그런데 발표 직후 오픈AI의 발표가 이어지며 우선권 논쟁이 불거졌고, 필즈상 수상자들이 공동성명을 내는 등 AI와 수학계가 어떻게 함께 갈지를 두고 논의가 이어지고 있다.

AI, 269년 오일러 방정식에 새 길 열다

AI가 복잡한 수리 모델링과 난제 풀이의 보조 도구로 떠오르면서 유체역학의 오랜 숙제에도 돌파구가 생겼다. 뉴욕대학교 쿠랑수리과학연구소의 트리스탄 버크마스터 교수와 앤트로픽 소속 레벤트 알푀게 연구진은 AI 시스템을 보조 수단으로 써서 오일러 방정식 해의 유한 시간 폭발 증명을 마쳤다. AI가 계산 장치에 그치지 않고 최전선 수학 연구의 조력자가 될 수 있음을 보여준 사례다.

오일러 방정식은 1757년 레온하르트 오일러가 세운 비점성 유체 방정식으로, 미국 클레이수학연구소가 지정한 7대 밀레니엄 난제 중 하나인 나비에-스토크스 방정식과 매우 가깝다. 점성이 없는 이상적인 유체의 흐름을 다루는 이 방정식은 오랫동안 수학자들을 가로막아 왔는데, 최신 AI 모델이 끼어들면서 전환점을 맞았다.

성과가 나온 직후 오픈AI도 관련 해법을 발표하면서 연구 우선권 다툼이 번지기 시작했다. 여기에 허준이 교수를 비롯한 주요 수학자와 필즈상 수상자들이 AI 기업들의 일방적인 연구 방식과 목표 불일치에 깊은 우려를 나타내면서, AI 기반 수학 연구의 윤리와 절차를 둘러싼 논쟁이 뜨거워지고 있다.

AI 보조 증명, 오일러 방정식 특이점 해결

뉴욕대학교 트리스탄 버크마스터 교수와 앤트로픽 레벤트 알푀게 연구진은 앤트로픽 Claude와 오픈AI Codex 등을 보조 도구로 써서 3차원 비압축성 오일러 방정식의 특이점 문제를 다뤘다. 연구진은 매끄러운 강제항이 있는 환경에서 해가 유한 시간 안에 폭발하는 현상을 이론적으로 증명했다.

작업은 빠듯한 일정으로 진행됐다. 연구진은 2026년 8월 15일 오일러 방정식 폭발 증명의 구성을 먼저 마쳤다. 일주일 뒤인 8월 22일에는 기계 증명 검증 언어 린(Lean)으로 증명 전체를 정형화하는 작업까지 끝냈다.

검증을 끝낸 연구진은 2026년 9월 7일 정형화된 Lean 코드와 함께 프리프린트 논문 3편을 동시에 공개했다. AI가 낸 수리적 아이디어와 인간 수학자의 논리적 정밀함이 합쳐져 수백 년 묵은 난제를 무너뜨린 셈이다.

뉴욕대와 앤트로픽 연구진이 AI를 활용해 3차원 비압축성 오일러 방정식의 유한 시간 내 해의 폭발 증명을 성공적으로 마쳤다.

오일러 방정식, 밀레니엄 난제와 연결되다

1757년에 나온 비압축성 오일러 방정식은 유체의 점성을 0으로 가정한 비점성 유체 방정식이다. 이 방정식의 해가 매끄러운지, 폭발하는지를 밝히는 문제는 유체역학 전반의 물리 모델링 수준을 끌어올릴 열쇠로 꼽혀 왔다.

비압축성 오일러 방정식은 미국 클레이수학연구소가 2000년에 지정한 7대 밀레니엄 난제 중 하나인 나비에-스토크스 방정식과 수학적으로 직접 이어진다. 클레이수학연구소는 난제마다 100만 달러의 상금을 걸고 전 세계 수학자들의 도전을 독려해 왔다.

2000년 선정 이후 26년이 지나는 동안 공식적으로 풀린 문제는 러시아 수학자 그리고리 페렐만이 증명한 푸앵카레 추측 하나뿐이다. 그래서 오일러 방정식 특이점 증명은 남은 밀레니엄 난제에도 시사하는 바가 크다.

1757년 오일러가 세운 방정식은 클레이수학연구소가 지정한 나비에-스토크스 방정식 난제와 밀접한 연관이 있으며, 이는 26년간 단 한 문제만 해결된 밀레니엄 난제 중 하나다.

AI 기업 간 연구 우선권 논란 발생

버크마스터 연구진의 논문이 공개된 직후인 2026년 9월 8일, 오픈AI가 나비에-스토크스 방정식의 해법을 찾았다는 자체 연구 결과를 발표하면서 학계가 크게 술렁였다. 오픈AI는 약 100개의 AI 에이전트로 50시간가량 사전 연구를 했다고 밝혔지만, 다른 연구진의 성과를 미리 알고 있었는지와 연구 우선권을 두고 날 선 논쟁이 붙었다.

기업 중심의 일방적인 발표에 수학계 원로들이 곧바로 반응했다. 2026년 9월 11일, 한국인 최초 필즈상 수상자인 허준이 프린스턴대 교수와 테렌스 타오 UCLA 교수를 포함한 필즈상 수상자 25명이 공동성명을 내고 AI 기업들의 행태를 강하게 비판했다.

이들은 AI 기업들이 수학 난제 연구에서 학술적 검증과 투명한 소통보다 상업적 홍보와 우선권 선점에 치중하고 있다며 목표 불일치 문제를 지적했다. 학문적 윤리와 기여를 어떻게 인정할지에 대한 근본적인 질문이 던져진 셈이다.

오일러 방정식 증명 직후 오픈AI의 나비에-스토크스 발표가 이어지며 연구 우선권 논쟁이 불거졌고, 필즈상 수상자들은 AI 기업의 연구 방식에 우려를 표했다.

AI 시대, 수학 연구의 새로운 지형

이번 오일러 방정식 증명은 AI가 복잡한 수리 모델링과 증명 과정에서 인간의 한계를 메우는 보조 도구가 될 수 있음을 보여줬다. 엄밀한 논리 검증 언어인 Lean과 결합하면 거대한 수학 증명을 검증 가능한 데이터로 바꿀 수 있다는 가능성도 확인됐다.

이번 일로 AI 기반 연구에서 데이터를 어디까지 공개하고 어떻게 투명성을 확보할지가 중요한 문제로 떠올랐다. 연구 기여도를 공정하게 평가할 표준이 없으면, 기업과 학계가 들이는 자원의 차이 때문에 갈등이 되풀이될 수밖에 없다.

AI가 수많은 시도 끝에 특이점의 존재를 정형화해 내더라도, 그 해법의 독창성과 구조적 아름다움을 해석하고 의미를 붙이는 일은 여전히 인간 수학자의 몫이다. 개발자와 수학자는 결과물을 놓고 다투기보다 탐구 과정 전체에서 협력하는 구조를 다져야 한다.

인공지능과 수학, 공존의 길 모색

오일러 방정식을 둘러싼 이번 연구와 논쟁은 AI가 기초과학에서 지적 지평을 크게 넓힐 수 있다는 점을 확인시켰다. 인간의 직관만으로는 닿기 어려웠던 수리적 사각지대를 밝히는 데 AI는 좋은 파트너가 될 수 있다.

반면 선점 경쟁과 깜깜이 발표 같은 방법론 문제는 기술의 학술적 가치를 깎아 먹는다. AI 개발자와 학계는 성과의 투명한 공유, 정당한 출처 표기, 연구 목표의 윤리적 설정 등을 놓고 꾸준히 대화해야 한다.

개발자와 엔지니어는 AI 시스템을 설계할 때 성능 지표만 볼 것이 아니라 학술 생태계와 함께 가는 방식을 고민해야 한다. AI를 계산기 이상의 지적 협력자로 자리 잡게 할 때 학문의 발전과 기술 혁신이 함께 이뤄질 수 있다.

참고