오픈AI, 세계 7대 수학 난제 ‘나비에-스토크스 방정식’ 88시간 만에 풀어

클레이연구소 제시 7대 난제 중 ‘푸앵카레 추측’ 이어 두 번째 해결

경쟁사 앤트로픽의 연구 진행 소식에 “자원 집중” 속도내

“난제, 과학자 노력 위한 등대” vs “AI의 해결 수학 이해도 낮춰 해로울 수도”

[서울=뉴시스] 박은비 기자= AI 보안 전문기업 에임인텔리전스는 7일 오후 서울 삼성금융캠퍼스 비전홀에서 개최한 '2026 AI 리스크 컨퍼런스'를 개최했다. 사진은 와나 툰 오픈AI 응용 AI 보안 스페셜리스트가 발표하는 모습. 2026.09.09. [email protected] *재판매 및 DB 금지

[서울=뉴시스] 구자룡 기자 = 미국 인공지능(AI) 기업 오픈AI가 8일 세계 7대 수학 난제로 ‘밀레니엄 문제’로 여겨져 온 유체역학 방정식 ‘나비에-스토크스 방정식’을 88시간만에 해결했다고 발표했다.

뉴욕타임스(NYT) 등 미 언론은 AI가 고등 수학 분야를 근본적으로 변화시키고 있다는 가장 극적인 신호라고 평가했다.

오픈AI는 자사의 미공개 AI 모델이 중요한 미해결 수학 문제 모음인 ‘밀레니엄 문제’ 중 하나를 해결했다며 문제 해결에 단 88시간밖에 걸리지 않았다고 발표했다.

오픈AI는 자사 모델이 약 1만개의 AI 에이전트를 동원해 88시간 동안 1300억 토큰을 소비하며 연산을 수행한 끝에 165쪽 분량의 증명과 검증을 완료했다고 밝혔다.

대규모 AI 시스템 구동에는 수백만 달러의 비용이 소요되었을 것으로 추정되는데 이는 AI 기술을 구동하는 특수 칩을 작동시키는데 필요한 막대한 양의 전력 때문이다.

NYT는 이는 일부 수학자들에게는 기대감을 불러일으켰지만 다른 수학자들에게는 우려를 자아냈다고 전했다.

지난 한 해 AI가 수십 년 동안 수학자들을 괴롭혀 온 다양한 문제들을 성공적으로 해결했으나 이번 만큼 복잡하거나 주목받지는 않았다고 NYT는 전했다.

오픈AI 세바스티앙 뷔벡 연구원은 “이는 지난 12개월 동안 목격해 온 변화의 놀라운 정점”이라고 평가했다.

댄 로버츠 연구원은 “우리의 역할은 마치 꿀벌처럼 여러 그룹을 넘나들며 다양한 정보를 전달하는 것이었다”고 말했다.

이 방정식은 날씨 예측에 자주 사용되며 물을 비롯한 유체의 움직임을 설명한다.

이론적으로는 특정 조건에서 물리 법칙 자체가 무너질 수 있는데 예를 들어 물이 저절로 폭발할 수 있다는 것 등이다.

수학자와 물리학자들은 이러한 수학적 붕괴가 실제로 물리적 세계에서 그러한 결과를 초래할 수 있다고 생각하지 않는다.

나비에-스토크스 문제는 2000년 클레이 수학연구소가 새 천년의 수학 발전을 추적하기 위한 방법으로 선정한 7개의 ‘밀레니엄 문제’ 중 하나였다.

미국 사업가 랜던 T. 클레이가 설립한 이 연구소는 각 문제에 대한 최초의 정확한 해답에 100만 달러의 상금을 걸었다.

오픈AI의 발표 이전에는 러시아 수학자 그리고리 페렐만이 푼 ‘푸앵카레 추측’ 한 가지만이 해결됐다.

많은 사람들이 현 세대 최고의 수학자로 꼽는 캘리포니아대 로스앤젤레스 캠퍼스의 테렌스 타오 교수는 “이 문제들은 등대와 같다”며 “인간 과학자들의 노력을 끌어들이는 중요한 초점”이라고 설명했다고 NYT는 전했다.

타오 교수는 최신 AI 시스템이 수학 분야에 해를 끼칠 수 있다고 공개적으로 경고한 많은 수학자 중 한 명이다.

그는 AI 기술이 인간 수학자의 개입없이 가장 어려운 문제들을 해결할 수 있게 된다면 수학에 대한 인간의 이해도가 약화될 수 있다고 말한다.

오픈AI의 발표 전날 밤 뉴욕대 수학과 트리스탄 버크마스터 교수는 소셜 미디어 게시물을 통해 오픈AI의 주요 경쟁사인 앤트로픽에서 근무하는 또 다른 수학자와 유사한 연구를 진행하고 있다고 밝혔다.

오픈AI는 8일 블로그 게시물을 통해 다른 수학자들이 유사한 연구를 진행하고 있다는 소식을 접한 후 나비에-스토크스 문제에 자원을 집중했다고 인정했다.

하지만 회사는 “어떤 방식으로든 그들의 연구를 살펴보지는 않았다”고 밝혔다.

AI의 강화학습은 창작, 철학, 윤리와 같이 어떤 답이 옳고 그른지 객관적으로 정의하기 어려운 분야에서는 완벽하게 적용하기 어렵지만 수학에는 이상적이다.

AI 시스템은 린(Lean)이라는 컴퓨터 프로그래밍 언어를 사용해 수학 정리를 증명하는 방법을 학습할 수 있다.

린은 인간 수학자를 위한 도구로 설계됐지만 이제 AI 시스템이 자체적으로 컴퓨터 코드를 생성할 수 있을 만큼 숙련돼 수학적 증명을 생성할 수도 있다.

앞서 1월, 오픈AI와 하모닉이라는 스타트업은 AI 기술로 20세기 학자 폴 에르되시가 제기한 미해결 문제 모음인 ‘에르되시 문제’ 중 하나를 해결했다고 발표했다.


◎공감언론 뉴시스 [email protected]