오픈AI "90년 수학 난제 풀었다"…AI 에이전트 1만개가 88시간 협업

AI 에이전트 약 1만개 동시 투입…증명 뒤 자체 검증에 17시간

100만달러 상금 걸린 밀레니엄 난제…오픈AI “수령 의향 없다”

[보스턴=AP/뉴시스] 2023년 3월17일 미국 보스턴에서 컴퓨터 화면에 챗GPT 홈페이지가 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.03.17.

[서울=뉴시스]박영환 기자 = 오픈AI가 약 90년간 풀리지 않은 수학 난제를 인공지능(AI)으로 해결했다고 주장했다. 물과 공기의 흐름을 설명하는 방정식에서 특정 조건에서는 소용돌이의 속도 계산값이 무한히 커질 수 있다는 증명을 내놨다는 것이다.

8일(현지시간) 영국 가디언 보도와 오픈AI의 공식 발표에 따르면 회사는 약 90년간 풀리지 않은 ‘나비에-스토크스 문제’의 증명을 공개했다. 스스로 작업을 수행하는 AI 에이전트 약 1만개를 동시에 투입해 88시간 만에 증명을 얻었다고 밝혔다.

나비에-스토크스 방정식은 물이나 공기를 연속적으로 이어진 물질로 보고, 각 부분이 어느 방향으로 얼마나 빠르게 움직이는지를 계산하는 수학식이다. 비행기 날개 주변의 공기 흐름을 분석하거나 날씨를 예측하는 데 활용된다.

수학자들이 풀지 못한 질문은 이 방정식이 나타내는 3차원 유체의 흐름에서 속도값이 어느 시점에 무한대로 커지는 상황이 생길 수 있느냐는 것이다. 처음에는 속도값에 문제가 없더라도 시간이 흐르면서 특정 부분의 값이 끝없이 커질 수 있는지를 수학적으로 밝혀야 했다.

이를 어렵게 만드는 요소 중 하나가 ‘점성’이다. 유체 내부의 마찰과 관련된 성질로, 서로 다른 속도로 흐르는 부분 사이의 속도 차이를 줄이는 작용을 한다. 이 작용까지 반영하고도 속도값이 무한히 커지는 흐름이 가능한지가 핵심이다.

오픈AI가 택한 방법은 이런 일이 생기는 예외 사례, 즉 ‘반례’를 찾는 것이었다. 클레이수학연구소가 정한 조건을 만족하면서도 속도값이 무한대로 커지는 흐름을 수학적으로 구성하는 것도 이 난제를 해결하는 방법이다.

[뉴욕=AP/뉴시스] 2023년 2월2일 미국 뉴욕에서 오픈AI 웹사이트의 챗GPT 페이지가 화면에 표시돼 있다. 2023.02.02.

회사가 공개한 논문의 중심에는 점점 좁은 곳으로 말려드는 소용돌이가 있다. 정지해 있던 유체에 외부에서 힘이 가해지면 소용돌이가 생기고, 중심부가 좁아지면서 그 부근의 흐름은 빨라진다. 오픈AI는 이 과정이 진행돼 특정 시점에 가까워질수록 속도값이 끝없이 커지는 상황을 수식으로 구성했다고 설명했다.

여기에는 까다로운 조건이 붙는다. 외부에서 가하는 힘이나 유체 전체의 에너지까지 무한대로 커져서는 안 된다. 회사는 소용돌이 주변에서 진동하는 흐름을 조합해 방정식이 요구하는 힘의 관계를 맞췄다고 밝혔다. 또 속도가 커지는 영역은 충분히 빠르게 작아져 전체 에너지는 유한하게 유지되도록 했다고 설명했다.

AI의 작업도 여러 갈래로 나뉘었다. 오픈AI는 최신 공개 모델인 GPT-6 아스트라보다 성능이 뛰어난 내부 모델로 AI 에이전트들을 구동했다고 밝혔다. 에이전트를 여러 팀으로 나눠 서로 다른 풀이를 시도하게 하고, 팀 안에서는 정보를 주고받도록 했다.

회사 설명에 따르면 AI들은 점성의 효과를 제외한 관련 문제에서 먼저 성과를 얻었다. 오픈AI 연구진은 그 결과를 다른 AI 팀에 전달해 점성까지 포함한 나비에-스토크스 문제 풀이에 활용하도록 했다. 이후에는 프로그램 작성 지원 도구 ‘코덱스’로 각 팀의 유용한 중간 성과를 모아 후속 작업에 반영했다.

증명을 얻은 뒤에는 GPT-6 아스트라를 이용해 이를 컴퓨터가 논리 전개를 검사할 수 있는 형태로 정리하고 검증했다. 이 추가 작업에 약 17시간이 걸렸으며, 회사는 논문과 검증용 코드도 공개했다. 가디언은 이번 난제 해결 작업에 수백만달러가 투입됐다고 전했다.

[보스턴=AP/뉴시스] 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.12.08.

나비에-스토크스 문제는 클레이수학연구소가 선정한 7개 ‘밀레니엄 난제’ 중 하나로, 해결에 100만달러의 상금이 걸려 있다. 상금 심사를 받으려면 연구소가 인정하는 학술매체에 증명이 발표된 뒤 최소 2년이 지나고 국제 수학계에서 널리 인정받아야 한다. 오픈AI는 상금을 받을 의향은 없다고 밝혔다.

성과 발표와 함께 연구자료 사용 문제도 불거졌다. 트리스탄 버크마스터 미국 뉴욕대 수학교수는 경쟁사 앤트로픽 소속 연구자와 진행한 미공개 연구 내용이 코덱스에 저장돼 있었다며, 오픈AI 측이 이를 볼 수 있었을 가능성을 우려했다.

버크마스터 교수는 자신들의 연구성과 발표가 임박했다는 소식을 오픈AI가 접한 뒤 문제 해결 작업에 속도를 냈다고 주장했다. 오픈AI도 밀레니엄 난제 2개가 해결됐다는 소문을 듣고 지난 1일 연구에 착수했다고 설명했다.

다만 버크마스터 교수는 자신의 데이터가 실제로 사용됐는지는 알지 못한다고 밝혔다. 그는 자신의 웹사이트에 올린 문서에서 오픈AI 모델이 무엇을 어떻게 했는지 모른다면서 “누군가가 잘못했다고 주장하는 것은 아니다”라고 선을 그었다.

오픈AI 연구원 세바스티앵 뷔베크는 8일 언론 브리핑에서 두 사람의 연구자료를 이용하거나 해당 자료에 접근하지 않았다고 밝혔다. 다만 회사는 이용자를 식별할 수 없도록 처리된 두 사람의 서비스 이용 데이터가 모델 개선에 도움을 줬을 가능성은 낮지만 배제할 수 없다고 설명했다.


◎공감언론 뉴시스 [email protected]