'AI발 인류 절멸 시나리오' 논문 쓴 필즈상 천재…오픈AI로 간다

토론토대 휴직하고 오픈AI서 ‘AI 안전’ 연구

"몇 년 안에 AI 수학 연구 능력, 인간 넘어설 것"

작동 원리 파악하고 위험 행동 통제할 방법 검증

[샌프란시스코=AP/뉴시스] 샘 올트먼 오픈AI 최고경영자(CEO)가 2023년 11월 16일 미국 샌프란시스코에서 열린 아시아태평양경제협력체(APEC) CEO 서밋에서 토론에 참여했다. 2023.11.16.

[서울=뉴시스]박영환 기자 = 인공지능(AI)이 인류 멸종까지 불러올 수 있다고 우려해 온 필즈상 수상자가 대학을 휴직하고 챗GPT 개발사 오픈AI로 향한다. 제이컵 치머먼(38) 캐나다 토론토대 교수는 AI가 인간의 통제를 벗어나 해를 끼치는 것을 막는 ‘AI 안전’ 연구에 뛰어들기로 했다.

1일(현지시간) 월스트리트저널(WSJ)에 따르면 치머먼은 지난달 23일 미국 필라델피아에서 열린 국제수학자대회에서 하늘색 턱시도를 입고 필즈상을 받았다. 시상식이 끝난 뒤 수상자들에게 향후 계획을 묻는 자리에서 그는 “오픈AI에서 일을 시작할 것”이라고 발표했다.

필즈상은 뛰어난 연구 성과와 장래성을 보인 40세 미만 수학자에게 4년마다 수여하는 수학계 최고 권위의 상이다. 국제수학연맹은 치머먼이 산술기하학과 복소대수기하학 분야의 앙드레-오르트 추측과 그리피스 추측 등 주요 난제를 해결하는 데 기여했다고 평가했다. 국제수학올림피아드 금메달을 두 차례 딴 그는 16세에 토론토대에 입학해 2년 만에 졸업한 뒤 프린스턴대에서 박사학위를 받았다. 하버드대를 거쳐 모교인 토론토대 수학과 최연소 정교수가 됐다.

치머먼이 순수수학을 완전히 떠나는 것은 아니다. 그는 토론토대를 휴직하고 오픈AI 연구자로 합류해 수학 명제를 기호와 규칙으로 표현하고 엄밀하게 검증하는 방식을 AI 연구에 적용할 계획이다. AI가 어떤 과정을 거쳐 판단하는지 파악하고 위험한 행동을 하지 않도록 통제할 방법을 찾겠다는 것이다.

치머먼은 “몇 년 안에 AI 시스템이 수학 연구 능력에서 인간을 확실히 넘어설 것”이라며 “그에 따른 사회적 파장과 대응 방안은 훨씬 더 어려운 문제”라고 말했다. 그가 풀려는 문제는 AI의 작동 원리를 파악하고 여러 AI 시스템이 서로 또는 인간과 안전하게 협력하도록 만들며, AI가 인류를 해칠 의도를 숨기는지 수학적으로 검증하는 것이다.

치머먼의 이런 문제의식은 2025년 AI 연구자 앤드루 크리치와 함께 발표한 ‘AI와 관련한 인류 절멸 시나리오의 분류’라는 보고서로도 이어졌다. AI가 개입된 사건으로 인류 전체 또는 거의 모두가 사망하는 여러 가상 시나리오를 유형별로 분류한 논문이다. 다만 두 저자는 이런 시나리오가 반드시 현실화할 것이라고 주장한 것이 아니라, 예방 조치를 촉구하기 위해 잠재적 위험을 제시했다고 설명했다.

그러나 치머먼이 처음부터 AI를 강력하거나 위험한 존재로 본 것은 아니다. 그가 인간에게 고유하다고 여겼던 직관과 창의성까지 AI가 구현할 수 있다는 데 회의적이었지만, 2022년 챗GPT를 사용한 뒤 생각을 바꿨다. 그는 당시 “AI가 초콜릿에 관해 이야기하고 시를 쓸 수 있다면 수학을 논하고 방정식을 쓰지 못할 이유가 있겠느냐”고 생각했다고 회상했다.

[서울=뉴시스] 필즈상 메달.(사진=국제수학연맹 캡처) 2022.7.5 *재판매 및 DB 금지

AI에 대한 인식 변화는 학생 지도와 연구 방향에도 영향을 미쳤다. 그는 AI를 활용하지 않는 수학 연구의 미래를 장담하기 어렵다고 보고, 연구에 AI를 활용할 뜻이 없는 대학원생은 더 받지 않았다고 WSJ에 말했다. 치머먼은 연구의 무게중심도 정수론과 복소대수기하학에서 AI 안전 쪽으로 옮기기 시작했다.

최근 AI는 실제 수학 연구에서도 인간의 예상을 뛰어넘는 성과를 내놓고 있다. 이런 성과만으로 치머먼이 우려하는 인류 멸종 가능성이 입증되는 것은 아니지만, AI의 수학 능력이 어느 수준에 이르렀는지는 보여준다. 오픈AI는 지난 5월 당시 미공개 상태였던 내부 모델이 평면에 여러 점을 놓았을 때 일정한 거리만큼 떨어진 점의 쌍을 최대 몇 개 만들 수 있는지를 다루는 ‘단위거리 문제’에서 오랜 핵심 추측이 성립하지 않음을 보이는 증명을 찾아냈다고 밝혔다. 외부 수학자들도 그 결과를 검토한 논문을 공개했다.

오픈AI가 모델의 추론 과정을 재구성해 공개한 자료는 125쪽에 달했다. 치머먼은 “나라면 12쪽만 읽어도 머리가 아팠을 것”이라고 말했다.

비슷한 성과는 오픈AI의 경쟁사 앤스로픽에서도 나왔다. 앤스로픽 소속 수학자 레벤트 알포게는 지난달 AI 모델 ‘페이블’이 ‘야코비안 추측’을 3차원에서 무너뜨리는 반례를 찾았다고 공개했다. 알포게는 치머먼의 지도를 받은 제자였다. 미국 대학 학부생 가운데 뛰어난 수학 연구자에게 주는 모건상을 받은 경력도 있다. WSJ은 스승이 AI의 위험을 줄이는 연구를 택했고, 제자는 AI를 활용해 87년간 풀리지 않던 추측을 깨는 반례를 찾아낸 셈이라고 전했다.


◎공감언론 뉴시스 [email protected]