"초지능 나오면 인류 멸망" vs "막을 권력도 위험"…AI 석학들의 경고

유드코스키 MIRI 설립자 "속도 조절 아닌 완벽한 중단 필요…AI반도체 쥔 韓도 동참해야"

코랄루스 옥스퍼드대 소장 "전 세계 개발 멈출 강제 기구, 권위주의적 위험 초래할 수도"

[서울=뉴시스]오동현 기자 = 엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자가  4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 인터뷰를 진행했다. [email protected]

[서울=뉴시스]오동현 기자 = "초지능 개발은 속도를 늦출 것이 아니라 멈춰야 한다."(엘리에저 유드코스키)

"전 세계적으로 개발을 멈출 만큼 강력한 기구를 만든다면, 그 기구는 누가 감시하겠느냐."(필립 코랄루스)

인간을 뛰어넘는 초지능 인공지능(AI)의 개발을 당장 전면 중단해야 하는지를 두고 세계적 AI 전문가들의 시각이 팽팽히 갈렸다.

통제할 수 없는 초지능의 등장을 막아야 한다는 강경론과, 개발을 강제로 막아설 범지구적 권력 자체가 더 위험하다는 우려가 부딪쳤다.

엘리에저 유드코스키 미국 머신 인텔리전스 리서치 인스티튜트(MIRI) 공동설립자와 필립 코랄루스 영국 옥스퍼드대 인간중심 AI 연구소 창립소장은 4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 만나 이같이 밝혔다. 두 사람은 SBS D포럼(SDF 2026) 참석차 한국을 방문했다.

유드코스키 "속도 늦추는 것 아닌 중단…AI 군비경쟁 승자는 AI뿐"

유드코스키는 초지능 개발 속도를 늦출 구체적인 방안을 묻는 질문에 "속도를 늦추는 것보다 멈춰야 한다"고 잘라 말했다. AI가 인간의 의도를 안전하게 따르도록 만드는 보안 연구가 개발 속도를 전혀 따라가지 못하고 있다는 지적이다.

그는 "AI 군비경쟁의 승자는 AI밖에 없다"며 미국과 중국 모두에 개발 중단이 필요하다고 강조했다.

그가 정의하는 초지능은 특정 분야의 AI와 차원이 다르다.

수학과 과학, 공학은 물론 사람을 설득하고 전략을 짜는 능력까지 인류 전체를 명백히 넘어서는 존재다.

그가 우려하는 것은 이런 AI를 만든 뒤에도 사람이 계속 통제할 수 있느냐는 점이다.

질병 치료 등을 위해 더 강력한 AI가 필요하지 않느냐는 질문에는 알파폴드 등을 예로 들며 제한된 분야에 특화된 AI에서 상대적으로 위험이 적은 혜택을 얻을 가능성은 인정했다. 다만 이를 근거로 초지능까지 안전할 것이라고 기대해서는 안 된다는 입장이다.

AI가 스스로 더 뛰어난 AI를 만드는 상황도 경계했다. 단순히 AI로 개발 작업을 돕는 수준을 넘어, 더 똑똑해진 AI가 다시 더 강력한 AI를 만드는 과정이 반복되면 발전 속도가 계속 빨라질 수 있다고 우려했다.

"한 국가·회사만 멈춰선 안 돼…한국도 동참 의사 밝혀야"

[서울=뉴시스]오동현 기자 = 필립 코랄루스 영국 옥스퍼드대 인간중심 AI 연구소 창립소장은 4일 서울 동대문디자인플라자(DDP)에서 국내 언론과 인터뷰를 진행했다. [email protected]

유드코스키는 초지능 개발을 멈추려면 국가와 기업이 함께 참여하는 국제협약이 필요하다고 말했다. 자신이 개발을 중단하는 동안 경쟁자가 앞서갈 수 있다는 우려 때문에 어느 한 곳이 먼저 멈추기 어렵다는 이유다.

그는 "한 회사가 멈춘다고 중단되는 것은 아니다. 조약이 필요하다"며 "1950년대에도 핵무기 개발 경쟁이 핵전쟁으로 이어질 것이라는 우려가 있었다. 인류가 이런 집단적 위험에 처음 직면한 것은 아니다"고 강조했다.

한국의 역할에 대해선 "초지능 개발 중단에 동참할 준비가 돼 있다는 입장을 밝혀야 한다"며 국제협약에 참여할 기반을 마련하라고 제안했다.

특히 한국이 고대역폭메모리(HBM) 등 AI 반도체 공급망에서 가진 영향력을 다른 국가들과의 협력에 활용해야 한다고 주장했다. 그는 메모리 반도체를 최대한 많이, 높은 가격에 판매하는 데만 집중하기보다 초지능 개발 중단을 위한 국제협약에 맞춰 수출을 통제할 준비도 할 수 있다고 제안했다.

코랄루스 "개발 중단 강제할 권력, 누가 감시하나"

코랄루스는 다른 위험에 주목했다. AI 개발을 전 세계적으로 멈추려면 막강한 통제 권력이 필요하며, 그 권력 자체가 인류에 위협이 될 수 있다고 지적했다.

그러면서 "AI 개발을 전 세계적으로 확실하게 멈출 만큼 강력한 기구를 만든다면, 그 기구는 누가 감시하고, 그것이 권위주의적 악몽으로 변하지 않도록 어떻게 하겠느냐"고 반문했다.

초지능이 인류를 멸망시킬 것이라는 전망에도 의문을 제기했다. 그런 결론에 이르려면 "아직 상당한 상상의 도약이 필요하다"고 말했다. 반면 인간의 권위주의적 체제가 초래할 위험은 새로운 기술이 없어도 확인할 수 있다고 지적했다.

그렇다고 AI의 위험 자체를 부정한 것은 아니다. 코랄루스는 사람들이 AI에 생각과 판단을 맡기면서 스스로 결정하는 능력을 잃을 가능성을 경계했다.

그는 AI를 쓰지 않으면 AI를 활용하는 사람들과 경쟁하기 어려워지지만, 무엇을 할 것인지에 대한 판단까지 넘기면 다른 사람이 정한 목적에 따라 움직이게 될 수 있다고 설명했다.

이어 “AI를 자신의 자율성을 강화하는 방식으로 사용해야 한다”며 “자신이 실제로 중요하게 여기는 우선순위와 선호를 더 잘 반영하는 판단을 내리도록 도와야 한다”고 강조했다.


◎공감언론 뉴시스 [email protected]