인류 통제권 상실 카운트다운?…하라리·아모데이, '초지능' 경고

[서울=뉴시스] 추상철 기자 = 인문학 베스트셀러 '사피엔스'의 작가 유발 하라리가 22일 오후 서울 여의도 국회 사랑재에서 이재명 더불어민주당 대표와 AI를 주제로 대담을 하고 있다. 2025.03.22. [email protected]

[서울=뉴시스] 박영환 기자 = 역사학자 유발 하라리 히브리대 교수와 다리오 아모데이 앤트로픽 최고경영자(CEO)가 인공지능(AI)의 진화가 인류의 제어 범위를 벗어나는 '임계점'에 다가서고 있다는 경고를 동시에 내놓았다. 특히 아모데이 CEO는 노벨상 수상자급의 초지능을 지닌 AI가 이르면 내년에 등장할 가능성을 제기했다.

28일(현지시간) 미국의 포브스 등에 따르면 아모데이 앤트로픽 CEO는 최근 공개한 38쪽 분량의 에세이 ‘기술의 사춘기: 강력한 AI의 위험과 극복’에서 "우리는 종으로서의 우리를 시험하게 될 격동적이고 필연적인 통과 의례에 진입하고 있다"고 진단했다.

그는 초지능 AI의 출현 시점을 2027년으로 명시하며, 이를 "지난 100년간, 어쩌면 인류 역사상 우리가 직면한 단일 사건 중 가장 심각한 안보 위협"으로 규정했다. 특히 "데이터 센터 안에 노벨상 수상자급 지능을 갖춘 5000만 명이 각기 다른 동기로 자율 기동하는 상황이 곧 현실화될 것"이라며 "시계가 자정으로 향하는 소리가 들린다"는 표현으로 정책 입안자들의 즉각적인 개입을 요구했다.

이어 "인류가 이 상상조차 하기 어려운 거대한 힘을 건네받을 준비가 되었는지 자문해야 한다"며 "현재의 사회적·정치적 체계가 이 강력한 도구를 다룰 만한 성숙도를 갖췄는지는 매우 불투명하다"고 말했다.

하라리 히브리대 교수도 최근 열린 다보스 대담에서 인류가 직면한 전례 없는 위협으로 'AI 이민자의 상륙'을 꼽았다. 그가 정의하는 이들은 비자 없이 네트워크를 타고 침투하며, 인간보다 정교한 언어를 구사하는 '지능형 행위자(Agent)'를 의미한다.

하라리 교수는 "당신의 국가는 AI 이민자를 법적 인격체로 인정할 것인가?"라고 물었다. 이어 "강이나 신(神)과는 달리, AI는 실제로 스스로 결정을 내릴 수 있다"며, 이들이 인간 경영진 없이 은행 계좌를 관리하거나 직접 기업을 운영하는 단계에 진입할 것이라고 내다봤다.

[서울=뉴시스] 다리오 아모데이 앤트로픽 최고경영자(CEO) (사진=앤트로픽 제공) *재판매 및 DB 금지

이미 10년 전부터 소셜 미디어상의 AI 봇들이 여론 형성에 개입하며 '기능적 인격체'로 활동해왔다는 것이 그의 진단이다. 하라리 교수는 각국 지도자들에게 지금 당장 제도적 결단을 내리지 않는다면, 10년 뒤에는 기계가 인류의 운명을 결정하게 될 것이라고 경고했다.

그는 AI가 언어를 정교하게 조작하더라도 그 이면의 실재하는 고통은 체감하지 못한다는 점을 들어, 인간만의 '비언어적 감각'과 '고통에 대한 공감'을 회복하는 것이 이 거대한 심리 실험에서 인류가 생존할 수 있는 유일한 길이라고 제언하며 발언을 마쳤다.

두 전문가는 공통적으로 현재의 사회·정치 체계가 초지능이라는 거대한 힘을 수용할 만큼 성숙하지 못했다는 점을 꼬집었다. 기술의 지수적 성장이 임계점을 넘기 전, 인류가 주도권을 회복하기 위한 국제적 연대와 규제 마련이 시급하다는 지적이다.


◎공감언론 뉴시스 [email protected]