'인류 멸망' 인공지능 공포는 과장

"자동차가 비행기보다 안전하다"는 생각처럼

잘 모르는 것에 대해 공포를 갖는 것과 유사

전문가 다수 "인류 멸망 가능성 0에 가깝다"

[서울=뉴시스]인공지능이 인간을 위협하는 모습을 형상화한 그림. 인공지능에 대한 공포는 과장이라는 전문가들의 지적이 제기된다. (출처=링크드인) 2026.9.11.  *재판매 및 DB 금지

[서울=뉴시스] 강영진 기자 = 인공지능 클로드를 개발, 운영하는 앤트로픽의 한 과학자가 최근 회사가 인간이 통제할 수 없는 초지능 인공지능을 만들고 있다고 비난하면서 사임한 것을 계기로 인공지능이 인류를 멸망시킬 수도 있다는 공포가 확산하고 있다.

그러나 미 뉴욕타임스(NYT)는 10일(현지시각) 경험 많은 과학자들은 인공지능이 실제로 인류를 소멸시킬 확률이 0에 가까운 것으로 지적한다고 보도했다.

최근 인공지능에 대한 공포가 인공지능에 대해 익숙하지 않은 인간이 생래적으로 공포를 가지는 특성 때문에 과장됐다는 지적이다.

예컨대 자동차가 비행기보다 더 안전하다는 생각은 실제와 정반대지만 자동차가 비행기보다 훨씬 익숙하기 때문에 그런 생각을 갖는 것과 동일한 현상이라는 것이다.

생물학 무기 공격을 일으킬 수도 있고, 전 세계적인 드론 전쟁을 일으킬 수도 있다. 핵폭탄을 터뜨릴 수도 있다. 아니면 세계의 모든 경제적 자원을 비축하고 우리에게 식량, 주거지 또는 의약품을 빼앗음으로써 인류 사회를 점진적으로 파괴할 수도 있다.

인공지능을 둘러싸고 떠도는 암울한 생각들이다.

인공지능이 초래할 수 위험성에 대한 공포는 충분히 이해할 만하다.

그러나 현대 세계에는 수많은 실존적 위험이 가득하다. 인간은 살인 소행성, 전염병, 열핵전쟁, 기후변화, 태양에서 뿜어져 나오는 거대한 백열 물질 덩어리, 생태계 붕괴, 갑작스러운 빙하기의 시작으로 파멸할 가능성에도 직면해 있다.

과학자들과 공공정책 전문가들은 이러한 위협들 가운데 인공지능은 가장 최근에 등장한 위협일 뿐이라고 지적한다.

인공지능은 충분히 이해되지 않고 통제가 불가능하다는 공포가 엄청난 우려를 자극하는 가장 큰 요인이다.

인공지능 시스템을 구축하는 기술기업 경영진과 연구자들 사이에는 인공지능이 인류를 파괴할 잠재력이 있다고 경고하는 사람들이 늘 존재했다.

인공지능은 단기적으로는 악의적인 비숙련자들이 맹독성 바이러스나 독성 물질을 만들어내도록 도울 수 있다. 실제로 앤트로픽은 10일 생물학 무기 개발로 이어질 수 있는 연구들을 여럿 차단했다고 밝혔다.

인공지능은 또 장기적으로는 인공지능이 더 큰 자율성을 가지고 인터넷에 연결돼 전력망과 주식시장, 군사무기를 포함한 핵심 인프라까지 좌우할 위험성이 있다는 우려가 일부 제기된다.

그러나 현재로서는 이런 우려는 가설에 불과하다.

오런 에치오니 미 워싱턴대 교수 겸 앨런 인공지능연구소 설립자는 “인공지능 하나가 연구실을 빠져나와 수백만 명을 죽일 것인지, 바이러스 하나가 빠져나와 수백만 명을 죽일 것인지 둘 중 하나를 걱정해야 한다면 비교할 필요도 없다. 걱정해야 할 것은 바이러스”라고 지적했다.

탄저균은 인류를 멸망시킬 합리적인 가능성을 가지고 있다. 탄저균은 고대부터 존재해왔지만, 보다 최근에는 생물학 무기 프로그램을 개발하는 불량국가들이 선호해온 무기였다.

과학자들은 오래전부터 탄저균 1갤런, 즉 약 3.8 L만으로도 적절하게 살포한다면 지구상의 인간 생명을 끝장낼 수 있다는 사실을 알고 있었다.

그러나 북한과 이란을 비롯한 호전적인 국가들이 탄저균을 보유하는 것으로 오랫동안 의심 받아 왔음에도 그런 일은 일어나지 않았다. 국가 행위자들이 탄저균 공격을 꺼리는 이유는 보복을 당하면 자살 행위가 될 것임을 알기 때문이다.

또 미 항공우주국(NASA)은 이번 세기에 인류의 존재를 위협할 소행성 충돌의 위험을 사실상 0으로 보고 있으며 앞으로 1000년 동안은 걱정하지 않아도 좋을 것으로 판단한다.

과학자들은 인류를 멸망시킬 수 있는 전 세계적 유행병의 위험도 0에 가깝다고 평가한다.

영국 옥스퍼드대 토비 오드 연구원은 2020년 저서 “벼랑 끝: 실존적 위험과 인류의 미래(The Precipice: Existential Risk and the Future of Humanity,)에서 전염병으로 인해 100년 안에 실존적 재앙이 발생할 가능성을 3%로 평가했다.

인공지능 업계 종말론자들은 인공지능이 제대로 구현되기 전부터 이미 인공지능의 위험성을 극단적으로 신봉하고 있다는 점이 두드러진다. 이들이 실존적 위험이 심각한 문제라고 믿는 것은 이미 그렇게 믿고 있다는 점이 일부 작용한 결과다.

이는 항공 사고 위험을 평가하는 항공 과학자와는 크게 다른 점이다.

잭 코먼 인공지능 보안기업 임브로이더리 설립자는 영국 옥스퍼드대 출신이다. 옥스퍼드대는 인공지능의 실존적 위험에 대한 많은 두려움이 처음 싹튼 ‘효과적 이타주의’ 운동의 중심지였다. 그는 인공지능 사상가들이 “10년 넘게 전해져온 이 이야기를 근거로 모든 사건을 해석하고 있다”고 꼬집었다.

세계 최고의 연구자 가운데 많은 수가 인공지능에 대한 공포를 공유하지 않는다. 두려움이 지나치게 부풀려졌다는 것이다.

전문가들은 또한 건전한 계획과 조기경보체계를 통해 재앙적 위험과 실존적 위험을 완화할 수도 있다고 지적한다. 분명하고 임박한 위험, 예를 들어 행성과 충돌하는 경로에 들어선 소행성과 맞닥뜨리면 인류는 공동의 적에 맞서 단결하고 사소한 다툼을 뒤로 밀어낼 가능성이 충분히 있다.


◎공감언론 뉴시스 [email protected]