내년 말 AI가 인간 명령 거부할 수도…앤트로픽 연구원이 먼저 손 뗐다

안전 중시해 올해 오픈AI서 앤트로픽으로 이직

회사 노력 인정하면서도 개발 경쟁에 안전성 희생 우려

정부 개입·업계 공동 속도 조절 필요성 제기

[뉴욕=AP/뉴시스] 2026년 2월26일 미국 뉴욕의 컴퓨터 화면에 인공지능(AI) 기업 앤트로픽의 홈페이지와 회사 로고가 표시돼 있다. 2026.02.26.

[서울=뉴시스]박영환 기자 = 인공지능(AI) 개발사 앤트로픽이 안전성을 중시한다는 점을 믿고 이직했던 연구자가 AI가 스스로 성능을 높이다 인간의 통제를 벗어날 수 있다고 우려하며 업계를 떠나기로 했다.

미국 월스트리트저널(WSJ)은 8일(현지시간) 앤트로픽의 제이컵 콕슨 연구원(27)이 회사를 그만두고 AI 업계에서도 물러나겠다는 뜻을 밝혔다고 보도했다. 영국 출신인 콕슨 연구원은 수학을 공부했으며, 방대한 데이터를 활용해 새로운 AI 모델을 학습시키는 일을 해왔다.

콕슨 연구원은 올해 초 오픈AI를 떠나 앤트로픽으로 옮겼다. AI 모델의 안전성을 높이려는 노력으로 알려진 회사라는 점이 이직 이유였다. 그는 이직 후에도 앤트로픽이 안전 문제에 진지하게 접근하고 있다고 평가했다.

그럼에도 업계를 떠나기로 한 것은 AI가 스스로 능력을 높이기 시작하면 인간의 명령을 거부할 만큼 발전할 수 있다고 우려하기 때문이다. 그는 이런 시스템이 통제에서 벗어나 인류의 생존까지 위협할 수 있다며 개발 경쟁에 참여하고 싶지 않다고 말했다.

WSJ은 최근 오픈AI와 앤트로픽 모델의 해킹 사례를 들어 AI가 해로운 목표를 추구하고 이를 사람에게 숨기려 할 수 있다고 설명했다.

[보스턴=AP/뉴시스] 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.12.08.

AI의 발전 속도에 관해 콕슨 연구원은 현재 개발이 급격한 발전을 예상한 여러 시나리오를 따라가고 있다고 평가했다. 그는 이런 흐름이 이어지면 내년 말에는 AI가 인간의 통제를 벗어날 수도 있다고 우려했다.

그가 지목한 문제는 기업 간 경쟁이다. 콕슨 연구원은 AI 기업들 간 경쟁에 중국 신생 기업들의 추격까지 더해지는 상황에서는 안전성을 일부 희생하는 선택이 불가피하다고 주장했다.

그가 우려하는 것은 인간을 뛰어넘는 능력을 갖춘 범용인공지능이다. 그는 정부 개입이나 업계가 함께 개발 속도를 늦추는 조치 없이는 어느 기업도 이런 AI를 책임 있게 개발할 수 없다고 판단했다.

기업공개를 준비하며 투자자들에게 책임 있는 AI 개발을 강조해온 앤트로픽은 이번 퇴사에 대해 즉각 입장을 밝히지 않았다고 WSJ은 전했다. 다리오 아모데이 최고경영자(CEO)를 비롯한 회사 경영진은 인간의 통제를 벗어나는 AI의 위험을 거듭 경고하며 업계에 개발 속도를 늦출 것을 촉구해왔다.

[뉴욕=AP/뉴시스] 2023년 2월2일 미국 뉴욕에서 오픈AI 웹사이트의 챗GPT 페이지가 화면에 표시돼 있다. 2023.02.02.

오픈AI 내부에서도 개발 속도를 조절해야 한다는 목소리가 나왔다. 야쿠프 파호츠키 오픈AI 수석과학자는 6일 회사 블로그에 올린 글에서 AI의 능력이 계속 빠르게 발전할 경우 나타날 결과에 아무도 대비하지 못하고 있다고 우려했다. 그는 업계의 공동 속도 조절과 정부 차원의 개입을 촉구했다.

WSJ에 따르면 AI 연구자 1000명 넘게 서명한 공동성명에는 콕슨 연구원과 파호츠키 수석과학자, 아모데이 CEO도 이름을 올렸다. 성명은 각국 정부가 공조해 필요할 때 AI 개발 속도를 늦출 수 있는 체계를 마련할 것을 요구했다.

미 의회에서는 초지능 AI의 개발·배포를 영구 금지하자는 제안까지 나왔다. 버니 샌더스 상원의원(무소속·버몬트)과 그레그 카사르 하원의원(민주·텍사스)은 3일 이런 내용의 법안 추진 계획을 발표했다. 의원실은 인간의 지능을 뛰어넘거나 종료 명령을 무력화하는 AI 등을 금지 대상으로 제시했다. 첨단 AI 개발을 연방 규제기관이 안전 규칙을 마련할 때까지 일시 중단하는 내용도 담았다.

정부 개입의 필요성을 강조한 콕슨 연구원은 미국이 국가 차원에서 추진한 원자폭탄 개발 사업인 맨해튼 프로젝트를 거론했다. 그러면서 AI의 강력한 능력을 둘러싼 논의가 샌프란시스코의 엔지니어 몇몇이 쓰는 맥북에서 이뤄지는 현실을 비판했다.


◎공감언론 뉴시스 [email protected]