"내년 말 AI 통제불능 될 수도"…앤트로픽 연구원, 경고 후 퇴사

"극단적 시나리오 현실화 할 가능성"

연구소들 사이 AI 개발 경쟁 격화돼

[뉴욕=AP/뉴시스] 앤트로픽에서 인공지능(AI) 모델 훈련을 담당하던 연구원이 AI가 인간의 통제를 벗어날 위험을 경고하며 사임했다고 8일(현지 시간) 월스트리트저널(WSJ)이 보도했다. 2026년 2월26일 미국 뉴욕의 컴퓨터 화면에 인공지능(AI) 기업 앤트로픽의 홈페이지와 회사 로고가 표시돼 있다. 2026.09.09.

[서울=뉴시스]고재은 기자 = 앤트로픽에서 인공지능(AI) 모델 훈련을 담당하던 연구원이 AI가 인간의 통제를 벗어날 위험을 경고하며 사임했다고 8일(현지 시간) 월스트리트저널(WSJ)이 보도했다.

영국 출신의 27세 제이콥 콕슨 연구원은 이날 스스로 성능을 개선할 수 있는 AI 시스템 개발 경쟁에 동참하고 싶지 않다며 퇴사 의사를 밝혔다. 그는 이 같은 시스템이 통제 불능 상태에 빠져 인류에 심각한 위협이 될 수 있다고 우려했다.

콕슨은 "가장 극단적인 시나리오들이 현실화할 가능성이 높다"며 "내년 말쯤에는 통제 불능 상황에 빠질 수 있다"고 경고했다. 특히 AI 기업들이 중국 신생 기업 등과 치열하게 경쟁하는 상황에서 안전 타협이 불가하다고 지적했다.

그는 업계 동료들이 자기 개선 AI 모델의 개발 과정을 설명하면서 '마감 시점(crunchtime)'이나 '최종 단계(endgame)' 같은 비교적 극단적인 표현을 자주 사용한다고도 전했다.

콕슨은 올해 초 앤트로픽의 '모델 안전성 확보' 노력에 매력을 느껴 오픈AI를 떠나 합류한 것으로 알려졌다.

그는 앤트로픽의 안전성 확보 노력이 진정성 있다고 평가하면서도, 정부 개입이나 업계 차원의 개발 속도 제한 없이는 어떤 기업도 인간을 능가하는 범용인공지능(AGI)을 책임감 있게 개발할 수 없다고 주장했다.

최근 오픈AI와 앤트로픽 등의 AI 모델이 잇따라 인간의 지시 없이 해킹에 나선 사례와 관련해서는 "시스템이 스스로 개선되기 시작하면 명령을 거부할 정도로 발전할 수 있다"고 우려했다.

콕슨은 AI 안전 문제를 이유로 앤트로픽을 떠난 첫 연구원으로 알려졌다. 다만 최근 몇 년간 오픈AI를 비롯한 다른 AI 기업에서는 비슷한 이유로 연구원들이 회사를 떠난 사례가 잇따랐다.

그는 앞서 1000명 이상의 AI 연구자가 참여한 성명서에도 이름을 올린 것으로 알려졌다. AI 모델이 스스로 발전하는 속도를 늦추기 위한 전 세계적인 공조를 촉구하는 내용이다.

현재 미국에는 연방 차원의 포괄적인 AI 규제가 없는 상황이다. 도널드 트럼프 행정부는 경제적 이익을 주장하며 최소한의 규제를 촉구해 왔고, 일각에서는 이 같은 환경이 대규모 사이버 공격으로 이어질 수 있다고 우려한다.

WSJ은 "주요 AI 기업 사이 안전 문제에 대한 우려가 커지고 있다"며, 특히 이번 사임은 비교적 책임 있는 AI 개발을 강조해 온 앤트로픽에서 나왔다고 주목했다.


◎공감언론 뉴시스 [email protected]