최강 '미토스' 만든 앤트로픽, 왜 "첨단 AI 개발 늦춰야" 주장하나

"재귀적 자기 개선 단계, 2년 안에 도래할 수도"

사회 혼란 초래할 듯…국제 협력으로 대비해야

일각서는 앤트로픽 주장이 마케팅에 불과하다 지적도

[뉴욕=AP/뉴시스] 사진은 2026년 2월26일 미국 뉴욕의 한 컴퓨터 화면에 인공지능(AI) 기업 앤트로픽 웹사이트 페이지와 회사 로고가 표시돼 있는 모습. 2026.06.04.

[서울=뉴시스]고재은 강영진 기자 = 고성능 인공지능(AI) 모델 '클로드 미토스' 개발사 앤트로픽이 첨단 AI 개발 속도를 늦추거나 일시 중단하는 방안을 검토해야 한다고 주장했다.

AI가 인간의 개입 없이 스스로를 발전시키는 단계에 조만간 도달하고, 사회에 큰 혼란을 초래할 수 있다는 우려에서다.

4일(현지 시간) 월스트리트저널(WSJ) 등에 따르면 앤트로픽은 자사 홈페이지에 '인공지능이 스스로 구축할 때: 재귀적 자기 개선(recursive self-improvement)에 대한 우리의 진전과 함의' 제하의 게시글을 올렸다.

재귀적 자기 단계란 AI 시스템이 인간의 개입 없이 스스로 발전하는 현상을 뜻한다. 일각에서는 이를 사회에 큰 혼란을 초래할 수 있는 중대한 전환점으로 보고 있다.

앤트로픽은 "사회 구조와 협력 연구가 기술 발전 속도를 따라갈 수 있도록, 첨단 AI개발 속도를 늦추거나 일시 중단할 수 있는 선택권이 전 세계에 주어지는 것이 바람직하다"며 국제 협력 체계와 준수 여부를 검증할 수 있는 제도가 필요하다고 주장했다.

비슷한 검증 체계로 핵확산금지조약을 제시하면서도, 협약 위반 여부를 감시하는 것은 쉽지 않을 것이라고 전망했다. 또 AI 영향을 연구하는 사내 조직인 '앤트로픽 연구소'를 통해 다른 기관과 협력해 관련 논의를 이어가겠다고 했다.

다만 앤트로픽은 해당 단계가 "대부분의 기관들이 예상하는 것보다 빠르게 도래할 수 있다"면서도, 아직 현실화하거나 필연적인 결과는 아니라고 설명했다.

WSJ에 따르면 업계에서는 AI 발전 단계가 인간 수준의 지능인 범용인공지능(AGI)이나 재귀적 자기 개선 단계에 얼마나 가까워졌는지를 두고 논쟁이 오랫동안 이어져 왔다.

메타의 전 수석 AI과학자 얀 르쿤 등은 AI가 강력한 도구라면서도, 지능이 고양이 수준에 불과해 인간에 필적하기 어렵다고 주장했다. 반면 AI가 사회 불평등을 심화하고 인간 일자리를 대체할 것이라는 경고도 나온다.

특히 이번 보고서 작성에 참여한 앤트로픽 공동 창업자 잭 클라크는 지난달 한 강연에서 "빠르면 향후 2년 안에 AI가 (재귀적 자기 개선) 단계에 도달할 수 있다"고 전망했다.

다만 일각에서는 앤트로픽의 이러한 주장이 경쟁사의 AI 개발 속도를 늦추기 위한 전략이라는 지적도 나온다. 최근 앤트로픽이 '미토스' 접근을 특정 범주에 제한한 것 역시 제품 희소성을 높이려는 조치라는 취지다.

미토스는 소프트웨어 취약점을 탐지하고 악용할 수 있는 능력을 갖춘 사이버보안 특화 모델이다. 각국 정부와 금융기관, IT 기업들 사이에서 보안 활용 가능성과 함께 악용 우려도 제기되고 있다.

벤처 투자자이자 도널드 트럼프 미국 대통령의 측근 데이비드 삭스는 "이른바 '규제 포획(regulatory capture)' 전략을 주도하고 있다"며 저렴한 AI를 개발할 수 있는 오픈소스 모델을 금지하는 조치로도 이어질 수 있다고 경고했다.


◎공감언론 뉴시스 [email protected], [email protected]