사람 손 떼도 AI가 다음 AI 만든다…앤스로픽 '재귀적 자기개선' 경고

재귀적 자기개선’ 예상보다 빨라질 수 있다는 경고

"과학·의학 진전 가능성 크지만 검증·통제 장치 필요"

[뉴칼라일=AP/뉴시스] 미국 연방준비제도(Fed·연준)의 리사 쿡 이사가 인플레이션 재발 위험을 강력히 경고하며 필요시 추가 금리 인상도 불사하겠다고 밝혔다. 사진은 미국 인디애나주 뉴칼라일에 있는 아마존웹서비스(AWS) 인공지능(AI) 데이터센터. 2026.05.28.

[서울=뉴시스] 박영환 기자 = 인공지능(AI)이 사람의 개입 없이 더 강력한 다음 세대 AI를 설계·개발·훈련하는 단계에 예상보다 빨리 이를 수 있다는 경고가 나왔다.

미국 인터넷 매체 액시오스는 4일(현지시간) AI 기업 앤스로픽이 최근 블로그 글을 통해 이러한 내용의 연구 결과를 공개했다고 보도했다.

앤스로픽이 주목한 개념은 ‘재귀적 자기개선’이다. AI 시스템이 스스로 다른 AI를 만들고, 시험하고, 성능을 높이는 과정을 뜻한다.

쉽게 말하면 지금의 AI가 다음 버전의 AI를 만들고, 그 다음 AI가 다시 더 강한 AI를 만드는 구조다. 앤스로픽은 이런 흐름이 AI 개발 방식 자체를 바꿀 수 있다고 봤다.

앤스로픽은 자사 챗봇 클로드의 성능이 좋아지면서 AI 코딩 도구도 고도화됐고, 이는 자율형 AI 에이전트 개발 속도를 다시 끌어올렸다고 설명했다.

구글의 생성형 AI '제미나이'를 통해 제작한 사람 개발자와 인공지능 개발자의 이미지. *재판매 및 DB 금지

앤스로픽은 다음 단계로 AI가 스스로 다음 세대 모델을 설계하고 개발하며 훈련하는 상황을 제시했다. 이 경우 이전 버전의 클로드가 새 버전의 클로드를 만드는 일도 가능하다는 것이다.

앤스로픽은 최첨단 AI 모델들이 이미 코딩, 디버깅, 연구 업무 처리 속도를 높이고 있다고 설명했다. 이 과정이 반복되면 AI 개발 속도는 더 빨라질 수 있다.

앤스로픽의 잭 클라크는 액시오스와의 인터뷰에서 “앞으로 벌어질 수 있는 일을 사회가 미리 이해하도록 알리는 게 중요하다”는 취지로 말했다.

그는 “일부의 예상과 달리 앞으로 AI 발전은 멈추거나 느려지기보다 더 빨라질 수 있다”고 말했다.

[서울=뉴시스] 15일(현지시각) 영국 데일리메일은 한 AI 에이전트가 렌터카 업체들의 운영 데이터베이스와 백업을 삭제해서 업무에 차질이 생겼다고 보도했다. 해당 AI 에이전트는 렌터카 운영 관리 소프트웨어를 만드는 스타트업 '포켓OS'가 관리하고 있으며, 앤트로픽의 클로드에 탑재된 코딩 도구를 기반으로 제작됐다. (사진=유토이미지)

클라크는 이 같은 변화가 과학과 의학 분야의 발전에는 큰 기회가 될 수 있다고 봤다. 다만 AI 시스템이 내놓은 결과가 정확한지, 인간의 의도와 사회적 가치에 부합하는지 확인할 수 있는 도구가 필요하다고 강조했다.

앤스로픽은 앞으로 수개월 안에 미 의회 관계자들과도 이 문제를 논의할 계획이다. AI 연구자들 사이에서 ‘재귀적 자기개선’이라는 말이 본격적으로 거론되기 전에 정책권도 미리 이해할 필요가 있다는 판단이다.

이 문제는 앤스로픽만의 우려는 아니다. 오픈AI도 앞서 관련 정보가 연구자들 사이에서 충분히 공유되지 않을 경우 재귀적 자기개선이 위험해질 수 있다고 지적했다. 액시오스는 AI가 사람 개입 없이 다음 세대 AI를 만드는 시대가 가까워지고 있으며, 주요 AI 연구소들도 그 파장을 확신하지 못하면서도 사회에 미리 경고할 필요성을 느끼고 있다고 전했다.


◎공감언론 뉴시스 [email protected]