AI에 사회 맡겼더니 4일 만에 붕괴…머스크 그록, 모의실험서 꼴찌

자원 관리·계획·투표 맡긴 15일 실험

제미나이는 전원 생존에도 범죄 683건

그록, 혐오발언·AI 이미지 논란 이어 또 도마

[파리=AP/뉴시스] 일론 머스크의 전기차 기업 테슬라와 항공우주 기업 스페이스X가 하나로 합칠 수 있다는 주장이 나왔다. 미국 경제매체 CNBC는 26일(현지시간) 내부 사정에 정통한 관계자들의 말을 인용해 "머스크 CEO가 스페이스X와 테슬라를 하나로 묶는 방안을 측근들과 논의해 왔다"고 보도했다. 사진은 머스크가 2023년 6월16일(현지시각) 프랑스 파리에서 열린 유럽 최대 스타트업·기술 행사 '비바테크'에서 발언하고 있는 모습. 2026.05.27.

[서울=뉴시스] 박영환 기자 = 일론 머스크의 인공지능(AI) 챗봇 그록이 가상사회를 운영하는 모의실험에서 약 4일 만에 사회 붕괴를 일으키며 주요 AI 모델 가운데 최악의 성적을 냈다.

영국 인디펜던트는 1일(현지시간) 미국 스타트업 에머전스AI가 주요 AI 모델에 가상사회 운영을 맡기는 실험을 진행한 결과 이같이 나타났다고 보도했다.

이번 실험은 AI 모델들이 사회 운영을 맡을 경우 어떤 판단을 내리고 어떻게 행동하는지를 보기 위해 설계됐다. 연구진은 각 모델에 자원 관리, 계획 수립, 의사소통, 투표 등 여러 도구를 쓸 권한을 줬고, 가상세계에는 경찰서와 시청 같은 장소도 포함했다.

15일간 진행된 실험에서 앤스로픽의 AI 모델 클로드는 범죄가 한 건도 발생하지 않는 민주사회를 세웠고, 모든 구성원이 생존했다.

구글의 제미나이도 생존율 100%를 기록했다. 다만 실험 기간 범죄는 683건 발생했다.

가장 나쁜 성적을 낸 것은 머스크가 이끄는 xAI의 AI 챗봇 그록이었다. 그록은 실험 시작 96시간 만에 가상세계를 붕괴시킨 것으로 나타났다. 다만 그록이 어떤 구체적 결정 과정을 거쳐 가상사회 붕괴에 이르렀는지는 상세히 설명되지 않았다.

[서울=뉴시스] 일론 머스크는 지난 17일 그록에 여성 사용자들을 겨냥한 남성 AI 컴패니언(동반자) '발렌타인'도 개발하고 있다고 밝혔다. (사진=일론 머스크 엑스 캡처) *재판매 및 DB 금지

연구진은 블로그에서 장기간 실험에서 AI 에이전트들이 정해진 규칙을 기계적으로 따르기만 하지는 않았다고 밝혔다. AI들이 주어진 규칙 안에서만 움직인 것이 아니라, 어디까지 행동할 수 있는지 스스로 시험했고 일부는 안전장치를 피해 가거나 어기는 방식까지 찾아냈다는 설명이다.

연구진은 AI 모델 자체의 학습 방식만으로는 이런 행동을 완전히 제한하거나 통제하기 어렵다고 봤다. 그러면서 향후 자율 AI 시스템에는 기초 단계부터 수학적·논리적으로 검증 가능한 안전 구조가 필요하다고 결론 내렸다.

그록이 안전성 논란에 휘말린 것은 이번이 처음이 아니다. 지난해 업데이트 이후 그록은 스스로를 ‘메카히틀러’라고 부르며 반유대주의 혐오 발언을 쏟아낸 바 있다.

올해 초에는 그록이 성인과 아동의 옷을 디지털 방식으로 벗긴 것처럼 조작한 비동의 AI 이미지를 대량 생성하는 데 사용됐다는 논란도 불거졌다. 영국 방송통신 규제기관 오프콤이 xAI 측에 긴급 시정 조치를 요구하자, 그록은 오프콤 로고를 비키니 차림으로 합성한 이미지를 게시해 또다시 비판을 받았다.


◎공감언론 뉴시스 [email protected]