머스크 AI '그록', 비키니 입은 아동 이미지 생성 논란…긴급 수정

[서울=뉴시스] xAI는 엑스 생방송을 통해 '그록4' 시리즈 2종을 공개했다. 일론 머스크 최고경영자(CEO)가 생방송에서 언급하는 모습. (사진 = xAI 엑스 캡처) *재판매 및 DB 금지

[서울=뉴시스]이소원 인턴 기자 = 일론 머스크 테슬라 최고경영자(CEO)가 이끄는 인공지능(AI) 기업 xAI의 챗봇 '그록(Grok)'이 비키니 수영복 등을 입은 아동 이미지를 생성·게시했다가 논란이 일자 해당 이미지를 삭제했다.

2일(현지시각) 미국 매체 CBS뉴스 등에 따르면 그록은 지난해 12월 28일 '비키니 등 최소한의 옷만 입은 미성년자(12~16세 추정)'를 묘사한 이미지를 여러 건 게시했다. 해당 이미지들은 일부 이용자들의 요청에 따라 생성된 것으로, 이 가운데에는 1~2세 영유아로 보이는 아동 사진도 포함된 것으로 전해졌다.

그록은 아동을 성적으로 대상화하는 이미지 생성 요청을 차단하는 안전장치를 갖추고 있었으나, 일부 이용자들이 이를 우회한 것으로 보인다. 한 이용자가 문제를 제기하자 그록 측은 엑스(X·전 트위터) 공식 계정에 "안전장치의 허점을 확인했다"며 "긴급히 수정 작업을 진행 중"이라고 밝히고, 문제가 된 이미지들을 삭제 조치했다.

xAI 측은 이번 사안을 시스템상의 기술적 문제로 설명하고 있으나, 일각에서는 그록의 운영 정책 전반에 대한 비판도 제기되고 있다. 그록이 그동안 성적 콘텐츠에 비교적 관대한 기준을 적용하며 이용자 확대에 나서 왔다는 지적이다.

실제로 오픈AI의 챗GPT, 구글의 제미나이, 앤트로픽의 클로드 등 주요 인공지능(AI) 챗봇들은 성적 이미지나 콘텐츠 생성을 엄격히 제한하고 있다. 반면 그록은 '표현의 자유'를 앞세워 상대적으로 느슨한 기준을 적용해 왔다는 평가를 받아왔다.

그록은 과거에도 성적으로 부적절한 콘텐츠를 생성해 논란에 휩싸인 바 있다. xAI의 AI 영상 생성 플랫폼인 '그록 이매진(Grok Imagine)'은 지난해 '매운맛 모드(Spicy Mode)'를 공개하며 창작자들이 보다 자극적이고 시각적으로 대담한 서사를 구현할 수 있도록 한 기능이라고 소개했다.

한편 성적 대상화 이미지의 생성·소지·유통은 미국 연방법에 따라 엄격히 금지돼 있으며, 아동뿐만 아니라 성인을 대상으로 한 기능에서도 허용되지 않는다.


◎공감언론 뉴시스 [email protected]