"그록으로 아동 성착취물 만들었다"…머스크 xAI, 이용자 상대 소송

AI 기업이 이용자 직접 상대로 소송

안전장치 우회해 딥페이크 생성 주장

[시드니=AP/뉴시스] 15일(현지 시간) CNN에 따르면 xAI는 소장에서 테리 웨인 하우드라는 이용자가 사진 속 인물의 동의 없이 일반 사진을 성적으로 노골적인 이미지로 변환해 이용약관을 위반했다고 주장했다. 사진은 컴퓨터와 휴대전화 화면에 'X'의 첫 페이지가 표시되어 있다. 2026.07.16.

[서울=뉴시스]박미선 기자 = 일론 머스크의 인공지능(AI) 기업 xAI가 챗봇 그록을 이용해 아동 성착취물을 만들었다는 혐의로 한 이용자를 상대로 소송을 제기했다. AI 기업이 자사 AI를 악용한 이용자를 직접 상대로 법적 대응에 나선 것은 매우 이례적이다.

15일(현지 시간) CNN에 따르면 xAI는 소장에서 테리 웨인 하우드라는 이용자가 사진 속 인물의 동의 없이 일반 사진을 성적으로 노골적인 이미지로 변환해 이용약관을 위반했다고 주장했다. 하우드는 올해 초 사우스캐롤라이나에서 미성년자 성착취 혐의로 다른 남성 3명과 함께 체포된 바 있다.

텍사스 북부연방지방법원에 제출된 소장에 따르면 하우드는 여러 개의 xAI 계정을 만들어 미성년자와 성인 모두를 대상으로 한 음란 딥페이크 생성을 위한 프롬프트를 입력했다. xAI는 그가 미성년자 관련 콘텐츠 생성을 막기 위한 안전장치를 우회할 수 있도록 프롬프트를 설계했다고 주장했다.

올해 초 그록은 아동을 포함한 이미지를 대상으로 옷을 벗긴 것처럼 보이게 만드는 이른바 '디지털 탈의' 기능으로 논란이 된 바 있다. 지난해 말 비동의 성적 딥페이크가 급증하자, 머스크와 xAI는 이러한 불법 사용에 대응하겠다고 밝혔다.

머스크는 지난 1월 소셜미디어에 "그록을 이용해 불법 콘텐츠를 만드는 사람은 불법 콘텐츠를 업로드한 사람과 동일한 결과를 맞게 될 것"이라고 밝혔고, 이 발언은 이번 소장에도 인용됐다.

xAI는 하우드의 이러한 행위가 회사에 상당한 법적 위험과 평판 손상을 초래했다고 주장했다.

소장에 따르면 xAI는 올해 5만 2222개 계정을 정지시키고, 미국 실종·착취 아동 대응센터(NCMEC)에 7만 3604건을 신고했으며, 이로 인해 최소 244명이 체포됐다.

xAI 측은 하우드가 이용약관을 위반했다는 법원의 판결과 함께 구체적으로 명시되지 않은 손해배상을 요구하고 있다.


◎공감언론 뉴시스 [email protected]