"19금 딱지 붙여야 할까" 머스크 xAI 동영상 AI 성인용 기능 추가 논란

xAI, 영상 생성 기능 '그록 이매진' 출시

'스파이스 모드' 선택 시 반나체 영상 제작 가능

[서울=뉴시스] xAI는 4일(현지 시간) AI 앱 '그록' iOS 버전에 '그록 이매진(Grok Imagine)'을 출시했다고 밝혔다. 사진은 일론 머스크가 이날 엑스에 올린 '그록 이매진' 기반 영상 (사진=xAI 제공) *재판매 및 DB 금지

[서울=뉴시스]윤정민 기자 = 일론 머스크가 이끄는 인공지능(AI) 기업 xAI가 이미지·동영상 생성 기능을 출시했다. 최대 15초 분량의 영상을 제작할 수 있는데 선정성 논란을 불러일으킬 수 있는 성인용 기능도 추가해 논란을 빚고 있다.

xAI는 4일(현지 시간) AI 앱 '그록' iOS 버전에 '그록 이매진(Grok Imagine)'을 출시했다고 밝혔다.

'슈퍼그록'(월 30달러, 약 4만1000원) 등 유료 멤버십 가입자가 이용할 수 있는 이 기능은 텍스트나 이미지 프롬프트를 통해 최대 15초 분량의 영상으로 변환한다.

구글 '비오', 오픈AI '소라', 어도비 '파이어플라이' 등과 크게 다르지 않은 서비스지만 성적으로 노골적인 콘텐츠를 생성할 수 있는 '스파이스 모드'를 선택할 수 있는 게 특징이다. 일부 그록 이용자는 해당 기능을 통해 반나체에 가까운 영상을 제작했다며 엑스, 인터넷 커뮤니티 등을 통해 공유했다.

머스크는 이날 본인 엑스 채널에서 잇달아 그록 이매진으로 제작한 영상을 올리는 등 새 기능 홍보에 나섰다. 한 영상에는 얇고 반투명한 흰색 레이스 소재로 된 의상을 입은 한 밝은 금발의 여성을 담았다. 커다란 흰색 천사 날개가 등 뒤에 펼쳐져 있어 '천사' 단어를 프롬프트에 입력한 것으로 추정된다.

xAI의 선정성 논란은 앞서 'AI 컴패니언(동반자)' 기능에서도 드러난 바 있다. 금발에 짧은 검은색 원피스, 망사 스타킹을 입은 캐릭터 '애니(Ani)'는 이용자와 음성 대화, 채팅 등을 통해 이용자 성향을 반영하는데 상황에 따라 '비건전물(NSFW, Not Safe For Work)' 모드 전환 후 환복을 요청하면 애니가 얇은 란제리로 갈아입은 모습으로 등장한다.

이를 두고 미국 국립성착취예방센터(NCOSE)는 미성년자도 애니와 대화할 수 있다며 xAI에 애니 캐릭터를 삭제하거나 애플에 그록 앱 이용 연령 제한을 18세로 바꿔야 한다고 요구하는 일도 벌어졌다.


◎공감언론 뉴시스 [email protected]