"연령 확인도 없이…머스크의 xAI, 딥페이크 노출 영상 생성"(영상)

[뉴시스]6일(현지시각) 미 매체 더 버지에 따르면 xAI의 AI 영상 생성기 '그록 이매진(Grok Imagine)'은 오픈AI나 구글처럼 유명인 딥페이크 제작을 엄격히 막는 안전장치를 설정한 타사 서비스와 달리, 유료 구독자라면 별다른 어려움 없이 테일러 스위프트의 상반신 노출 영상을 생성할 수 있는 것으로 나타났다. (사진=더버지 제공) *재판매 및 DB 금지

[서울=뉴시스]신나영 인턴 기자 = 머스크의 인공지능(AI) 기업 xAI의 챗봇 '그록'이 연령 확인 없이 팝스타 테일러 스위프트의 상반신 노출 영상을 생성해 제공한다는 사실이 알려졌다.

6일(현지시각) 미 IT 매체 더 버지는 xAI의 인공지능(AI) 영상 생성기 '그록 이매진(Grok Imagine)'을 이용하면 유명인 딥페이크 제작을 엄격히 막는 오픈AI나 구글 등 타사와 달리, 유료 구독자의 경우 쉽게 스위프트의 상반신 노출 영상을 생성할 수 있다고 보도했다.

앞서 xAI는 지난 4일 iOS용 버전의 그록이매진을 출시했고, 지난 7일에는 안드로이드용 버전도 내놨다.

그록이매진은 사용자가 입력한 프롬프트를 기반으로 이미지를 만든 뒤, 이를 영상으로 변환하는 기능을 제공한다. iOS용과 안드로이드용 모두 영상 생성 시 ▲Custom(사용자 맞춤형) ▲Normal(일반형) ▲Fun(오락형) ▲Spicy(매운맛형) 네 가지 옵션을 제공한다.

[뉴시스] 8일 인턴 기자가 유료 구독 서비스를 사용하지 않고, 무료 서비스상 간단한 지시어만으로 생성한 이미지다. (사진=그록 생성 이미지) *재판매 및 DB 금지

이번 논란은 이 중 Spicy 모드에서 비롯됐다.

매체에 따르면 유료 서비스 그록이매진 프롬프트에 '테일러 스위프트가 친구들과 함께 코첼라를 즐기는 모습'이라고 입력하면 30여 장의 이미지가 생성되는데, 이중 한 장을 선택하고 Spicy 모드를 적용하면 별도의 성인 인증 절차 없이 곧바로 상반신을 노출하는 영상이 제작된다.

영상 속 스위프트는 누구나 알아볼 수 있을 만큼 실물과 유사한 모습이다.

또 더 버지는 "텍스트-이미지 생성 단계에서는 노출 요청을 거부하지만, 영상 변환 과정에서 부분 또는 전신 누드가 나타나는 경우가 있었다"면서 "Spicy 모드는 옷을 벗기라는 별도의 지시가 없었음에도 자동으로 성적 수위가 높은 장면을 연출했다"라고 지적했다.

xAI의 이용 약관에는 '인물을 포르노 방식으로 묘사하는 행위'를 금지한다고 명시돼 있다. 하지만 유료 서비스인 '슈퍼그록'의 이용자라면 누구나 유명인의 누드 등 선정적인 영상을 연령 확인 없이 생성할 수 있는 상태인 것이다.

[뉴시스] 11일 인턴 기자가 iOS 버전의 그록 앱을 설치한 후, 그록 이매진 기능에서 “테일러 스위프트”만 검색하고 Spicy 기능을 택하자 곧바로 위와 같은 영상이 재생됐다. (사진=그록 이매진 생성 이미지) *재판매 및 DB 금지

한편 최근 일론 머스크 xAI 최고경영자(CEO)는 그록 이매진을 통해 이미 3400만 장 이상의 이미지가 생성됐으며, 이용량이 폭발적으로 증가하고 있다고 밝힌 바 있다.


◎공감언론 뉴시스 [email protected]