EU, 머스크의 챗봇 그록에 대한 성적 딥페이크 혐의 조사

동의없이 특정인을 나체나 훤히 들여다보이는 옷차림으로 편집생성

[AP/뉴시스] 2023년 자료사진으로 미 샌프란시스코 도심 소재 X(옛 트위터) 본부에 엑스 모양의 조명시설이 세워져 있다

[브뤼셀=AP/뉴시스] 김재영 기자 = 유럽연합(EU) 규제 당국은 26일 일론 머스크의 인공지능(AI) 챗봇 그록이 머스크의 플랫폼 X에 상대방의 동의 없이 성적 딥페이크 가짜 이미지를 쏟아낸 것과 관련해 X에 대한 공식 조사를 시작했다.

그록은 사용자로 하여금 AI 생성 및 편집 기능을 활용해 특정 인물을 나체로 만든 이미지나 여성들을 투명한 비키니 및 속이 훤히 들여다보이는 옷차림 이미지로 바꿀 수 있게 했다. 

일부 이미지에 어린이들이 포함된 것으로 알려져 여러 정부가 이 서비스를 금지하거나 경고를 발했다.

27개국 블록 EU 집행위원회는 X가 불법 콘텐츠 확산 방지 목적의 EU 디지털 규정을 충분히 지켰는지 살펴본다고 말했다. 불법 콘텐츠에는 '노골적인 성적 내용으로 조작된 이미지'가 포함된다.

집행위는 "아동 성적 착취 내용"의 콘텐츠도 조사에 포함된다고 덧붙였다. EU 주민들이 이미 "심각한 해"에 노출되어 불법 콘텐츠 확산의 위험이 현실화했다는 것이다. 

규제 당국은 이에 따라 인터넷 사용자를 해로운 내용과 제작물로부터 보호하기 위해 EU가 광범위하고 정교하게 마련한 규칙서인 '디지털 서비스 법(DSA)' 상의 의무를 그록이 준수했는지 여부를 면밀히 살피게 된다.

앞서 X는 지난 14일 사용자들이 특정인을 "비키니, 속옷 혹은 드러나는 옷차림"으로 편집하는 것을 중지시킬 것이라고 발표했다. 그러나 거기에 "이런 것이 불법에 해당되는 곳에서만 그럴 것"이라는 단서를 달았다.


◎공감언론 뉴시스 [email protected]