"엘리자베스 여왕이 랩을?"…美시민단체, 소라2 공개 중단 요구

엘리자베스도 못 피한 장난…현실 흔드는 AI

[서울=뉴시스] 미 소비자단체 '퍼블릭 시티즌'은 11일(현지 시간) 오픈AI에 보낸 공개 서한에서 "오픈AI는 공개 배포 전에 심각한 사회적 위험에 대한 보장을 제공하는 절제되고 윤리적이며 투명한 사전 배포 절차에 전념해야 한다"며 소라2의 배포 잠정 중단과 함께 법률 전문가·시민단체·민주주의 옹호자들과 협력해 엄격한 기술적·윤리적 레드라인을 마련하라고 요구했다. 사진은 '소라'로 제작된 엘리자베스 여왕이 랩을 하는 영상. 12일 소셜미디어(SNS) 엑스(X·옛 트위터)에서 공유되고 있다. 2025.11.12. *재판매 및 DB 금지

[서울=뉴시스]임철휘 기자 = 미국 시민단체가 오픈AI에 동영상 생성형 인공지능(AI) ‘소라2’의 대중 공개 중단을 요구했다. 틱톡·인스타그램 등 소셜미디어(SNS)에서 확산하는 고품질 딥페이크와 비동의 영상이 민주주의와 개인 권리를 위협한다는 이유다.

미 소비자단체 '퍼블릭 시티즌'은 11일(현지 시간) 오픈AI에 보낸 공개 서한에서 "오픈AI는 공개 배포 전에 심각한 사회적 위험에 대한 보장을 제공하는 절제되고 윤리적이며 투명한 사전 배포 절차에 전념해야 한다"며 소라2의 배포 잠정 중단과 함께 법률 전문가·시민단체·민주주의 옹호자들과 협력해 엄격한 기술적·윤리적 레드라인을 마련하라고 요구했다.

소라2는 오픈AI가 9월 공개한 동영상·오디오 생성 모델이다. 지난해 2월 첫 공개된 모델의 후속작으로, 물리·동작 현실감, 대사·효과음 동기화, 장면 제어(스토리보드 등)가 강화됐다는 평가를 받는다.

소라2로 제작된 영상은 틱톡·인스타그램·엑스(X)·페이스북 등을 통해 빠르게 퍼지고 있다. 엘리자베스 여왕이 랩을 하는 영상부터 초인종 카메라를 가장한 합성물까지 '그럴듯함'을 앞세운 바이럴 콘텐츠가 플랫폼을 타고 확산하는 구조다.

문제는 이런 모델이 사실을 호도하고 비동의 이미지 재현을 늘리며 현실과 허구의 경계를 흐린다는 점이다.

AP통신은 이날 보도에서 "누구나 프롬프트에 입력만 하면 거의 무엇이든 AI 영상으로 만들 수 있게 되면서, 덜 해로운 'AI 쓰레기' 범람 속에 동의 없는 이미지와 실제처럼 보이는 딥페이크가 확산되고 있다"고 지적했다.

마이클 잭슨, 마틴 루서 킹(MLK) 주니어, 프레드 로저스 등 이미 작고한 유명인을 기행으로 묘사한 합성물이 공유되자 유가족과 배우 노조가 항의했고, 이후 오픈AI가 단속을 강화한 일도 있었다.

여성을 대상으로 한 디지털 괴롭힘과 성적 대상화 콘텐츠도 SNS에서 늘고 있다.

테크 전문매체 404미디어는 지난 7일 한 X 계정이 여성과 소녀가 목 졸리는 장면의 AI 생성 영상을 지난달 중순부터 게시하고 있다고 전했다.

이 매체는 "생성형 AI 기업들이 폭력적 콘텐츠 금지 자체 정책을 위반하는 미디어 제작을 막지 못하는 또 다른 사례"라고 해설했다.

영상 상당수는 10초 안팎으로 '10대 소녀'가 고통을 호소하다 쓰러지는 장면까지 담겼다고 한다.

[서울=뉴시스] 샘 올트먼 오픈AI 최고경영자(CEO)가 설정한 엑스 프로필 사진. 챗GPT 이미지 생성 기능으로 제작한 지브리 스튜디오 화풍 이미지 (사진=샘 올트먼 오픈AI CEO 엑스) *재판매 및 DB 금지

저작권 쟁점도 불거졌다.

스튜디오 지브리, 반다이남코, 스퀘어에닉스 등 일본 주요 콘텐츠 기업들은 콘텐츠해외유통협회(CODA) 명의로 오픈AI에 회원사 콘텐츠의 무단 학습 금지를 요구하는 공개 서한을 보냈다.

이들은 오픈AI의 이미지·영상 생성 도구가 일본 애니메이션의 캐릭터와 화풍을 모방하고 있다며, 특히 소라2가 자사 콘텐츠로 학습됐을 가능성을 문제 삼았다.

퍼블릭 시티즌은 이날 서한에서 소라2의 위험으로 ▲딥페이크 선전물 확산에 따른 시각적 사실의 침식 ▲동의 없는 이름·이미지·초상권(NIL) 침해 ▲여성 대상 디지털 괴롭힘·성적 대상화 콘텐츠 증가 ▲저작권자 옵트아웃 정책의 일관성 부족과 워터마크 무력화 가능성 등을 들었다.

퍼블릭 시티즌의 기술정책 대변인은 "우리가 가장 우려하는 것은 민주주의에 대한 잠재적 위협"이라며 "사람들이 보는 것을 신뢰하기 어려운 세계로 들어서고 있다. 정치에서는 처음 공개되는 이미지, 처음 공개되는 영상이 사람들의 기억을 선점한다"고 말했다.


◎공감언론 뉴시스 [email protected]