스위프트 딥페이크 알고보니…'포챈'서 게임하듯 시작

"사진 합성하고 보상 받으며 동기부여 느껴"

백악관 대변인 "규정 느슨하게 적용한 탓"

[로스엔젤레스=AP/뉴시스] 세계적인 팝가수 테일러 스위프트의 딥페이크 합성 사진을 제작한 온라인 커뮤니티 '포챈'(4chan) 이용자들이 이를 일종의 '게임'으로 여긴다는 분석이 나왔다. 사진은 '제66회 그래미 어워즈'에서 올해의 앨범상을 수상한 테일러 스위프트. 2024.02.06.

[서울=뉴시스] 권신혁 수습 기자 = 세계적인 팝가수 테일러 스위프트의 딥페이크 합성 사진을 제작한 온라인 커뮤니티 '포챈'(4chan) 이용자들이 이를 일종의 '게임'으로 여긴다는 분석이 나왔다. 스위프트의 딥페이크도 포챈에서 생성된 것으로 전해졌다.

5일(현지시간) 뉴욕타임스에 따르면 허위 정보를 분석하는 연구 기관 그래피카(Graphica)는 포챈에서 스위프트의 합성 사진을 추적한 결과를 이같이 밝혔다.

유명 여성 사진 조작·공유…소속감 느껴

포챈은 헤이트 스피치(혐오 발언), 음모론, AI로 만든 인종차별적인 콘텐츠를 공유하는 게시판으로 악명이 높다.

분석 결과, 이용자들은 유명한 여성 인물의 음란 이미지를 만드는 테스트에서 사진을 조작했다.

그래피카는 오픈AI(OpenAI)의 달리(DALL-E), 마이크로소프트(MS) 디자이너와 빙(Bing) 이미지 크리에이터 등의 이미지 생성 도구가 설정한 보호 장치를 우회할 것을 권장하는 메시지를 포챈 게시판에서 발견했다.

이용자들은 메시지를 통해 "보호 필터를 우회하는 새로운 방법을 찾기 위한 팁과 요령"을 공유하라는 지시를 받았다.

전문가들은 "사람들이 이와 같은 음란 콘텐츠를 공유하며 소속감을 느낀다"며 "참여에 따른 보상을 받으며 동기부여를 느낀다"고 분석했다.

보호 장치 우회…'게임'처럼 도전

스위프트의 딥페이크 사진을 합성한 이용자들은 게시판 내에서 "아름답다"라는 칭찬을 받았으며 이미지 제작에 사용된 프롬프트 언어를 공유해 달라는 요청을 받기도 했다.

유명인의 얼굴에 음란물을 합성하는 행위를 일종의 '게임'으로 여기는 셈이다.

크리스티나 로페즈 그래피카 수석 분석가는 "딥페이크 사진을 조작하는 사람들은 생성형 인공지능의 보호 장치를 우회하는 '도전'에서 동기부여를 얻는다"고 밝혔다. "이러한 활동이 '게임'처럼 여겨지는 것을 이해해야 한다"고 덧붙였다.

포챈 게시판에는 AI로 실재 인물의 음란 이미지를 만드는 것을 금지하는 규칙이 따로 존재하지 않는다.

마이크로소프트는 "이러한 이미지에 대해 계속 조사 중"이라며 "우리의 서비스가 악용되는 것을 방지하기 위해 기존 안전 시스템을 강화했다"고 덧붙였다. 마이크로소프트는 동의 없이 성인용 콘텐츠를 만드는 데 자사의 도구를 사용하는 것을 금지하고 있다.
 
오픈AI는 성명을 통해 테일러 스위프트의 노골적인 이미지가 자사의 도구를 사용해 생성된 것이 아니라고 밝혔다.

MS "딥페이크 추적중…안전 시스템 강화했다"

소프트웨어를 이용해 제작된 딥페이크 음란물은 2017년부터 사회적 문제로 떠올랐다.
 
수만 명의 배우를 대표하는 노동조합 'SAG-AFTRA'는 딥페이크 이미지를 두고 "사생활과 자율권에 대한 도둑질"이라고 표현했다.

매체는 "빈틈투성이인 규제로 인해 피해자가 법적인 도움을 받기 쉽지 않다"고 전했다.

스위프트의 합성 사진이 떠돌자 커린 장 피에어 백악관 대변인은 "걱정스럽다"며 "소셜미디어 기업들이 자사의 규정을 느슨하게 적용한 탓이다"라고 지적했다.


◎공감언론 뉴시스 [email protected]