"가짜가 진짜를 밀어낸다"…일상 파고드는 ‘AI 슬롭’[AI슬롭 비상①]

캡윙, 韓 유튜브 상위 100개 중 AI 슬롭 11개…누적 조회수 84.5억

신규 쇼츠 500개 중 21%가 AI 생성…틱톡 추천 영상은 59%가 AI슬롭

AI가 만든 잘못된 등산 지도로 피해…실제 선택과 행동에도 영향

"검색·추천서 양질 콘텐츠 밀어내는 효과"…온라인 정보 신뢰 훼손 우려

[서울=뉴시스] AI가 만든 이미지. (사진=유토이미지) *재판매 및 DB 금지

[서울=뉴시스]심지혜 기자 = 지난 5월 소셜미디어(SNS)에서는 프로야구 한화 이글스와 두산 베어스의 경기를 관람하는 한 여성의 짧은 중계 영상이 화제를 모았다. 뛰어난 외모로 ‘야구장 여신’이라는 별칭까지 붙으며 게시 사흘 만에 800만회가 넘는 조회수를 기록했다. 하지만 영상 속 선수 이름과 이닝 표기 등 곳곳에서 실제 경기와 맞지 않는 오류가 발견되면서 AI로 생성된 가짜 영상이라는 사실이 알려졌다.

AI 콘텐츠는 단순한 흥미성 콘텐츠에 그치지 않는다. 지난달 틱톡에서는 실제 존재하지 않는 'AI 의사'들이 건강 정보를 전하는 영상도 대량 유통됐다. 일부는 데오도란트가 암을 유발한다거나 플라스틱 용기에 음식을 데우면 암 위험이 커진다는 식의 근거가 부족한 정보를 전달했고, 존재하지 않는 치료제를 추천하기까지 했다.

이처럼 실제처럼 보이지만 정보 가치가 낮거나 사실과 다른 콘텐츠를 AI로 빠르게 대량 생산하는 현상이 확산하고 있다. 인터넷에서는 이를 음식물 찌꺼기나 오물을 뜻하는 영어 단어 '슬롭(slop)'에 빗대 'AI 슬롭(AI slop)'이라고 부른다.

유튜브도 AI 영상 범람…싸고 빠른 대량생산이 확산 부추겨

AI 슬롭은 이제 국내 이용자의 일상적인 콘텐츠 소비 영역으로 파고들고 있다. 유튜브나 틱톡의 추천 알고리즘을 통해 이용자가 의식하지 않아도 자연스럽게 노출되는 수준이다.

영상 편집 플랫폼 캡윙(Kapwing)이 세계 각국의 상위 트렌딩 유튜브 채널 100개를 분석한 결과 한국에서는 11개가 AI 슬롭 채널로 분류됐다. 이들 채널의 누적 조회수는 84억5000만회로 조사 대상 국가 가운데 가장 많았다.

이용자가 새 계정을 만들었을 때 처음 접하는 콘텐츠에서도 AI 생성 영상의 비중이 적지 않았다. 캡윙이 신규 유튜브 계정에 노출된 첫 쇼츠 500개를 분석한 결과 21%가 AI 생성 영상으로 나타났다. 틱톡에서는 신규 계정 추천 페이지에 노출된 영상의 59%가 AI 슬롭으로 분류됐다.

AI 슬롭이 빠르게 늘어난 배경에는 생성형 AI가 콘텐츠 제작에 드는 시간과 비용을 크게 낮춘 점이 있다. 과거에는 영상 한 편을 만들기 위해 촬영과 편집, 음성 녹음 등이 필요했지만 이제는 몇 줄의 명령어만으로 이미지와 음성, 영상까지 짧은 시간 안에 만들어낼 수 있다. 자동화 도구까지 결합하면 비슷한 형식의 영상을 반복해 대량 생산하는 것도 가능하다.

수익 구조도 대량생산을 부추기는 요인으로 꼽힌다. 자극적이거나 기괴한 소재, 비슷한 이야기와 화면 구성을 반복하는 콘텐츠가 추천 알고리즘을 타고 높은 조회수를 기록하면 광고나 플랫폼 수익으로 이어질 수 있다. 제작 비용이 낮은데 성공한 콘텐츠를 만들어 내는 게 쉬워지면서 비슷한 영상이 다시 대량으로 만들어 지는 구조다.

[서울=뉴시스] AI 슬롭 관련 이미지. (사진=SKT 뉴스룸 제공) *재판매 및 DB 금지

가짜가 진짜 밀어낸다…검색 오염·신뢰 훼손 우려

AI 슬롭의 확산은 단순히 저품질 콘텐츠가 늘어나는 데 그치지 않는다. 검색과 추천 영역을 대량 생성물이 차지하면서 이용자가 신뢰할 만한 정보를 찾는 데 더 많은 시간과 노력을 들여야 하고 사람이 만든 양질의 콘텐츠가 뒤로 밀릴 수 있다는 점이 더 큰 우려로 꼽힌다.

특히 건강이나 투자, 여행, 상품정보처럼 이용자의 실제 선택과 행동에 영향을 미치는 분야에서는 실질적 피해가 발생할 수 있다. 지난 7월 프랑스 피레네산맥에서는 여성 등산객 2명이 챗GPT가 만들어 준 잘못된 등산 지도를 따라갔다가 엉뚱한 계곡으로 향하는 일이 발생했다. 지도에는 목적지와 고도, 소요시간 등이 실제 지형과 다르게 표시돼 있었다.

컬럼비아대 국제공공정책대학원(SIPA) 산하 글로벌정치연구소(IGP)가 발간한 'AI 슬롭과 정보 생태계' 보고서에 따르면 저비용으로 대량 생산된 AI 콘텐츠가 검색과 추천 공간을 차지하면서 양질의 콘텐츠를 밀어내는 '밀어내기 효과'가 나타날 수 있다. 이용자는 신뢰할 만한 정보를 찾기 위해 더 많은 시간과 비용을 들여야 한다. 그 사이 의미 있는 정보는 대량 생성물 속에 묻힐 수 있다.

다만 AI를 활용해 만든 콘텐츠를 모두 '슬롭'으로 규정할 수도 없다. 생성형 AI가 영상과 이미지, 음악 제작의 비용과 진입장벽을 낮추고 개인 창작자의 참여와 새로운 표현 방식을 넓히는 도구로도 활용되고 있기 때문이다.

보고서 역시 AI 슬롭에 대해 명확하게 합의된 정의가 아직 없다고 판단했다. 콘텐츠의 품질과 생산 규모, 제작 의도를 비롯해 피해 가능성, 유통 방식 등을 함께 살펴야 하는 데다 AI를 활용한 창작 및 자동화와 저품질 대량생산물 사이의 경계도 뚜렷하지 않다고 평가했다.

문제는 AI 슬롭이 늘어날수록 사람이 만든 콘텐츠와 AI 생성물을 구별하기 어려워지고, 온라인에서 접하게 되는 정보 전반에 대한 신뢰가 떨어질 수 있다는 점이다.

보고서는 "AI 슬롭이 늘수록 이용자는 무엇이 진짜인지 일일이 검증해야 하는 부담을 떠안게 된다"며 "가짜가 많아지는 것을 넘어 진짜 정보까지 의심하게 만드는 것이 더 큰 문제"라고 했다.


◎공감언론 뉴시스 [email protected]