[르포]담배 물자 0.1초 만에 경고음…틱톡 '콘텐츠 심사' 현장 가보니

틱톡 싱가포르 본사 투명성·책임 센터에서 콘텐츠 심사 과정 소개

"포크와 흉기 구분하는 AI"…'기계'가 거르고 '사람'이 정한다

조회수 '0회'여도 유해 콘텐츠 칼같이 삭제…AI 슬롭영상에 단호히 대응

분기마다 영상 2억건 삭제…안전에 매년 3조원 투자

[싱가포르=뉴시스] 윤정민 기자 = 틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC, Transparency and Accountability Center)'. 2026.03.04. [email protected]

[싱가포르=뉴시스]윤정민 기자 = #1. 틱톡 크리에이터 A씨는 최근 올린 여행 브이로그 영상 조회수가 나오지 않아 의아해했다. 알고 보니 식당 야외 테이블에서 무심코 피운 담배가 원인이었다. 틱톡의 머신러닝 시스템이 영상 속 흡연 장면을 탐지해 커뮤니티 가이드라인 위반 가능성이 있는 콘텐츠로 분류했기 때문이다. 별도 이용자 신고가 없었지만 틱톡 시스템은 이를 유해 콘텐츠 후보로 즉시 분류했다. A씨는 이를 참고해 다음 영상부터는 흡연 장면이 들어갔는지 살펴보기로 했다.

#2. 트럭 엔진오일을 교체하는 영상에서 검붉은 액체가 쏟아지자 틱톡 시스템이 일시적으로 '유해성'을 감지했다. 자칫 잔혹한 사고 영상으로 오인될 수 있는 상황. 하지만 2차 검토를 맡은 인간 심사역(모더레이터)은 해당 영상이 자동차 정비 과정임을 확인하고 정상 콘텐츠로 분류했다.

[천안=뉴시스] 피의자 SNS 틱톡에 올려진 3.1절 폭주족 라이브 방송 예고 게시글 (사진=충남경찰청 제공) 2025.4.15 [email protected]  *재판매 및 DB 금지

틱톡은 지난해 3분기 기준 콘텐츠 가이드라인을 위반한 동영상 약 2억건을 삭제했다. 이 가운데 99% 이상은 이용자 신고 전에 내부 시스템이 선제적으로 탐지한 콘텐츠였다. 또 삭제된 영상의 89.7%는 누군가에게 노출되기 전인 '조회수 0' 상태에서 처리됐다.

이처럼 매일 쏟아지는 영상 유해성을 검토하는 조직은 틱톡 '신뢰와 안전(TNS, Trust & Safety) 팀'이다. 틱톡은 본사가 위치한 싱가포르를 비롯해 미국 로스앤젤레스, 워싱턴 DC., 아일랜드 더블린에 투명성·책임 센터(TAC, Transparency and Accountability Center)를 두고 TNS 팀의 콘텐츠 심사 과정을 투명하게 공개하고 있다. 이용자가 영상을 올린 뒤 어떤 기준과 절차로 유해성 판단이 이뤄지는지 알리기 위해서다.

뉴시스는 지난달 25일 싱가포르 TAC를 찾아 틱톡의 콘텐츠 심사 단계와 추천 알고리즘의 작동 원리를 알아봤다.

식당서 쓰던 포크, 사람 위협하려니 위험도 99%…"안전 예산만 매년 3조원"

[싱가포르=뉴시스] 지난달 25일 틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC, Transparency and Accountability Center)'에서 틱톡 관계자가 한국 취재진을 대상으로 센터를 소개하고 있다. 2026.03.04. (사진=틱톡 제공)

틱톡의 콘텐츠 심사는 기계와 인간이 협업하는 구조다. 우선 인공지능(AI)이 영상·이미지·텍스트·오디오 등 다양한 신호를 분석해 1차 자동 심사를 진행한다.

이 과정에서 기술 기반 플래깅(자동 탐지) 시스템이 활용된다. 특정 행동이나 상징을 인식하는 객체 인식 모델이 영상 속 요소를 분석해 가이드라인 위반 가능성이 있는 콘텐츠를 분류한다.

이 때 주로 걸러지는 영역은 흡연, 증오 행동, 알코올, 위험 도구 등이다. 예를 들어 식당에서 나이프를 쥐고 식사하는 장면은 정상 콘텐츠지만 이를 특정인을 향해 휘두르면 위해 가능성이 높은 행동으로 인식된다.

실제 현장 시연에서는 기자가 틱톡 앱으로 촬영한 영상이 TAC 내부 모니터와 실시간으로 연결됐다. 담배를 손에 들고 있을 때는 별다른 반응이 나타나지 않았지만 이를 입에 무는 순간 모니터에 표시된 '흡연' 행동 감지 수치가 빠르게 상승했다.

이처럼 틱톡은 '현실 세계에서 어떤 실제적 피해를 야기하는가'에 심사 중점을 두고 있다. 예를 들어 아동 성착취물 등 '성 학대' 콘텐츠는 즉각 삭제하는 반면 보디빌딩 대회에서의 과도한 근육 노출, 폴댄스나 밸리댄스 등 운동 목적의 의상 노출 등 기계가 판단하기 모호한 '회색 지대'는 24시간 대기하는 전문 심사역에게 넘어간다.

[싱가포르=뉴시스] 윤정민 기자 = 틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC, Transparency and Accountability Center)'에 마련된 콘텐츠 심사 체험 존. 머신러닝이 1차로 걸러낸 영상 중 맥락 파악이 필요한 콘텐츠들이 이곳 심사역들의 모니터로 전달되며 심사역은 영상 프레임별 데이터와 지역별 문화적 특성을 고려해 최종 조치를 내린다. 2026.03.04. [email protected]

TAC에는 실제 심사역들이 사용하는 업무 공간을 재현했다. 기자가 직접 체험한 모니터 화면에는 콘텐츠를 게시한 이용자의 계정 정보와 팔로워 규모, 공유 지표 등이 표시되고 심사해야 할 정책 카테고리도 함께 나타났다.

예를 들어 한 영상에는 ▲혐오 발언·행동 ▲괴롭힘·따돌림 ▲섭식 장애·신체 이미지 등 세부 정책 항목이 함께 제시됐다. 해당 콘텐츠는 특정 발언이 타인을 모욕하거나 공격하는 표현으로 해석될 수 있다는 이유로 자동 탐지 시스템에 의해 심사 후보로 분류된 사례였다.

심사역은 영상 프레임별 스크린샷과 댓글, 해시태그, 게시 맥락 등을 종합적으로 검토해 콘텐츠 가이드라인 위반 여부를 최종 결정한다.

틱톡 관계자는 AI가 명확한 위반 콘텐츠를 먼저 걸러주기 때문에 인간 심사역은 맥락 판단이 필요한 복잡한 사례에 더 많은 시간을 할애할 수 있다고 설명했다.

하지만 기자가 직접 콘텐츠를 분류해보니 찰나의 순간에 '표현의 자유'와 '이용자 보호' 사이의 균형을 맞추는 것이 쉽지 않았다. 틱톡은 심사역의 전문성을 위해 미국 검사 출신의 파트너십 총괄 등 다양한 전문가를 영입하고 콘텐츠 심사 교육도 강화하고 있다고 전했다.

또 사회적으로 이슈가 되거나 심사역도 판단하기 까다로운 영상은 시민단체, 비정부기구(NGO), 학계 전문가 등으로 구성된 외부 자문을 받아 콘텐츠 삭제 여부를 결정한다.

틱톡은 투명성 강화를 위해 2024년 기준 매년 20억 달러(약 2조8000억원)를 투자하고 있다. 틱톡 측은 안전에 3조원 가까이 투자하는 플랫폼이 세계적으로도 드물다고 강조했다.

취향 쫓되 버블에 갇히지 않게…유사성 77% 넘으면 '추천 피드' 새로 짠다

[싱가포르=뉴시스] 양수영 틱톡 동북아 신뢰안전팀 파트너십 매니저가 지난달 25일 틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC, Transparency and Accountability Center)'에서 한국 취재진을 대상으로 틱톡의 투명성 정책을 소개하고 있다. 2026.03.04. (사진=틱톡 제공)

TAC에는 콘텐츠 심사뿐 아니라 추천 알고리즘의 작동 방식을 설명하는 공간도 마련돼 있다. 틱톡의 추천 시스템은 8개 영상 배치 시스템을 통해 학습된다. 초기 사용자에게 서로 다른 카테고리 영상 8개를 보여준 뒤 시청 시간, 좋아요 등의 반응을 분석해 다음 8개 영상을 선보이는 방식이다.

다만 틱톡은 사용자가 특정 주제에만 갇히는 '필터 버블' 현상을 완화하기 위한 장치도 마련했다고 설명했다. 예를 들어 사용자가 여행 브이로그만 반복적으로 시청할 경우 일정 수준 이상 유사 콘텐츠가 쌓이면 알고리즘이 이를 감지해 스포츠나 음식, 반려동물 등 다른 주제의 영상을 함께 노출시키는 방식이다. 추천 콘텐츠의 유사성이 약 77% 이상으로 높아질 경우 이러한 조정이 이뤄진다.

[싱가포르=뉴시스] 윤정민 기자 = 틱톡 싱가포르 본사에 위치한 '투명성 및 책임 센터(TAC, Transparency and Accountability Center)'에서 틱톡 관계자가 추천 피드 일부 주제를 조정하는 법을 안내하고 있다. 2026.03.04. [email protected]

또 이용자가 추천 피드 일부 주제를 직접 조정할 수 있는 기능도 제공된다. 콘텐츠 선호도 설정에서 스포츠·여행·패션 등 특정 콘텐츠 영역의 노출 비중을 늘리거나 줄일 수 있어 추천 피드 구성을 일정 부분 이용자가 직접 관리할 수 있다.

최근 문제로 떠오른 'AI 슬롭(무분별한 AI 생성 콘텐츠)' 대응도 강화하고 있다. 틱톡은 플랫폼의 '독창성(Authenticity)'을 대안으로 제시했다. 틱톡 측은 "패턴화되고 뻔한 AI 콘텐츠는 알고리즘에서 높은 추천 가중치를 받기 어렵다"며 "조회수에만 단순 비례하지 않는 수익 구조 덕분에 AI 슬롭이 경제적으로 매력적이지 않다"고 설명했다.

틱톡은 AI 생성 콘텐츠 라벨링 시스템을 운영 중이며 관련 필터 기능의 국내 도입을 위한 파일럿 테스트를 진행하고 있다.


◎공감언론 뉴시스 [email protected]