"후보자가 이런 망언을?"…틱톡, 지선 앞두고 AI 허위정보 칼뺐다

틱톡, 6·3 지선 앞두고 딥페이크·허위정보 대응 강화

선관위와 전용 협력 채널 운영…위법 우려 콘텐츠 우선 검토

AI 생성 콘텐츠 라벨 요구…정치 광고·선거 모금 금지

[수원=뉴시스] 김종택기자 = 제9회 전국동시지방선거 사전투표를 열흘 앞둔 19일 경기 수원시 권선구 권선2동 행정복지센터에서 선거관리위원회 관계자들이 사전투표 모의시험을 하고 있다. 2026.05.19. [email protected]

[서울=뉴시스]윤정민 기자 = 글로벌 숏폼 플랫폼 틱톡이 다음 달 3일 지방선거를 앞두고 후보자 딥페이크 등 선거 관련 허위정보 차단에 나선다. 중앙선거관리위원회가 선거법 위반 소지가 있거나 우려가 있다고 판단해 신고한 콘텐츠를 우선 검토해 필요한 경우 삭제, 노출 제한, 계정 조치 등을 취한다.

틱톡은 20일 '선거 신뢰·공정성을 위한 플랫폼 안전' 온라인 브리핑을 열고 지방선거 대응 방안을 발표했다.

틱톡은 이번 지선 대응 핵심으로 ▲중앙선관위 공식 정보 연결 ▲선관위 협력 채널 구축 ▲인공지능(AI) 생성 콘텐츠, 허위정보 조치 ▲정치 광고·선거 모금 제한 등을 제시했다.

[서울=뉴시스] 틱톡 내 중앙선거관리위원회 공식 계정과 전국동시지방선거 정보 페이지 화면. 틱톡은 6·3 지방선거를 앞두고 중앙선거관리위원회와 협업해 선거 정보 안내, 허위정보 대응, AI 생성 콘텐츠 관리 등 플랫폼 안전 정책을 운영한다. 2026.05.20. (사진=틱톡 캡처)

틱톡에 따르면 중앙선관위는 이번 지선을 앞두고 공식 틱톡 계정을 운영하고 있다. 해당 계정은 선거 일정, 투표 절차, 사전투표 안내, 선거 제도 등 관련 정보를 이용자에게 전달한다.

틱톡은 앱 내 선거 정보 페이지 '선거센터'도 운영한다. 선거센터는 후보자 정보, 투표소 위치, 사전투표 일정, 선거제도 안내 등 선관위가 제공하는 공식 정보로 이용자를 연결하는 구조다. 이용자가 선거 관련 키워드를 검색하면 선거센터 안내 배너도 제공한다.

틱톡은 자체적으로 선거 정보를 해석·판단하지 않고 공신력 있는 선거 관리 기관의 정보로 이용자를 연결한다고 설명했다.

선관위 신고 콘텐츠 우선 검토…"정부 요청이라고 자동 삭제는 아냐"

틱톡은 선거 기간 중앙선관위 사이버선거범죄대응팀과 전용 협력 채널을 운영한다. 선관위가 틱톡 내 선거 관련 위법 또는 문제 가능성이 있는 콘텐츠를 신고하면 틱톡 신뢰·안전(TNS) 팀이 우선 검토하는 방식이다.

검토는 틱톡 커뮤니티 가이드라인을 기준으로 이뤄지며 한국 법 위반 여부도 추가적으로 고려한다. 필요한 경우 콘텐츠 삭제, 노출 제한, 계정 조치 등이 이뤄질 수 있다.

다만 틱톡은 정부 기관의 삭제 요청이라고 해서 자동으로 콘텐츠가 삭제되는 것이 아니며 정책 기준과 법적 근거를 확인해 조치한다고 설명했다. 정부 요청에 따른 콘텐츠 조치 내역은 틱톡 투명성 보고서에 공개한다.

틱톡은 이번 선거와 관련해 별도 TF를 운영하고 자동화 기술과 사람의 검토를 결합해 선거 콘텐츠를 관리한다. 이번 선거에서 투표일, 투표 장소, 투표 자격, 투표 절차 등과 관련해 이용자를 오도할 수 있는 허위정보를 허용하지 않을 방침이다.

특히 지방선거는 후보자가 많고 지역별 이슈가 세분화돼 있는 만큼 지역 단위 허위정보와 조작 콘텐츠 대응도 관건이다. 틱톡은 한국어 검토 역량과 글로벌 팩트체킹 기관 '리드 스토리스', 중앙선관위 협력 채널, 한국 전문가가 포함된 안전자문위원회 자문을 활용한다.

AI 생성 콘텐츠 대응도 강화한다. 틱톡은 실제 인물의 발언이나 행동을 허위로 보이게 하거나 실제로 발생하지 않은 사건을 사실처럼 보이게 해 이용자 판단에 영향을 줄 수 있는 콘텐츠는 삭제 대상이라고 설명했다.

사실적으로 보이는 AI 생성 콘텐츠에는 라벨 표시를 요구하되, 라벨이 붙었더라도 가이드라인을 위반하면 삭제·제한할 수 있다.

즉각 삭제까지 필요하지 않더라도 추가 확인이나 확산 방지가 필요한 경우에는 추천 피드 노출 제한, 공유 전 경고 표시, 미확인 라벨 적용 등 조치를 취할 수 있다.

정치 광고·선거 모금 금지…"정치 성향 기준 추천 배제 안 해"

[서울=뉴시스] 틱톡은 20일 오전 '선거 신뢰·공정성을 위한 플랫폼 안전' 온라인 브리핑을 열고 이번 지선 대응 방안을 밝혔다. 2026.05.20. (사진=틱톡 제공) *재판매 및 DB 금지

틱톡은 정부·정치인·정당 관련 계정을 별도로 분류해 관리하고 있으며 이들 계정은 정치 관련 광고를 할 수 없다.

정치적 목적의 모금이나 선거 관련 기부 유도도 금지한다. 정부, 정치인, 정당 관련 계정은 크리에이터 수익화 또는 인센티브 프로그램에도 참여할 수 없다.

틱톡은 추천 알고리즘과 관련해 이용자의 관심사와 콘텐츠 참여도를 기반으로 작동한다고 말했다. 정치적 견해나 정당 소속, 특정 후보자 지지 여부를 근거로 콘텐츠를 선호하거나 배제하지 않는다고 강조했다.

틱톡 관계자는 "플랫폼은 열린 대화를 할 수 있는 환경을 제공해야 하지만 동시에 커뮤니티를 위험으로부터 보호해야 한다"며 "유해한 허위정보, 기만적 행위, AI 생성 콘텐츠 오용, 혐오나 폭력 조장과 같은 위험으로부터 이용자를 보호하기 위해 노력하고 있다"고 말했다.


◎공감언론 뉴시스 [email protected]