"AI가 24시간 성착취물 추적"…정부, 자동삭제시스템 도입

성평등가족부, 3대 핵심 기술 시스템 정식 도입

2만개 사이트 1분 내 삭제 요청…AI 기반 대응 강화

[서울=뉴시스] 김선웅 기자 = 원민경 성평등가족부 장관이 지난 1월 23일 서울 종로구 정부서울청사 성평등가족부에서 열린 디지털성범죄 대응 및 안전한 온라인 환경 조성을 위한 성평등가족부-방송미디어통신위원회 업무협약식에서 인사말을 하고 있다. 2026.01.23. [email protected]

[서울=뉴시스] 고홍주 기자 = 성평등가족부가 디지털 성범죄 피해 대응을 위해 인공지능(AI) 기반 자동삭제요청시스템 등을 정식 도입한다.

성평등부는 삭제요청 자동화와 아동·청소년 온라인 성착취물 선제 대응, AI 기반 딥페이크 탐지 등 3대 핵심 기술 시스템을 정식 도입한다고 1일 밝혔다.

이번 시스템 도입으로 기존의 수동적이고 사후적인 대응 방식에서 벗어나 디지털 성범죄 대응체계를 자동화·지능화하고, 대응 속도와 정확도를 높일 수 있을 것으로 기대된다.

우선 피해영상물 삭제요청 자동화로 약 2만개의 웹사이트에 대한 삭제요청부터 처리 이력 관리까지 전 과정이 자동화된다. 건당 처리 시간은 1분 이내로 단축된다.

특히 중앙디지털성범죄피해자지원센터(중앙디성센터)의 삭제지원시스템을 미국 국립실종학대아동방지센터(NCMEC) 및 글로벌 CDN 사업자 클라우드플레어(Cloudflare)와 API로 연계해, 우회 접속 URL까지 포함한 대량 자동 삭제요청이 가능해졌다.

기존에는 담당자가 전체 수집 사이트의 삭제 경로를 직접 탐색하고 접수해야 해, 오류나 누락이 빈발하기도 했다. 하지만 시스템 도입 후 전체 수집사이트의 70% 이상을 API로 연동해 자동 삭제 요청할 수 있도록 하고, 이력 자동 관리·추적으로 누락없는 사후 관리가 가능해졌다는 설명이다. 종사자 보호를 위한 촬영물 필터(회색조 처리) 기능도 도입됐다.

아동·청소년 온라인 성착취 선제적 대응 시스템도 마련된다.

이는 AI 기술을 활용해 SNS, 랜덤채팅앱 등에서 아동·청소년 성착취물과 유인정보를 24시간 자동 수집·분석하고 자동으로 신고 및 삭제요청하는 시스템이다.

앞서 성평등부는 정식 도입에 앞서 25일간 시스템을 시범운영 했다. 그 결과 디지털성범죄피해자지원센터(디성센터) 종사자 1인당 일평균 수집 건수가 아동·청소년 성착취물은 2.7배 이상, 성착취 유인정보는 80배 이상으로 대폭 증가한 것으로 나타났다.

이번 시스템에는 키워드 탐지, 이미지 내 텍스트 추출, 신체 노출도 판단, 아동·청소년 여부 추정, 유사 이미지 대조 등 다단계 분석을 통해 아동·청소년 성착취물 여부를 판단하는 기능이 탑재됐다.

성평등부는 향후 아동·청소년 성착취물을 신속하게 삭제 지원하고 성착취 유인정보는 신고와 전문 상담원이 개입하는 '온라인 아웃리치'를 병행해 맞춤형 통합지원을 강화할 예정이다.

아울러 AI 기반 딥페이크 탐지 솔루션이 도입돼, 모니터링 중 합성·편집물로 의심되는 영상물이 발견되면 곧바로 삭제지원해 추가 유포가 차단될 수 있을 전망이다.

원민경 성평등부 장관은 "기술 발전에 따라 진화하는 디지털 성범죄에 맞서 더 강력하고 신속한 대응이 필요한 시점"이라며 "AI 기술을 현장에 본격 도입해 대응 속도와 정확도를 높이고, 촘촘한 지원체계를 구축해 피해자의 신속한 일상 회복을 위해 앞장설 것"이라고 말했다.

[서울=뉴시스] 성평등가족부가 인공지능(AI) 기반 디지털 성착취물을 24시간 자동 탐지하고 분석하는 시스템을 도입한다고 1일 밝혔다. 2026.04.01. (자료=성평등가족부 제공) *재판매 및 DB 금지

◎공감언론 뉴시스 [email protected]