AI로 딥페이크 성범죄물 찾는다…범부처 대응체계 구축

성평등부·행안부·방미통위 업무협약 체결

AI 딥페이크 탐지·분석모델로 성범죄 대응

대응 전 과정에 AI 연계…보안 기준도 강화

[서울=뉴시스] 김선웅 기자 = 윤호중 행정안전부 장관이 지난 3월 10일 종로구 정부서울청사에서 국립과학수사연구원의 AI 딥페이크 탐지 분석 모델 시연을 참관하고 있다. 2026.03.10. [email protected]

[서울=뉴시스]박정영 기자 = 정부가 딥페이크 성범죄에 대응할 수 있는 인공지능(AI) 기술을 활용하기 위한 범부처 대응체계를 구축한다.

성평등가족부, 행정안전부, 방송미디어통신위원회는 25일 오후 정부서울청사에서 '딥페이크 성범죄 대응 기술협력을 위한 업무협약'을 체결했다.

이번 협약은 생성형 AI 기술의 발전으로 딥페이크 성범죄가 지능화·고도화되고 피해영상물이 빠르게 확산되는 상황에 대응하기 위해 마련됐다.

특히 정부는 행안부가 국립과학수사연구원과 협업해 개발한 'AI 딥페이크 탐지·분석모델'을 관계기관과 공유해 피해영상물 대응 과정에 활용할 예정이다.

이날 협약식에는 김민재 행안부 차관, 정구창 성평등부 차관, 고민수 방미통위 상임위원 등이 참석했다.

협약에 따라 세 기관은 ▲AI 딥페이크 탐지·분석모델 공유 및 활용 ▲피해영상물 탐지·삭제·차단 절차 연계 ▲2차 피해 방지를 위한 정보보호·보안조치 등을 진행한다.

행안부는 AI 기술 발전에 맞춰 AI 딥페이크 탐지·분석모델을 고도화하는 등 지속가능한 모델을 제공한다.

성평등부는 기존의 민간 딥페이크 탐지모델과 함께 이번 AI 탐지·분석모델을 활용하고 피해영상물 처리, 보안 등 업무기준을 마련해 2차 피해를 방지한다.

방미통위는 딥페이크 성범죄 의심 콘텐츠의 온라인 유통에 대응하고 플랫폼 사업자와의 삭제·차단 협력체계를 강화한다. 또한 재유포·변형 콘텐츠에 대응하기 위해 관계기관 간 협력을 확대한다.

세 기관은 이번 협약을 통해 딥페이크 성범죄 대응 전 과정에 AI 탐지·분석 기술을 연계하고, 피해영상물 처리 과정에서 개인정보와 피해자 인권 보호를 최우선으로 고려해 보안관리 기준을 강화할 방침이다.

윤호중 행안부 장관은 "딥페이크 성범죄는 피해 확산 속도가 빠르고, 재유포·변형으로 인한 2차 피해 우려가 큰 만큼 관계기관 간 신속한 공동대응이 중요하다"며 "AI 딥페이크 탐지·분석모델을 관계기관과 공유하고 탐지·분석부터 삭제·차단, 피해자 보호까지 이어지는 기술 기반 협력체계를 구축해 나가겠다"고 말했다.

정구창 성평등부 차관은 "이번 협약을 계기로 탐지부터 삭제, 수사·의료·치유회복 지원까지 이어지는 피해자 지원체계를 더욱 강화하겠다"고 했다.

고민수 방미통위 상임위원은 "딥페이크 성범죄물의 신속한 삭제·차단과 재유포 방지를 위해 관계기관과 적극 협력하겠다"고 강조했다.


◎공감언론 뉴시스 [email protected]