딥페이크 'AI 3중 대응'으로 잡았다…경찰, 올해 419명 검거

1~7월 피의자 419명 검거…17명 구속

탐지→영상 분석→AI 포렌식 '3중 대응'

선거범죄·허위정보 유포 등 적용 확대

[서울=뉴시스] 한이재 기자 = 지난해 9월 19일 오후 서울 서대문구에 있는 경찰청 청사 전경. 2025.09.19. [email protected] *재판매 및 DB 금지

[서울=뉴시스]이다솜 기자 = 경찰이 AI(인공지능)을 활용한 딥페이크 탐지와 디지털 포렌식 등을 통해 올해 들어 허위영상물(딥페이크) 범죄 피의자자를 대거 검거했다.

경찰청 국가수사본부는 올해 1~7월 딥페이크 범죄 피의자 419명을 검거하고 이 가운데 17명을 구속했다고 13일 밝혔다.
  
경찰은 딥페이크 범죄에 대응하기 위해 ▲딥페이크 탐지 소프트웨어 판별 ▲과학수사 영상 분석관 판독 ▲AI 범행도구 분석 등 3중 대응체계를 운영하고 있다.

딥페이크 탐지 소프트웨어는 얼굴 생성·교체 여부와 눈 깜빡임, 혈류 변화 등 생물학적 특징, 파일 메타데이터 구조 등을 종합적으로 분석해 영상의 합성 여부를 판단한다.

경찰은 국내 허위영상물 탐지에 특화된 AI 모델을 탑재해 지속적으로 성능을 고도화하고 있다. 해당 소프트웨어를 개발한 이후 현재까지 총 1636건의 수사에 활용했다.

특히 올해는 선거범죄 등 다른 수사 분야에서도 72건 활용되는 등 적용 범위를 넓혔다.

탐지 소프트웨어를 통해서도 영상의 조작 여부가 명확하게 확인되지 않는 경우에는 과학수사 영상분석관이 영상 분석 프로그램을 이용해 위·변조 여부를 추가로 검증한다.

AI를 활용한 디지털 포렌식 기법도 수사에 활용되고 있다. 경찰은 딥페이크 제작에 악용되는 상용 AI 프로그램의 특이점을 분석한 ‘AI 포렌식 기법’을 개발해 피의자가 어떤 프로그램을 이용해 영상을 조작했는지, 영상의 어느 부분을 변경했는지 등을 분석하고 있다.

이를 통해 제작부터 유포까지 범행 과정을 재구성하고 여죄와 범행의 고의성을 확인하는 데 활용한다.

경찰은 지난 3월 해외 성인사이트에 자신의 사진을 합성한 성적 허위영상물이 게시됐다는 신고를 잇달아 접수했다.

관련 사건의 증거를 확보하고 유포 사이트의 범행 계정과 게시물을 삭제하도록 한 뒤 딥페이크 탐지 소프트웨어로 영상물을 분석했다.

영상물에서 동일한 특징을 확인한 경찰은 동일인이 영상을 제작했을 가능성에 무게를 두고 수사해 20대 남성을 검거하고 구속 송치했다.

또 SNS(사회관계망서비스) 계정을 통해 성착취 허위영상물을 제작·판매한 20대 남성을 검거한 사건에서는 AI 디지털 포렌식 기법을 활용해 영상 제작에 사용된 생성형 AI 프로그램과 편집 전 원본 사진을 추가로 확보했다.

경찰은 이를 토대로 영상 제작을 의뢰한 사람에 대해서도 수사를 이어가고 있다.

경찰은 향후 딥페이크 탐지 기술을 디지털 성범죄뿐 아니라 허위정보 유포와 전기통신금융사기 등 AI를 악용한 범죄 전반으로 확대 적용할 방침이다.

경찰청 국가수사본부는 “기술이 진화하는 속도 이상으로 경찰의 대응 기술을 발전시켜 나가고 있다”며 “관련 시스템 고도화와 집중단속을 통해 허위영상물 범죄에 무관용 원칙으로 강력 대응하겠다”고 밝혔다.


◎공감언론 뉴시스 [email protected]