"저 영상, 나 아녜요"…가짜 영상 잡는 딥페이크 탐지 서비스 나왔다

라바웨이브·딥브레인AI 등 딥페이크 탐지 솔루션 개발

딥페이크 기술 악용한 조작된 영상·이미지·음성 탐지

[대구=뉴시스] 대구 한 기초의원에게 온 딥페이크 협박 이메일. (사진=대구 동구의회 제공) 2024.11.18. [email protected] *재판매 및 DB 금지

[서울=뉴시스] 오동현 기자 = #. 서울·인천·부산·광주·대구 등 전국 각지의 기초의원 30명이 딥페이크 협박 메일을 받았다고 경찰에 신고했다. 피해자는 모두 남성 의원이며, 본인의 얼굴이 합성되거나 여성과 함께 누워있는 사진을 메일로 받았으며 "당신의 범죄 증거를 갖고 있다" "문자를 보면 당장 연락하라" 등 협박 메시지도 함께 담긴 것으로 전해졌다.

#. 딥페이크에 의한 '사진 포비아(공포증)' 현상은 졸업 앨범에도 적용되고 있다. 졸업 시즌에는 딥페이크 합성을 두려워 한 교직원들이 졸업앨범 촬영을 꺼려 '선생님 사진 없는' 졸업 앨범을 나눠주는 웃지 못할 상황이 벌어지고 있다.

이처럼 최근 딥페이크 기술을 악용한 범죄는 특정 성별에 국한된 것이 아니라 남녀노소 직업을 가리지 않고 사회 전반에 걸쳐 무차별적으로 확산되고 있다. 

지난해 8월 사회적으로 큰 논란이 됐던 텔레그램 단체채팅방 딥페이크 음란물 유포 사건 이후 범정부 차원의 '딥페이크 성범죄 대응 TF'를 통해 재발 방지책을 마련했고, 경찰청도 최근까지 딥페이크 집중 단속을 시행하고 있지만 여전히 딥페이크 기술을 악용한 범죄가 활개를 치고 있다.

이에 국내 정보기술(IT) 기업들이 딥페이크 탐지 솔루션을 개발해 디지털성범죄, 보이스피싱 등 범죄 예방 및 피해 최소화에 나서고 있다. 라바웨이브와 딥브레인AI 등이 대표적이다.

[부산=뉴시스] 연예인 딥페이크를 이용한 불법 도박 홍보 영상 (그림=부산경찰청 제공) 2025.01.20. [email protected] *재판매 및 DB 금지

디지털 범죄 대응 전문기업 라바웨이브는 불법 촬영물 및 딥페이크 영상 탐지 솔루션 '라바 스캐너(LAVAR SCANNER)'를 출시했다.

'라바 스캐너'는 불법 콘텐츠가 SNS(사회관계망서비스), 포르노 사이트 등 인터넷망을 통해 유통 가능한 영역 전반을 탐지하고, 얼굴뿐만 아니라 배경과 물체까지 분석하는 고도화된 기술을 탑재했다.

예를 들어, 특정 영상 속 빨간색 커튼과 같은 배경 요소를 기준으로 해당 사물이 등장하는 모든 영상·이미지를 찾아내거나, 특정 포즈나 촬영 구도가 비슷한 영상·이미지를 자동으로 식별할 수 있다.

라바웨이브 관계자는 "라바 스캐너를 통해 불법 영상물의 실제 인터넷상 유통 가능성을 차단함으로써 피해자가 트라우마를 겪지 않도록 돕는 것은 물론, 불법 영상물의 삭제까지 지원하는 등 실효적인 피해 복구에도 힘쓸 것"이라며 "특정 신체 부위의 탐지, 성문 분석, 동영상 프레임 단위 인식 등 기능 강화를 통해 디지털 범죄 예방 및 피해자 보호에 앞장설 예정"이라고 밝혔다.

[서울=뉴시스] 11일 교육부가 발표한 학교 딥페이크 불법영상물 관련 청소년 인식조사 결과에 따르면 청소년 75%는 딥페이크에 대한 불안함을 느끼고 있는 것으로 나타났다. 청소년들은 딥페이크가 범죄라고 인식했고, 가해자가 처벌을 받아야 한다고 생각하고 있었다. (그래픽=전진우 기자) [email protected]

국내 생성형 AI 전문 기업 딥브레인AI는 지난해 11월 딥페이크 자동 탐지 솔루션을 누구나 구독 형태로 간편하게 도입할 수 있는 서비스형 소프트웨어(SaaS)를 공개했다.

딥브레인AI의 딥페이크 탐지 솔루션은 ▲영상 탐지 ▲이미지 탐지 ▲음성 탐지를 바탕으로 페이스 제너레이션(얼굴 생성), 페이스 스왑(얼굴 교환), 립싱크 합성 등 다양한 유형의 조작된 합성 콘텐츠를 탐지한다. 이 솔루션은 소프트웨어 품질 인증 'GS' 1등급을 획득했다.

특히 딥브레인AI 솔루션은 사용자가 찾고자 하는 인물의 특징이나 키워드 등 정보를 입력하면, 유튜브와 틱톡, 엑스(옛 트위터), 텔레그램 등 다양한 플랫폼을 자동으로 탐지한다. 불법 성인 영상물의 경우 2차 피해 방지를 위해 노출된 부분을 블러 처리하는 등 윤리적인 기준까지 더욱 강화했다.  

장세영 딥브레인AI 대표는 "딥페이크 관련 범죄 확산 방지에 보탬이 되고자 지난해는 기업, 관공서 등을 대상으로 딥페이크 탐지 솔루션을 무료 지원한 바 있다"며 "GS 1등급 인증 획득을 계기로 AI 순기능을 위한 기술 개발에 더욱 힘쓰는 것은 물론, 다양한 주체와 협력을 통해 전방위적 지원을 적극 확대해 나가며 사회적 책임을 다하겠다"고 전했다.       

◎공감언론 뉴시스 [email protected]