경찰, 허위조작 콘텐츠 판별 시스템 개발…한·독 공동 연구 첫 사례

딥페이크 등 허위조작 콘텐츠 탐지 기술 개발 추진

한국·독일 과학치안 국제공동연구 첫 사례

[서울=뉴시스] 정병혁 기자 = 경찰청. [email protected]

[서울=뉴시스]이수정 기자 = 경찰이 독일 노르트라인베스트팔렌주 경찰과 공동으로 허위조작 콘텐츠의 진위여부를 판별하는 시스템 개발에 착수한다. 이번 연구는 한·독 과학치안 국제공동연구의 첫 사례다.

경찰청은 26일 오전 10시 서울 서대문구 경찰청 어울림마당에서 '허위조작 콘텐츠 진위여부 판별 시스템 개발' 착수보고회를 개최했다고 밝혔다.

최주원 경찰청 미래치안정책국장과 최귀원 과학치안진흥센터(KIPoT) 소장이 참석한 가운데 연구 컨소시엄의 정수환 숭실대 교수, 우사이먼성일 성균관대학교 교수, 토비아스 마이젠 독일 부퍼탈 대학 교수가 참석해 분야별 연구 추진계획을 발표했다.

경찰청 최초의 국제공동연구인 '허위조작 콘텐츠 진위여부 판별 시스템 개발'은 생성형 인공지능(AI)의 활용이 대중화됨에 따라 증가하고 있는 '조작된 가짜 콘텐츠'를 탐지하기 위한 데이터셋 구축과 통합시스템 개발을 목표로 2025년부터 2027년까지 3년간 진행된다.

올해 초 공모 및 평가절차를 거쳐 숭실대(주관연구기관), 성균관대, 연세대, 한컴위드가 참여하는 연합체를 국내 연구기관으로 선정했고, 독일 노르트라인베스트팔렌 주 범죄수사청(LKA)의 추천을 받아 현장실사와 선정평가를 거쳐 부퍼탈 대학을 공동연구기관으로 선정했다.

연구 첫해인 올해에는 딥페이크, 딥보이스, 가짜뉴스 탐지용 데이터셋 구축과 탐지모델 고도화를 추진한다. 내년부터는 머신러닝 모델의 개발부터 배포·운영까지 과정을 자동화해 관리하는 시스템(MLOps) 기반의 통합 탐지시스템의 성능 고도화 및 실증 테스트를 진행할 예정이다.

최주원 경찰청 미래치안정책국장은 "이번 연구가 다양성에 기반한 데이터셋과 공정한 알고리즘을 통해 허위조작 콘텐츠 문제의 해법을 제시해주길 바란다"고 말했다.


◎공감언론 뉴시스 [email protected]