"검찰입니다" 그놈 말투 알아채는 AI…SKT, 위험 목소리 탐지 기능 도입

SKT, 에이닷 전화에 보이스 피싱 탐지 기능 추가…범죄자 음성 특징 식별

대화 내용 텍스트 뿐 아니라 성문으로 목소리까지 분석

통화중 경고 팝업창 띄우고 알림음·진동으로 사용자에 안내

[서울=뉴시스]

[서울=뉴시스]심지혜 기자 = "검찰입니다. 계좌가 범죄에 연루됐습니다."

전화기 너머 들려오는 익숙한 수법의 말이다. 통화만으로는 상대의 진위를 가려내기가 어렵다.

하지만 이제 통화 내용뿐 아니라 상대의 목소리 자체를 인공지능(AI)이 분석해 보이스피싱 여부를 가려낼 수 있게 됐다. 몇 마디가 오가는 사이 스마트폰 화면에 '의심' 혹은 '위험' 경고를 띄우고, 소리 또는 진동 등으로 위험 상황을 알린다.

18일 SK텔레콤에 따르면 AI 기반 통화 서비스 '에이닷 전화'에 보이스피싱 범죄자의 음성 특징을 식별하는 ‘위험 목소리 탐지’ 기능이 새로 추가됐다. 보이스피싱 범죄가 갈수록 지능화되는 가운데 AI로 범죄자의 목소리까지 식별하는 통화 보안 체계를 구축한 것이다.

기존에는 통화 내용을 텍스트 기반 AI 모델로 분석해 보이스피싱 여부를 가려냈다면, 이제는 성문(Voiceprint) 데이터 분석까지 더해 탐지 체계를 한층 고도화했다.

성문은 사람마다 다르게 나타나는 고유한 음성 특징이다. 목소리의 높낮이와 억양은 물론, 특정 음절에서 힘을 주는 발음 습관, 호흡과 멈춤의 패턴 등을 종합해 화자를 식별하는 데 활용될 수 있다.

[서울=뉴시스] 에이닷 전화 AI 보이스피싱 탐지 기능 동작 화면. (사진=SKT 제공) *재판매 및 DB 금지

SK텔레콤은 이 같은 음성 특징을 보이스피싱 탐지에 적용했다.

우선 에이닷 전화는 통화 전 단계에서 스팸 및 피싱 의심 번호를 실시간으로 분석해 위험 전화 연결 자체를 차단한다. 통화가 이뤄지면 대화 내용을 텍스트로 실시간 분석한다. 이 과정에서 보이스피싱 의심 키워드, 대화 흐름과 패턴, 금융 정보 요구 여부 등을 종합적으로 살핀다.

이후 보이스피싱 의심 정황이 감지되면 단말 내 온디바이스 AI 모델이 상대방 화자의 목소리를 국립과학수사연구원으로부터 제공받은 보이스피싱 범죄자의 성문 데이터와 비교해 유사도를 분석한다. 음성의 유사성이 높다고 판단되면 사용자에게 즉시 위험 알림을 제공한다.

분석 결과는 심각도에 따라 ‘의심’과 ‘위험’ 두 단계로 구분되며, 통화 중 경고 팝업창과 알림음, 진동 등을 통해 사용자에게 즉시 알려준다. 다만 사용자의 연락처에 저장된 번호나 에이닷 전화의 ‘비즈연락처’에 등록된 공식 업체 번호에서 걸려온 전화는 분석 대상에서 제외한다.

[서울=뉴시스] 에이닷 전화, 통화 전·중·후 전방위적 보안 체계 (사진=SKT 제공) *재판매 및 DB 금지

SK텔레콤은 이처럼 텍스트와 음성 특징 분석을 결합한 ‘이중 탐지 구조’를 통해 보이스피싱 식별 정확도와 탐지 정밀도를 동시에 끌어올렸다고 설명했다. 현재 에이닷 전화의 통화 중 보이스피싱 탐지 정확도는 자체 평가 기준 약 96% 수준이다. 위험 통화 종료 이후에는 경찰청 신고 연결 및 수신 차단 기능을 추천하는 후속 조치도 제공한다.

통화 전 차단, 통화 중 실시간 탐지와 경고, 통화 후 신고 및 차단 안내까지 전 단계에 걸친 보안 체계를 구축한 것이다.

특히 성문 데이터는 개인 식별이 가능한 민감 정보에 해당하는 만큼 그동안 서비스 적용에 제약이 있었다. 이에 SK텔레콤은 과학기술정보통신부로부터 ‘ICT 규제 샌드박스 실증특례’ 승인을 받아 서비스 제공을 위한 법적 근거를 마련했다. 기획 단계부터 개인정보보호위원회와 정보통신산업진흥원(NIPA) 등 관계 기관과 협의를 거쳐 보안 기준을 적용했다. 보이스피싱 예방이라는 공익적 목적과 개인정보 보호를 함께 충족할 수 있도록 설계했다는 것이다.

에이닷 전화 AI 보안 기능의 또 다른 특징은 온디바이스 AI 기반 처리 방식이다. 통화 내용 분석부터 위험 알림까지 전 과정이 스마트폰 단말 내에서 실시간으로 처리된다. 통화 데이터가 외부 서버를 거치지 않고 별도 저장 없이 처리되는 구조인 만큼, 개인정보 유출이나 데이터 보관에 대한 우려를 낮추는 데 초점을 맞췄다.

SK텔레콤은 성문 데이터를 안전하게 활용하기 위해 올해 1월부터 개인정보보호 최고책임자(CPO) 주관 태스크포스(TF)를 꾸려 관련 기능 개발과 보안 체계 마련을 병행해왔다.

보이스피싱 탐지 기능은 에이닷 전화 설정 내 'AI 보안' 메뉴에서 활성화해 사용할 수 있다.

조현덕 SK텔레콤 에이닷전화 담당은 "통화 중 보이스피싱을 탐지하는 기존 AI 기능에 범죄자의 성문 데이터 분석까지 결합해 탐지 정확도를 더욱 높였다"며 "앞으로도 AI 기반 보안 기능을 지속적으로 고도화해 고객이 언제나 안전하고 편안한 통화 경험을 누릴 수 있도록 하겠다"고 말했다.


◎공감언론 뉴시스 [email protected]