한양대-국민대, 검증형 AI 기술 'vCNN'으로 IEEE TDSC 최우수논문상

입력·모델 공개 필요 없는 기술

대규모 서비스 적용 기대

[서울=뉴시스] (왼쪽부터) 오현옥 교수, 김지혜 교수, 국민대 이승화 박사, 한양대 고한경 박사. (사진=한양대 제공) 2025.08.13. [email protected]
 *재판매 및 DB 금지

[서울=뉴시스]전수현 인턴 기자 = 한양대 정보시스템학과 오현옥 교수 연구팀과 국민대 전자공학부 김지혜 교수 연구팀은 'IEEE 신뢰성과 보안 컴퓨팅 논문지(IEEE Transactions on Dependable and Secure Computing, TDSC)'의 지난해 최우수논문상(Best Paper Award)을 수상했다고 13일 밝혔다.

연구팀은 공동 개발한 검증형 인공지능(Verifiable AI) 기술 'vCNN(검증 가능 합성곱 신경망, Verifiable Convolutional Neural Network)'을 통해 이번 수상을 거뒀다.

이번 연구는 인공지능 추론 결과의 신뢰성을 입력 데이터나 모델을 공개하지 않고도 증명할 수 있다는 점에서 높은 평가를 받았다.

최근 AI가 의료 진단·금융 사기 탐지·공공 서비스 등으로 확산됨에 따라 결과 계산의 정확성 보장이나 민감 데이터 보호, 모델 가중치 비공개 등의 필요성이 커지고 있다. 그러나 기존 방식은 정확성 검증을 위해 개인정보나 영업 비밀을 노출하거나, 암호학적 기법 적용 시 과도한 계산 시간이 걸렸다.

[서울=뉴시스] 검증 가능 AI 의료 서비스 시나리오 이미지. (사진=한양대 제공) 2025.08.13. [email protected]
 *재판매 및 DB 금지

공동연구팀이 개발한 vCNN은 영지식증명(zk-SNARKs)을 활용해 입력과 모델을 공개하지 않은 채 'AI가 규정 절차대로 정확히 계산했다'는 사실만을 짧고 간결한 증명으로 제공한다.

특히 CNN의 핵심 연산인 합성곱(convolution) 증명 방식을 새롭게 설계해 기존 O(l·n)(커널 크기 l, 데이터 크기 n)이던 복잡도를 O(l + n)으로 줄였다.

그 결과 MNIST 모델에서 약 20배, VGG16 모델에서 약 1만8000배의 증명 속도 향상을 달성했으며 보안성 또한 수학적으로 입증했다.

오 교수는 "향후 의료·금융 등 실제 AI 적용 분야에서 신뢰성을 제공할 수 있도록 발전시켜 나가겠다"고 수상 소감을 밝혔다.


◎공감언론 뉴시스 [email protected]