한양대 연구진, 'CHI 2026'서 AI 가치 정렬 연구 3편 발표

다음 달 스페인 바르셀로나서 발표

한양대·네이버·한국정보통신기술협회·충북대 공동 연구

[서울=뉴시스] 한양대 한경식 데이터사이언스학부 교수. (사진=한양대 제공) 2026.03.11. [email protected] *재판매 및 DB 금지

[서울=뉴시스]박시은 인턴 기자 = 한양대학교는 데이터사이언스학부 한경식 교수 연구팀이 다음 달 스페인 바르셀로나에서 개최되는 인간-컴퓨터 상호작용(HCI) 분야 세계 최고 권위 학술대회 'CHI 2026'에서 인공지능 가치 정렬(Value Alignment) 문제를 해결한 세 편의 연구 성과를 발표한다고 11일 밝혔다.

대규모언어모델(LLM)이 일상에 깊숙이 자리 잡으면서 AI(인공지능)가 성능을 높이는 것을 넘어 '인간의 가치와 의도에 얼마나 부합하는가'를 의미하는 가치 정렬 연구의 중요성이 높아지고 있다. 한양대를 주축으로 구성된 네이버(NAVER)·한국정보통신기술협회(TTA)·충북대 공동 연구진은 이번 대회에서 그 해법을 제시할 예정이다.

한양대·충북대 연구진이 공동 개발한 '쿼리스위치(QuerySwitch)'는 패션 디자인 과정에서 사용자가 디자인 단계에 따라 AI의 모호성 수준을 자유롭게 조절할 수 있도록 설계됐다. 이는 AI가 지나치게 구체적인 결과만 생성해 의도에서 벗어난 결과를 만드는 문제를 해결하며 '인간 중심의 창의적 협업 모델'의 방향성을 제시했다는 평을 받는다.

아울러 네이버·TTA와 함께 진행한 연구에서는 LLM이 인간을 기만적으로 설득할 때 사용하는 8가지 전략을 체계화한 '기만 전략 분류체계'를 구축했다. 600여 명을 대상으로 한 실험을 바탕으로, 연구진은 사용자를 보호하기 위한 방어 가이드라인을 제안해 안전한 AI 설계의 토대를 마련했다.

또한 한양대 사회학과 김한성 교수 및 충북대 김보관 교수팀과 함께 과학적 연구의 신뢰성을 확보하고자 진행한 연구에서는 연구자의 의도를 정확히 파악해 통계 분석을 돕는 시스템 'LAPS(랩스)'를 개발했다.

한경식 교수는 "AI 기술이 고도화될수록 기술적 성능만큼이나 인간의 가치에 맞닿은 '가치 정렬'을 고려하는 것이 필수적"이라며 "이번 연구들이 향후 다양한 도메인에서 안전하고 신뢰할 수 있는 인간-AI 협력 환경을 구축하는 밑거름이 되길 기대한다"고 밝혔다.


◎공감언론 뉴시스 [email protected]