"AI, 토론서 사람보다 더 설득력 있어…여론 유도 가능"

네이처휴먼비해비어 게재 인간·AI 참여 연구 결과

[뉴시스] 인공지능 이미지.(사진=뉴시스 DB) [email protected] *재판매 및 DB 금지

[서울=뉴시스] 강세훈 기자 = 인공지능(AI)이 토론에서 사람보다 효과적으로 상대방을 설득할 수 있다는 연구 결과가 나왔다고 워싱턴포스트(WP) 등 외신들이 19일(현지 시각) 보도했다.

학술지 네이처휴먼비해비어(Nature Human Behavior)에 따르면 미국 거주자 900명이 참여한 AI 챗봇과의 온라인 토론 연구에서 챗GPT 등 AI챗봇(LLM·거대언어모델)은 인간보다 64% 더 설득력이 있는 것으로 분석됐다.

이 연구에서 성별·나이·민족·교육수준·고용상태·정치적 입장 등 인구통계학적 정보는 인간과 AI 모두에게 제공됐으며, 이들은 낙태·화석연료 금지 여부 등 정치사회적 쟁점에 대해 토론을 진행했다.

연구에선 상대의 인구통계학적 정보를 얻지 못한 AI조차도 인간보다 더 설득력이 있는 것으로 나타났다.

인간의 경우 상대방의 인구통계학적 정보를 알고 있을 경우 설득력이 약간 떨어지는 것으로 분석됐다.

연구 공동 저자인 리카르도 갈로티 브루노케슬러연구소 복합인간행동부문 책임자는 "자동화된 LLM 기반 자동화 계정들이 공공 여론을 전략적으로 유도할 수 있는 기술적 수준에 도달했다"고 밝혔다.

이어 "웹에 흩뿌려진 엄청난 양의 개인 데이터를 통해 가능해지는 마이크로타기팅(microtargeting) 관행에 대해 모든 사람이 인식하는 것이 시급하고 필수적"이라면서 "AI 기반 타깃 설득은 기본적이고 비교적 쉽게 구할 수 있는 정보만으로도 이미 매우 효과적이다"고 덧붙였다.

다른 전문가들도 이번 연구 결과와 관련해 우려를 표했다.

옥스퍼드대 기술·규제학과 샌드라 왁터 교수는 "매우 우려스럽다"면서, 특히 AI모델들이 이런 설득력을 이용해 어떻게 거짓말과 허위 정보를 퍼뜨릴지가 가장 우려스럽다고 말했다.


◎공감언론 뉴시스 [email protected]