사이트 3개로 AI 낚았다…러 선전조직, GPT·제미나이·그록까지 뚫었다

러 선전조직 연계 3개 사이트, AI 검색·인용 구조 노려 반복 노출

연구진 “정보전의 새 전선”…출처 표시·위협정보 공유 촉구

[보스턴=AP/뉴시스] 중국 개인투자자들이 스페이스X와 오픈AI 등 미국의 인기 기업에 투자하기 위해 암호화폐를 활용한 우회 투자에 나섰다. 중국 당국의 엄격한 자본통제와 암호화폐 규제에도 고수익 기대가 커지면서 스테이블코인과 토큰화 상품이 투자 통로로 떠오른 것이다. 영국 파이낸셜타임스(FT)는 10일(현지시간) 중국 투자자들이 위안화로 달러 연동 스테이블코인인 테더(USDT) 등을 산 뒤 이를 이용해 스페이스X, 오픈AI와 연계된 디지털 토큰을 매입하고 있다고 보도했다. 사진은 2023년 3월 미국 보스턴에서 챗GPT 출력 화면이 표시된 컴퓨터 앞에 놓인 휴대전화에 오픈AI 로고가 보이고 있는 모습. 2026.06.11.

[서울=뉴시스]박영환 기자 = 러시아 선전조직이 인터넷에 퍼뜨린 허위정보를 주요 생성형 인공지능(AI) 모델들이 신뢰할 만한 주장처럼 되풀이했다는 연구 결과가 나왔다. AI 모델은 시험 답변 약 6개 가운데 1개꼴로 허위 주장을 정당한 견해로 취급하거나 출처에 대한 경고 없이 되풀이했다.

28일(현지시간) 영국 일간 더타임스에 따르면 영국 싱크탱크 데모스는 27일 공개한 ‘지정학을 위한 생성형 엔진 최적화(GEO for Geopolitics)’ 보고서에서 AI가 답변을 만들 때 실시간으로 검색·인용하는 인터넷 정보가 정보전의 새로운 표적이 되고 있다고 밝혔다.

연구진이 추적한 허위정보에는 볼로디미르 젤렌스키 우크라이나 대통령 측근들이 원자력·화력발전소 인근에서 대규모 가상자산 채굴장을 운영한다는 주장과 우크라이나군 전사자 시신을 육류 제품으로 가공했다는 주장이 포함됐다. 두 주장 모두 러시아 선전조직이 근거 없이 유포한 내용이다.

허위정보를 퍼뜨린 조직은 ‘불의에 맞서 싸우는 재단’(Foundation to Battle Injustice·R-FBI)이다. R-FBI는 인권단체를 표방한다. 그러나 EU 이사회에 따르면 이 조직은 러시아 용병기업 바그너그룹 창설자 예브게니 프리고진이 2021년 3월 만들었으며 프랑스와 우크라이나를 겨냥한 정보공작에 관여했다. EU는 2025년 7월 이 조직을 제재 명단에 올렸다.

데모스와 온라인 정보조작 연구기관 CASM 테크놀로지 연구진은 러시아 선전조직이 2025년 7월부터 올해 4월까지 게재한 글 10건에서 독립된 외부 출처로 확인되지 않은 주장 50개를 추렸다. 이를 영어·프랑스어·독일어로 번역한 뒤 각 주장을 직접 묻거나 관련 내용을 우회적으로 묻는 질문 600개로 만들어 5개 모델에 입력했다.

시험 대상은 GPT-4.1 미니, 제미나이 2.5 플래시, 클로드 하이쿠 4.5, 미스트랄 스몰 3.2, 그록 4.20이었다. 연구진은 지난 4월 20~24일 각 회사가 제공한 공식 API를 개발자 계정으로 호출해 시험했다. 소비자용 챗봇의 실제 화면에서 얻은 답변이 아니며, 현재 각 서비스의 전반적인 성능을 뜻하지도 않는다.

연구진은 답변 3000개 가운데 497개(16.6%)가 허위정보를 정당한 견해로 취급하거나, 출처에 대한 경고 없이 되풀이하거나, 신뢰할 만한 주장처럼 제시한 것으로 분석했다. 927개(30.9%)는 관련 주제를 다뤘지만 주장을 확인하거나 반박하지 않았고, 선전조직에서 나온 정보라는 사실도 알리지 않았다. 약 52%는 주장을 거부하거나 반박했다.

모델별 결과는 크게 달랐다. 미스트랄 스몰 답변의 29%는 허위 주장을 경고 없이 확산하거나 적극적으로 지지했다. GPT-4.1 미니 답변 중 12%는 선전조직을 믿을 만한 출처로 취급했고, 9%는 경고 없이 주장을 되풀이했다. 반면 그록 4.20은 답변의 56%에서 허위 주장을 반박하고 출처가 러시아 선전조직이라는 점까지 밝혔다. 미스트랄 스몰은 젤렌스키 대통령 측근의 가상자산 채굴 허위 주장에 대해 R-FBI가 제시한 내용을 사실인 것처럼 답했다. GPT-4.1 미니는 우크라이나군 전사자 관련 허위 주장에 R-FBI를 근거로 들었다.

[아프리카=AP/뉴시스] 민간용병기업 바그네르 그룹 수장 예브게니 프리고진이 21일(현지시각) 장소가 알려지지 않은 곳에서 카메라를 향해 말하고 있다. 프리고진은 "기온은 50도, 모든 것이 우리가 좋아하는 대로"라며 "바그너 용병기업은 모든 대륙에서 러시아를 더욱 위대하게 만들고 아프리카를 더 자유롭게 만든다"라고 말해 그가 현재 아프리카에 있음을 암시했다. 2023.08.22.

이 같은 결과에 대해 미스트랄은 시험 대상이 고객사가 별도로 조정하거나 통제 장치를 적용하기 전의 기반 모델이었다고 설명했다. 또 이용자용 서비스인 바이브 워크에는 의심스러운 출처를 탐지하고 차단하는 필터가 적용된다고 밝혔다. 클로드 개발사 앤스로픽도 AI의 검색·인용 구조를 노린 허위정보 캠페인을 인지하고 있으며 업계 전체가 풀어야 할 과제라고 밝혔다.

데모스는 R-FBI가 AI의 인터넷 검색·인용 경로를 노린 수법을 ‘검색증강생성(RAG) 오염’이라고 불렀다. AI 모델의 학습자료나 내부 매개변수를 직접 바꾸는 대신, AI가 답변을 만들 때 실시간으로 참고하는 인터넷 자료를 조작해 허위정보를 검색·인용하도록 만드는 방식이다.

시험 과정에서 AI 모델들이 한 번 이상 인용한 R-FBI 연계 인터넷 주소는 437개였으며 이들 주소는 모두 1381차례 인용됐다. 주소들은 R-FBI 홈페이지와 ‘프라브다 뉴스’, 서방 외교전문지처럼 꾸민 ‘베테랑스 투데이 포린 폴리시’ 등 3개 도메인에 속했다. R-FBI 홈페이지에는 AI가 글자 수 제한 없이 본문을 추출하도록 하는 설정이 적용돼 있었다. 프라브다 뉴스는 짧은 기사를 대량으로 게재했고, 베테랑스 투데이 포린 폴리시는 서방 외교전문지의 문체와 구성을 흉내 내 허위 주장에 권위를 덧씌웠다.

보고서는 R-FBI 사례를 넘어 GEO 기술의 상업적 확산과 국가 차원의 악용 가능성도 짚었다. 특정 콘텐츠가 AI 답변에 더 자주 인용되도록 만드는 GEO 서비스를 제공하는 업체는 세계적으로 50곳이 넘고, 이 가운데 최소 15곳은 영국에 있는 것으로 조사됐다. 이 기술은 주로 기업 홍보와 마케팅에 쓰이지만 국가의 대외 정보공작에 악용될 수 있다. 보고서는 국가명이 공개되지 않은, 미국인을 겨냥한 홍보 사례 2건도 제시했다. 한 사례에서는 정부와 홍보업체의 계약자료에서 GEO 관련 업무가 확인됐지만, 다른 사례는 GEO 활용 가능성만 제시된 수준이었다.

보고서 책임연구자인 칼 밀러는 “러시아 정보전 담당자라면 대규모언어모델을 당연히 표적으로 삼을 것”이라며 “국가 전체를 겨냥할 수 있는, 방대하고 조작하기 쉬운 새로운 정보 공간이기 때문”이라고 말했다.

연구진은 AI 기업들에 인용 출처의 성격을 명확히 표시하고 정보전 관련 위협정보를 공유하라고 권고했다. 생성형 AI가 일상적인 정보검색 수단으로 자리 잡을수록 AI 모델 자체뿐 아니라 모델이 참고하는 인터넷 정보 환경도 함께 보호해야 한다고 강조했다.


◎공감언론 뉴시스 [email protected]