"지금 보는 뉴스, 진짜입니까?" AI가 설계한 '가짜 전쟁'의 역습[AI 인지전 下]

단톡방 ‘폭격 영상’의 소름 돋는 정체…AI가 던진 신뢰의 붕괴

AI vs AI 인지전의 진화…이제는 '정보 유포' 아닌 '해석 전쟁'

카톡·네이버 의존증…韓 '단일실패지점' 위기 될 수도

메시지 차단만으론 부족하다…AI 인지전 막을 '심리적 백신' 시급

[서울=뉴시스] 루아이리 로빈슨 영화감독이 '시댄스 2.0'으로 톰 크루즈와 브래드 피트의 격투 장면을 생성해 엑스에 올린 영상 *재판매 및 DB 금지

[서울=뉴시스]윤정민 기자 =
# 직장인 A씨는 최근 단체 채팅방에 올라온 비상방송 영상을 보고 가슴을 쓸어내렸다. 특정 지역에 폭격이 시작됐다는 뉴스 속보였다. 아나운서의 긴박한 목소리와 자막까지 완벽했다. 그러나 확인 결과, 이는 인공지능(A)이 조작한 정교한 허위 정보였다.

AI가 '인지전(Cognitive Warfare)'의 판도를 뒤흔들고 있다. 과거에는 가짜 뉴스를 만드는 데 막대한 인력과 시간이 필요했지만, 이제는 클릭 몇 번으로 고해상도 조작 영상을 대량 생산하는 시대가 열렸기 때문이다.

◇ 텍스트 두 줄에 '영화 속 격투' 뚝딱…진화하는 AI 기술

구글 딥마인드의 영상 생성 AI ‘비오(Veo)’는 텍스트만으로 고화질 영상은 물론, 대화와 효과음까지 완벽하게 구현한다. 바이트댄스의 ‘시댄스(SeaDance) 2.0’은 더 놀랍다. 단 두 줄의 텍스트로 톰 크루즈와 브래드 피트의 격투 장면을 영화 수준으로 만들어내 화제를 모았다.

이러한 기술은 단순한 콘텐츠 제작을 넘어 '실제와 구분 불가능한 허위 정보'로 진화하고 있다. 가짜 전투 현장이나 지휘관의 허위 브리핑 영상이 실제처럼 유포되면서, 일반 시민의 직관만으로는 진위를 가려내기 불가능한 단계에 진입했다는 평가다.

◇ 이제는 'AI vs AI' 대결…메시지 넘어 '신뢰' 흔든다

[그래픽=뉴시스] 재판매 및 DB금지. [email protected]

전문가들은 인지전이 'AI 대 AI'의 구도로 빠르게 전환되고 있다고 분석한다. 가짜를 만드는 기술과 이를 잡아내는 탐지 기술이 맞붙는 '안보 전쟁'이 시작된 것이다.

유도진 극동대 교수는 "현대 인지전은 단순한 유포 속도보다 그 정보가 나중에도 검증을 견딜 수 있느냐가 더 중요해지고 있다"며  "초기에 강하게 확산된 정보라도 사실관계가 흔들려 신뢰를 잃으면 오히려 안 하느니만 못한 역효과를 낼 수 있다"고 말했다. 즉, 이제는 무엇을 전달하느냐보다 '무엇을 믿게 만드느냐'는 해석과 신뢰의 싸움이 된 것이다.

AI 생성 콘텐츠 식별 기술, 워터마크 삽입, 가짜 계정 탐지 시스템 등 다양한 대응 기술이 개발되고 있지만 기술 발전 속도를 따라잡기 어렵다는 지적도 나온다. 유 교수는 "숏폼처럼 스마트폰으로 미디어를 빠르게 소비하는 환경에서는 조금만 주의하면 된다는 식으로 볼 문제가 아니다"라며 "디지털 문해력은 필요하지만 그것만으로는 충분하지 않다"고 말했다.

이장욱 한국국방연구원(KIDA) 실장은 "AI 콘텐츠 탐지 기술도 중요하지만, 확산을 막는 플랫폼 차원의 대응과 제도적 장치가 병행돼야 한다"고 강조했다. 이미 유럽연합(EU)은 디지털서비스법(DSA)을 통해 허위 정보 방치 시 매출의 최대 6%를 과징금으로 부과하는 등 강력한 규제에 나섰다.

"플랫폼이 곧 전장…국가 총력 대응해야"

[드루즈키우카=AP/뉴시스] 우크라이나 제93독립기계화여단 공보실이 제공한 사진에 2일(현지 시간) 도네츠크주 드루즈키우카 주거 지역이 러시아의 유도 공중폭탄 타격으로 파손돼 있다. 현지 당국은 이 공격으로 지금까지 최소 2명이 숨지고 11명이 부상했다고 밝혔다. 2026.03.03.

실제 전장에서는 인지전이 다양한 방식으로 전개된다. 허위 영상이나 조작 콘텐츠를 퍼뜨리는 것뿐 아니라 적군 장병이나 가족을 대상으로 메시지를 보내 심리적 동요를 유도하는 방식도 활용된다. 전문가들은 이러한 인지전이 전투 결과뿐 아니라 여론과 협상, 항전 의지까지 영향을 미친다고 말한다.

지난 2023년 3월 러시아-우크라이나 전쟁 당시 모스크바 지역 방송국이 해킹돼 허위 공습 경보가 송출되는 사건이 발생했다. 당시 시민들은 실제 공습으로 오인해 혼란에 빠졌는데 인지전이 사회 전반에 직접적인 영향을 미칠 수 있음을 보여준 사례로 꼽힌다.

한국처럼 모바일 메신저, 포털, 재난문자 등 특정 플랫폼 의존도가 높은 환경은 인지전에 취약하다는 지적이 나온다. 유 교수는 "한국의 경우 카카오톡, 네이버, 재난문자 등 특정 플랫폼에 대한 의존도가 극도로 높다"며 "평소에는 효율적일 수 있어도 위기 상황에서 잘못된 정보가 한 번 퍼졌을 때의 충격은 막강하다"고 지적했다.

보안학적으로 보면 이른바 ‘단일실패지점(Single Point of Failure)’이다. 위기 상황에서 특정 채널을 통해 허위 정보가 흐르면 국가 전체가 마비될 수 있다는 뜻이다.

그는 "(정부가) 허위정보 시나리오별 대응 매뉴얼을 갖추고, 특정 플랫폼이 흔들려도 국민이 확인할 수 있는 신뢰 가능한 대체 채널을 분명하게 마련해야 한다"며 "허위정보가 어디서 어떻게 확산되는지 조기에 식별하고 대응하는 체계가 핵심"이라고 전했다.

개인정보 보호도 중요한 방어 과제로 꼽힌다. 이 실장은 "가짜 계정은 유출된 개인정보를 활용해 모바일 인증을 거쳐 만들어지는 경우가 많다"며 "개인정보 보호를 철저히 하는 것이 인지전의 연료를 차단하는 가장 기본적인 대응"이라고 말했다.

그는 "사이버 공격과 개인정보 유출은 단순한 범죄 문제가 아니라 인지전의 재료를 공급하는 행위로 연계해서 바라봐야 한다"고 덧붙였다.

송태은 국립외교원 교수는 "인지전의 최종 목표는 단순히 속이는 것이 아니라, '진짜 뉴스까지 의심하게 만들어' 사회적 신뢰 자본을 갉아먹는 데 있다"며 "인지전의 목적과 수법을 사회 전체가 이해하는 '심리적 백신'이 필요하다"고 강조했다.

유 교수 또한 "인지전은 결국 사회 전체의 신뢰 기반을 약화시키는 싸움"이라며 "위기 시 무엇을 기준으로 사실을 확인할지 사회적 합의와 교육 훈련이 병행돼야 한다"고 밝혔다.


◎공감언론 뉴시스 [email protected]