中 전문가 “군용 AI, 항공기 크기 등 잘못 인식하는 환각 위험성”

中 주력 J-20·차세대 스텔스 J-36 설계 연구소 엔지니어들 지적

“방위 AI 그럴듯하지만 기본적 물리법칙·설계 원칙 무시할 수도”

美 이란 초등학교 오폭 175명 사망도 AI의 실패 사례로 포함

[창춘=신화/뉴시스] 지난해 9월 23일 중국 지린성 창춘에서 열린 창춘에어쇼에서 KJ-500 조기경보기와 J-20 전투기가 비행하고 있다. 2026.08.21.

[서울=뉴시스]구자룡 기자 = 중국 첨단 전투기의 설계자들이 군용 항공기용 인공지능(AI)이 항공기의 길이·탑재량·무기·속도·전투 반경 등을 잘못 인식하는 환각 위험성이 있다고 지적했다.

19일 홍콩 사우스차이나모닝포스트(SCMP)에 따르면 AI 모델이 생성한 콘텐츠가 기본적인 물리 법칙, 설계 원칙 또는 운영상의 제약을 무시할 수 있다는 경고가 나왔다.

이같은 지적은 인민해방군(PLA)의 주력인 J-20과 차세대 스텔스 전투기 J-36을 개발하는 중국항공공업집단(AVIC)의 청두 ‘항공기 연구설계 연구소’의 엔지니어들로부터 나왔다.

장셴저 연구원 등은 6월 20일 국영무기 제조업체 노린코가 발행하는 학술지 ‘정보학: 이론 및 응용’에 “AI 모델은 항공기의 길이, 탑재량, 무기, 속도, 전투 반경과 같은 사양을 임의로 만들어낼 수 있다”는 논문을 발표했다.

장 연구원은 “레이더 스캔 범위와 주파수 대역까지 잘못 예측할 수 있다”며 “잘못된 결과를 도출하는 이른바 ‘환각 효과’는 국방 정보 분야에서 심각한 결과를 초래할 수 있다”고 말했다.

논문에 따르면 모든 전투기는 적과 전장에 대한 깊이 있는 이해를 바탕으로 설계된다. 설계자들은 적의 레이더 탐지 범위와 어떤 주파수를 사용하는지 등을 고려한다.

공대공 미사일의 회피 불가능 구역이 얼마나 넓은지, 전자전 시스템이 어떤 주파수 대역을 커버할 수 있는지, 조기경보기가 어디를 순찰하는지, 그리고 지상 기반 방공망이 어떻게 구축되어 있는지 등도 전투기 설계에서 중요한 요소다.

이런 정보를 바탕으로 스텔스 설계, 레이더 출력, 전자전 시스템, 기동성, 항속거리 및 전투 반경을 결정한다.

장 연구원은 이같은 정보 수집은 전투기 개발의 첫 번째 단계라고 말했다. 

그는 “대규모 언어 모델은 권위 있는 군사 자료를 기반으로 훈련되는 경우가 드물어 기본적인 물리 법칙, 설계 원칙 또는 작전 제약을 무시하는 콘텐츠를 생성하는 경우가 많다”고 경고했다.

그는 방위 기술과 관련해 AI가 그럴듯해 보이지만 사실과 다른 답변을 생성할 수 있다고 말했다.

환각 요소에는 레이더 스캔 범위, 주파수 대역도 포함되고 심지어 완전히 허구적인 군사 기지, 부대 또는 훈련 이동까지 포함될 수 있다는 것이다.

그는 미국이 이란 전쟁 첫 날인 2월 28일 테헤란의 여자 초등학교를 폭격해 175명 어린이가 숨진 것을 사례로 들었다.

최종 결정은 인간이 내렸지만 AI가 처리하는 정보의 처리 속도가 빠르고 양이 많아 AI가 추천하는 모든 목표물을 제시간에 철저히 검증할 수 있을지 의문이 제기되고 있다.

장 연구원은 AI의 오류를 줄이는 방법으로 ▲신뢰할 수 있는 국방 데이터를 모델에 입력 ▲검색 가능한 참조용 지식 기반 구축 ▲명확하고 구체적인 프롬프트 작성 ▲AI 토론을 통한 교차 검증 활용 등을 들었다.


◎공감언론 뉴시스 [email protected]