표적 찾는 데 2분, 인간 검토는 20초…전쟁 AI 누가 책임지나

美·이란 전쟁서 오래된 표적정보로 학교 피격…AI 활용·검증 부실 논란

라벤더·고스펠, 사람과 건물을 확률값으로 분류…표적 선정도 '대량생산'

"승인 버튼만 눌러선 인간 통제 아냐…AI 판단 이해하고 거부할 수 있어야"

[테헤란=신화/뉴시스] 지난달 28일(현지 시간) 이란 남부 호르모즈간주 미나브 여자 초등학교 폭격 현장에서 구조대와 주민들이 부상자를 구조하고 있다. 현지 당국은 미국과 이스라엘의 초등학교 공습으로 인한 사망자 숫자가 최소 148명으로 늘었으며, 95명이 부상했다고 밝혔다. 2026.03.02.

[서울=뉴시스]윤현성 기자 = 지난 2월 미국·이란 전쟁 첫날, 이란 남부 미나브의 한 초등학교에 미사일이 떨어졌다. 10년 넘게 학교로 사용된 건물이 과거 군사시설이었다는 오래된 정보가 표적 선정 과정에 남아 있었던 것으로 알려졌다.

특히 미군이 전쟁에서 인공지능(AI) 기반 표적 분석 체계를 광범위하게 활용한 사실까지 드러나면서, 빠른 공격을 위해 압축된 검증 절차가 참사로 이어진 것 아니냐는 논란이 불거지기도 했다.

한국과학기술한림원은 23일 서울 중구 한국프레스센터에서 '전쟁과 AI: 인간 통제는 가능한가'를 주제로 제254회 한림원탁토론회를 열었다. 홍성욱 서울대 과학학과 교수(한림원 정책학부장)과 천현득 서울대 과학학과 교수는 AI가 전쟁을 빠르고 정밀하게 만들었지만, 인간이 생각하고 책임질 시간까지 빼앗고 있다고 진단했다.

미국 이란 전쟁에서의 오폭 사례를 두고 홍 교수는 "과거 군사시설이었던 오래된 데이터가 검증 없이 이용됐다"며 "AI 기반 표적 추천 시스템과 빨리 해야만 하는 인간의 승인이 더해졌을 때 치명적인 결과를 낳는다"고 말했다.

사람·건물도 확률값으로…전쟁터에 들어선 '표적 공장'

군사 AI는 처음부터 사람을 공격하는 기술로 출발하지 않았다. 1970~1990년대에는 주로 핵전쟁 시뮬레이션과 워게임에 쓰였다. 이후 드론이 24시간 촬영한 방대한 사진·영상이 축적되고, 2010년대 머신러닝의 영상 판독 성능이 급격히 높아지면서 실전 투입이 본격화됐다.

홍 교수는 2017년 미국 국방부가 시작한 '프로젝트 메이븐'을 상징적인 전환점으로 꼽았다. 팔란티어를 비롯해 마이크로소프트(MS)·아마존·구글 등 빅테크가 클라우드와 데이터 분석 기반을 제공하면서 과거의 '군산복합체'도 '군사기술복합체'로 바뀌었다는 설명이다.

대표적인 군사 AI가 이스라엘의 '라벤더'와 '고스펠'이다. 라벤더는 통신 기록과 소셜네트워크, 위치정보를 종합해 특정 인물이 무장조직과 연관됐을 확률을 계산한다. 고스펠은 위성사진과 드론 영상, 센서 정보로 특정 건물이 군사시설일 가능성을 평가한다.

홍 교수는 "적의 신원이라는 것이 확정된 실체가 아니라 확률값으로 변질됐다"며 "전쟁의 표적 선정이 마치 대량생산 체계처럼 작동하게 된다"고 지적했다.

2023년 가자 공습에서는 AI가 하루 약 100개의 건물 표적을 만들고 3만7000명의 잠재적 전투원을 식별한 사례가 소개됐다. 과거 최대 72시간이 걸렸던 데이터 통합과 표적 탐지는 약 2분으로 줄었다. 반면 AI가 대량으로 만들어낸 표적 하나를 인간이 검토할 수 있는 시간은 약 20초에 그쳤다.

홍 교수는 "전쟁이 기계 속도로 이뤄지면서 인간이 심사숙고할 시간이 소멸하고 있다"고 짚었다. 화면에 경고가 뜨면 인간이 내용을 비판적으로 따지기보다 즉각 행동하는 '인터페이스 효과', 기계의 판단을 맹목적으로 믿는 '자동화 편향'도 커진다는 지적이다.

오폭이 발생하면 책임은 데이터 제공자와 AI 개발자, 운용자, 지휘관 사이로 흩어진다. 홍 교수는 이를 ▲킬체인 압축 ▲자동화 편향 ▲인터페이스 효과 ▲책임성 공백 ▲도덕적 완충지대와 도덕적 퇴화 등 다섯 가지 위험으로 정리했다.

그는 "실제 전쟁은 통제 불가능하고 편향과 불확실성이 가득한 열린 체계"라며 "AI가 모든 것을 파악할 수 있다는 전지전능성을 상상하면 체계적인 무지를 생산할 수밖에 없다"고 경고했다.

[이스라엘=AP/뉴시스] 8일(현지 시간) 이스라엘 북부 상공에서 이란의 집속탄 미사일이 폭발하고 있다. 2026.04.08.

"사람이 마지막에 버튼 눌러도 진짜 결정자는 AI일 수도"

그렇다면 최종 공격 버튼만 사람이 누르면 문제가 해결될까. 천 교수는 인간이 의사결정 과정에 남아 있다는 사실과 인간이 실제로 통제한다는 것은 전혀 다른 문제라고 강조했다.

천 교수는 "'의미 있는 인간 통제'는 인간이 공격에 개입하거나 중단시킬 능력과 권한을 갖고, 상황과 결과를 충분히 이해한 상태에서 윤리적으로 숙고된 판단을 내리는 것"이라며 "루프 안에 들어 있다는 것만으로 통제되는 것은 아니다"라고 말했다.

특히 천 교수는 전쟁에서도 지켜야 할 윤리가 있다고 강조했다. 대표적으로 국제인도법은 민간인과 전투원을 구별해 공격해야 한다는 '식별 원칙'과 예상되는 군사적 이익에 비해 과도한 민간인 피해를 내서는 안 된다는 '비례성 원칙' 등을 명시하고 있다.

천 교수는 "전쟁하는 데 무슨 도덕이냐고 말할 수도 있지만, 오히려 전쟁이기 때문에 더 요구되는 것"이라며 "상대 전투원도 우리와 똑같은 인간이고, 도덕적 행위성을 가진 주체로 대우해야 한다"고 강조했다.

그러나 심층학습 모델은 왜 특정 사람이나 건물을 표적으로 골랐는지 설명하기 어려운 경우가 많다. 정확도가 높다고 해서 판단 근거까지 이해할 수 있는 것은 아니다. 여기에 밀리초 단위로 움직이는 전장의 시간 압박이 더해지면 인간 지휘관은 AI의 권고를 자동으로 승인하기 쉽다.

천 교수는 "인간이 승인하는 것처럼 보이지만 실질적인 전쟁 전략가이자 행위자는 결국 AI가 될 가능성이 있다"고 우려를 표했다.

책임의 빈자리도 문제다. AI 자체에는 도덕적 책임을 물을 수 없고, 설계자와 지휘관이 예상하지 못한 결과라고 주장하면 아무도 책임지지 않는 '책임의 간격'이 생긴다는 것이.

이를 두고 천 교수는 "책임지는 존재가 도덕적으로 가치가 있는 존재"라며 자율무기의 자율성이 지휘관의 책임을 없애는 것이 아니라 오히려 더 무거운 책임을 요구할 수 있다고 봤다.

해법은 인간을 형식적으로 남겨두는 데 그쳐선 안 된다는 진단도 나왔다. 홍 교수는 "인간이 단순히 '로봇 스탬프' 역할을 넘어 전 과정에 정치적·윤리적 판단을 개입시킬 수 있어야 한다"고 강조했다.

천 교수 또한 "운용자가 과정을 이해하고 개입하며, 물리적 공격 행위에 대해 명시적으로 승인하도록 하는 요구가 필요하다"고 제언했다.

홍 교수와 천 교수는 공통적으로 전쟁의 속도를 AI가 지배하더라도 생사를 가르는 판단과 책임까지 기계에 넘겨서는 안 된다는 데 의견을 모았다.

현대전이 또 한 번 신기술과 결합하면서 AI가 공격의 표적을 찾는 시간을 수개월에서 수분으로 줄였다. 그러나 누구를 적으로 규정할지, 어느 정도의 민간 피해를 감수할지, 잘못된 공격에 누가 책임질지는 AI의 처리 속도만으로 풀 수 없다는 의미로 풀이된다.


◎공감언론 뉴시스 [email protected]