이슬람 테러단체 보코하람, 챗GPT·딥시크 등 이용 테러 활동

폭탄 제조·공격계획 수립·선전 활동 자료 제작 등 활용 광범위

테러단체 IS 조직원들 AI 트레이너로 활동

테러단체, AI 기업의 안전장치 ‘우회’

[마이두구리=AP/뉴시스] 3월 16일 나이지리아 보르노주 마이두구리에서 폭탄이 폭발한 후 한 병원 앞에 구급차가 서 있다. 현지 당국은 보르노주 세 곳에서 폭탄이 터져 다수의 사상자가 발생했으며 테러 가능성이 있다고 밝혔다. 마이두루리에서는 나이지리아 토착 이슬람 극단주의 단체 '보코 하람'이 10년 넘게 반군 활동을 하는 것으로 알려져 있다. 2026.07.15.

[서울=뉴시스] 구자룡 기자 = 이슬람 근본주의 무장세력이자 테러단체인 보코 하람이 챗GPT·클라우드·딥시크 등 인공지능(AI) 챗봇을 활용해 폭탄을 제조하는 등 테러 활동을 벌였다는 연구결과가 나왔다.

15일 홍콩 사우스차이나모닝포스트(SCMP) 보도에 따르면 케임브리지대는 10일 발표한 연구 논문에서 보코하람이 2024년과 2025년 중반까지 폭탄 제조, 공격계획 수립, 선전 활동 자료 제작 및 더 광범위한 일상 작전을 지원하기 위해 미국과 중국의 최첨단 AI 도구를 모두 사용했다고 밝혔다.

테러단체 IS 조직원들 AI 트레이너로 활동

논문에 따르면 보코하람 조직원들은 VPN과 암호화 소프트웨어가 미리 설치된 노트북을 이용한 워크숍을 통해 최첨단 AI 챗봇을 사용하는 방법을 배웠다.

이 워크숍은 2023년 또는 2024년경 나이지리아 북동부에서 보코하람 조직원들에게 전문 AI 트레이너들이 제공한 여러 훈련 세션 중 하나였다.

트레이너들은 테러단체 이슬람 국가(IS) 네트워크의 일원이었을 것이라고 전 보코하람 사령관이 증언했다.

논문은 지난 1년간 나이지리아 북동부에서 보코하람 전 조직원 27명을 인터뷰한 결과를 토대로 작성됐다.

안토니아 줄리히 연구원은 SCMP와의 인터뷰에서 “보코하람이 테러 활동을 벌이는 데 있어 핵심적인 작전 도구로 오픈AI의 챗GPT와 앤트로픽의 클라우드, 중국 딥시크의 챗봇을 사용했다는 사실을 밝혀냈다”고 말했다.

SCMP는 이번 논문은 주요 챗봇 개발을 주도하는 미국과 중국가 앞으로 비국가 행위자에 의한 AI 오용 위험을 시급히 다뤄야 한다는 목소리가 높아지는 가운데 나왔다고 전했다.

워싱턴 싱크탱크 브루킹스 연구소 카일 챈 연구원은 “어느 나라도 테러리스트, 사이버 범죄자 또는 기타 비국가 행위자들을 지원하고 싶어하지 않는다”고 말했다.

보코하람 전 조직원들과의 인터뷰는 AI가 선전 활동을 넘어 임무 준비부터 실행, 사후 평가에 이르기까지 군사 활동의 모든 단계에까지 활용되고 있음을 보여줬다.

이들에 따르면 2022년 챗GPT 출시 약 2년 만에 보코하람 내부에 여러 AI 부서가 설립됐다.

폭탄 제조 전문가와 엔지니어 같은 고위 작전 및 기술 인력으로 구성된 이 부대는 온라인 탐지를 피하는 방법을 포함해 광범위한 작전까지 챗봇으로부터 유용한 결과를 얻어내는 책임을 맡았다.

테러단체, AI 기업의 안전장치 ‘우회’

줄리히 연구원은 주요 AI 기업들이 챗봇에 내장한 안전장치가 테러리스트들의 악용을 막지 못했다고 말했다.

적어도 일부 제한 사항은 프롬프트 엔지니어링 또는 탈옥이라고 불리는 알려진 기술이 막지 못했다. 테러리스트들은 챗봇에게 ‘영화’를 질문하면서 무기 제조 방법을 묻는 방법으로 우회했다. 이들은 여러 계정을 운영해 계정 정지도 이들의 활동을 막지 못했다. 

이러한 제한을 우회하는 기술은 주로 IS 네트워크 소속 외국인 공작원들이 직접 또는 온라인으로 가르쳤다고 여러 전직 조직원이 전했다.

그녀는 “테러 집단이 글을 읽거나 쓸 줄 모르고 AI를 사용할 만큼 세련되지 못하다는 오해가 있지만 이번 연구는 전혀 그렇지 않다는 것을 보여준다”고 말했다.

논문은 구글의 제미니, xAI의 그록, 그리고 메타의 동명 AI 플랫폼들도 이용됐다고 밝혔다.

메타는 성명에서 이번 연구는 최신 제품인 뮤즈 스파크가 아닌 이전 모델들을 대상으로 진행됐다며 뮤즈 스파크에는 4월 업데이트된 새로운 안전 장치가 추가되었다고 밝혔다.

오픈소스 모델이 더 취약

테러리스트가 활용하는 AI 챗봇 중 오픈 소스 모델이 더 활용되는 지도 관심이다.

오픈 소스 모델은 인터넷에 공개적으로 배포돼 전 세계 사용자들이 각자의 사용 사례에 맞게 수정할 수 있도록 한다.

유엔의 지원을 받는 대테러 비영리 단체 ‘테크 어게인스트 테러리즘’은 AI 모델 응답의 약 3분의 1이 웹 검색을 통해 쉽게 찾을 수 있는 정보 이상으로 테러리스트에게 의미 있는 도움을 제공했다고 강조했다.

특히 보고서에 따르면 안전장치가 제거된 ‘소멸’이라는 과정을 거친 후 최악의 성능을 보인 모델은 오픈소스 모델인 것으로 나타났다.

브루킹스 연구소의 챈은 오늘날 주요 오픈소스 모델의 대부분이 중국산이어서 오픈소스 모델에 대한 제한이 생기면 중국 AI 산업에 더 큰 영향을 미칠 것이라고 말했다.

줄리히의 연구에 따르면 보코하람 테러리스트들은 오픈 소스 및 클로즈드 소스 AI 모델을 모두 사용했다.

딥시크 같은 오픈 소스 모델의 변형 버전을 사용하는 대신 공식 웹사이트를 통해 접속할 수 있는 채팅 인터페이스에도 의존했다.

줄리히는 “AI 오용에 대한 논쟁은 종종 오픈소스 모델에 초점을 맞추는 경향이 있지만 보코하람이 딥시크를 사용한 방식은 오픈소스라는 점과는 별개였다”고 말했다.


◎공감언론 뉴시스 [email protected]