"남의 GPU·클라우드로 AI 돌린다"…신종 해킹 'LLM재킹' 비상

GTIG '2분기 AI 위협 추적 보고서'…해커들 에이전틱 AI 공격 무기화

AI 에이전트 활용 대규모 공격 실행하는데 6시간 채 안 걸려

기업 클라우드·GPU 무단도용해 AI호스팅…'LLM재킹' 주의보

[서울=뉴시스]박은비 기자 = 해커들이 인공지능(AI) 기술로 악성코드를 짜거나 오픈소스 소프트웨어 취약점을 찾는 수준을 넘어 사이버 공격 전반에 걸쳐 '에이전틱 AI' 기술을 결합하기 시작했다. 해커가 일일이 개입하지 않아도 AI가 취약점 탐색부터 계정 탈취까지 전 과정을 스스로 수행하며 공격 속도를 획기적으로 끌어올릴 수 있다는 얘기다.

심지어 클라우드와 그래픽처리장치(GPU) 등 AI 자산을 무단 점거해 자체 AI모델을 돌리는 '거대언어모델(LLM)재킹(LLMJacking)' 범죄까지 등장했다.

9일 구글위협인텔리전스그룹(GTIG)이 발표한 올해 2분기 'AI 위협 추적 보고서(AI Threat Tracker)'에 따르면 해커들은 기존의 단순한 프롬프트 활용을 넘어 AI 에이전트와 자동화 기술을 공격 과정에 직접 결합하고 있다.

AI 에이전트를 악용한 공격의 파괴력과 속도가 실제 현장에서 입증됐다. GTIG는 최근 한 해커가 기업 클라우드 인프라에 침투한 뒤 AI 코딩 챗봇과 에이전트 지침을 결합해 대규모 계정 정보 탈취 공격을 기획·구축하고 실행하기까지 '6시간'도 채 걸리지 않은 실제 사례를 공개했다.

AI는 취약점 탐색과 자격 증명 탈취, 실시간 문제 해결, 공격 트래픽의 IP 주소 변경을 맡았다. 사람이 공격 과정에 일일이 개입할 때보다 수 배 빠른 속도로 수천 개의 자격 증명을 털어간 것이다.

AI 코딩 도구와 오픈소스까지 노린다…기업 AI 모델·소스코드도 '고가치 자산'

AI를 활용한 개발이 확산되면서 이를 통한 소프트웨어 공급망도 새로운 해커들의 표적이 되고 있다. 개발자들이 AI 코딩 어시스턴트를 이용해 코드를 작성하고 오픈소스 패키지를 가져다 쓰는 과정에서 공격자가 악성 코드를 몰래 끼워 넣을 가능성이 커졌다.

대표적인 사례가 팀(Team)PCP로 알려진 UNC6780이다. GTIG에 따르면 이 조직은 AI 코딩 어시스턴트가 활용하는 도구에 직접 백도어를 심는 한편 오픈소스 패키지의 메타 데이터를 정교하게 오염시켰다.

AI 코딩 어시스턴트가 개발자에게 코드를 추천할 때 악성 코드 부품을 자연스럽게 추천하도록 유도하는 수법이다. 보안 스캐너의 정밀 검사를 피하기 위해 LLM 보안 스캐너를 교란하는 '보안 우회 프롬프트'까지 동원됐다. 

GTIG는 AI 코딩 도구와 오픈소스 소프트웨어 결합으로 개발 속도가 빨라진 만큼 이에 따른 보안 우려가 커지고 있다고 경고했다. 실제로 연초부터 북미와 아시아 기업 환경에서 악성 AI 관련 오픈소스 리소스가 다운로드되는 사례 등이 확인됐다.

의료·정부·미디어·엔터테인먼트 등 다양한 분야에서 기업이 자체 개발한 AI 모델과 소스코드, 프롬프트, 연구자료 등을 탈취하려는 사례가 잇따라 포착되고 있다. 공격 세력은 사이버 스파이 조직에만 국한되지 않았다. 탈취 데이터를 공개하겠다고 금전을 요구하는 랜섬웨어 범죄조직들도 AI 관련 자산을 공격 대상으로 삼고 있다. 실제 한 의료 기관은 기업 데이터와 신약 연구자료뿐 아니라 AI 연구자료와 자체 AI 모델까지 빼앗겼고, 공격자가 데이터를 공개하겠다고 금전을 요구했다고 보고서는 전했다.

"남의 GPU로 AI 돌린다"…무단 점거 범죄 'LLM재킹' 등장

더욱 심각한 문제는 피해 기업의 클라우드 인프라와 GPU 자원을 무단 탈취해 자신의 AI 모델을 구동하는 LLM재킹 방식이다.
 
중국 연계 조직 UNC6508은 북미 학술·의료·군사 연구기관의 클라우드 시스템에 침투한 뒤 이를 AI 운영 공간으로 활용한 정황이 포착됐다. 이들은 북미 학술·의료·군사 연구기관을 대상으로 사이버 스파이 활동을 벌여온 조직이다. 이 과정에서 해커는 피해자 클라우드 시스템에 오픈웨이트 기반의 로컬 LLM 인프라를 무단 구축했다.

이 조직은 막대한 AI 구동비용을 단 한푼도 내지 않은 채 피해 기업의 클라우드와 GPU를 빌려 AI를 구동했다. 정작 피해 기업은 시스템 해킹 피해에 더해 수억원대에 달하는 클라우드 컴퓨팅 요금까지 떠안게 되는 이중 피해를 입었다.

GTIG는 이런 행위를 AI 자원 탈취의 한 형태인 LLM재킹으로 설명했다. AI 모델을 직접 개발하거나 운영하는 기업뿐 아니라 클라우드 환경에 AI를 사용하는 기업이라면 모두 새로운 공격이 될 수 있다는 의미이기도 하다.

존 헐트퀴스트 GTIG 수석 애널리스트는 "이제는 모든 위협 행위자가 AI를 어떤 방식으로든 활용하고 있으며, 이를 통해 실제 공격 효과를 극대화하고 있다고 봐야 한다"며 "6시간 만에 대규모 탈취 공격을 수행한 사이버 범죄자들처럼 공격자들은 우리의 대응 속도를 넘어서는 공격 방식으로 이동하고 있다"고 말했다.


◎공감언론 뉴시스 [email protected]