AI 에이전트가 읽는 이메일에 명령 한 줄…"해커는 그 문으로 들어온다"

업무용 AI에 준 접근 권한, 해커가 악용할 우려

버그크라우드 CEO "기업용 에이전트에 공격 집중될 것"

[서울=뉴시스] 해킹 사고 컨셉. 기사의 이해를 돕기 위한 이미지. (사진=유토이미지) 2026.08.07. [email protected] *재판매 및 DB 금지

[서울=뉴시스]박영환 기자 = 기업 내부 시스템에 접근해 업무를 처리하는 인공지능(AI) 에이전트가 해킹을 당하면 기밀 유출에 악용될 수 있다는 경고가 나왔다.

8일(현지시간) 미국 온라인 매체 액시오스에 따르면 사이버보안 업체 버그크라우드의 데이브 제리 최고경영자(CEO)는 AI 에이전트 자체가 해커의 공격 표적이 될 것이라고 전망했다. 이 발언은 지난달 보안 콘퍼런스 블랙햇에서 가진 액시오스와의 인터뷰에서 나왔다.

제리 CEO는 사람들이 일을 편하게 처리하려고 AI 에이전트에 기업의 핵심 자산에 접근할 권한을 부여했다고 지적했다. 액시오스는 해커가 이런 에이전트를 악용하면 민감한 시스템에 접근해 데이터를 빼내고 조직 내 다른 시스템으로 침입을 확대할 수 있다고 설명했다.

제리 CEO는 공격이 개인용보다 기업용 AI 에이전트에 집중될 것으로 내다봤다. 현재 AI 에이전트 대부분이 기업에 배치돼 있다는 이유에서다. 그는 AI 에이전트가 앞으로 해커의 가장 큰 공격 경로가 될 것이라고 전망했다.

해커는 AI가 읽을 문서나 이메일에 악성 지시를 숨겨 AI에 부여된 접근 권한을 악용할 수 있다. 마이크로소프트(MS)는 보안 문서에서 AI가 이런 지시를 따라야 할 업무 명령으로 잘못 받아들이면 이용자가 원하지 않은 행동을 하거나 정보를 외부로 유출할 수 있다고 설명했다.

[보스턴=AP/뉴시스] 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.12.08.

제리 CEO는 이런 위험에 대응하려 해도 기업 내부의 AI 사용 현황부터 파악하기가 쉽지 않다고 지적했다.

보안업계는 그동안 AI 에이전트에도 신원·접근 권한 관리를 적용해야 한다고 강조해왔다. 각 에이전트에는 업무에 필요한 최소한의 권한만 부여하고, 접근 범위와 사용 기간을 제한하며 필요할 때 즉시 권한을 회수할 수 있어야 한다는 것이다.

제리 CEO는 "기업 시스템에서 어떤 도구와 AI 에이전트가 작동하는지 파악하고 이를 통제할 방법을 갖춰야 한다"고 강조했다.


◎공감언론 뉴시스 [email protected]