"AI 무장한 해커, 수작업 패치론 못 막는다"…빅테크가 던진 보안의 '새 룰'

"취약점 공개 전에 무기화…공격 코드 15시간 먼저 등장"

"공격자는 가드레일 쉽게 제거하고 공격…방어자는 제한"

MS "에이전트형 방어 루프 구축…레드·블루·그린팀 가동"

오픈AI "데이브레이크로 취약점 발견·패치 자동화 가능"

[서울=뉴시스] 박은비 기자= AI 보안 전문기업 에임인텔리전스는 7일 오후 서울 삼성금융캠퍼스 비전홀에서 개최한 '2026 AI 리스크 컨퍼런스'를 개최했다. 사진은 장광운 마이크로소프트 코리아 보안전략고문이 발표하는 모습. 2026.09.07. [email protected] *재판매 및 DB 금지

[서울=뉴시스]박은비 기자 = 해킹에 인공지능(AI)이 동원되는 리스크를 사람 대응으로는 따라잡을 수 없기 때문에 신속한 방어를 위해 안전장치(가드레일) 완화가 필요하다는 업계 진단이 나왔다.

AI 보안 전문기업 에임인텔리전스는 7일 오후 서울 삼성금융캠퍼스 비전홀에서 개최한 '2026 AI 리스크 컨퍼런스'를 개최했다.

장광운 마이크로소프트 코리아 보안전략고문은 이날 발표에서 "올해 (공격 특징을 살펴보면) 공격자는 취약점 공개 전에 취약점을 무기화해서 사람이 대응하는 패치 주기로는 더 이상 따라잡을 수 없다"며 "올해 공격 코드가 공개 CVE 등록보다 중앙값 기준 15시간 먼저 등장하고 있다"고 말했다.

공개 CVE 등록이란 소프트웨어나 하드웨어 등 IT 시스템에서 새로 발견된 보안 취약점을 전세계가 공통으로 알아볼 수 있도록 공식 식별 번호(CVE ID)를 부여하고, 전세계 보안 데이터베이스에 등록해 사람들에게 알리는 과정을 말한다.

공격 코드 공개 15시간 전에 이미 공격…패치 완료까지 43일 걸려

장 고문은 "공격자들은 사용자를 속이는 것보다 패치되지 않은 취약점을 직접 공격하는 방식을 선호한다"며 "AI가 공격 속도를 가속하는 반면 평균 패치 완료 시간은 32일에서 43일로 늘어나 패치가 공격 속도를 따라가지 못할 뿐더러 취약점 관리 부담이 증가하고 있다"고 우려했다.

이에 보안 에이전트 환경을 갖추는 건 불가피하다는 게 장 고문 시각이다. 장 고문이 소개한 레드팀 에이전트는 공격자 관점에서 보안 태세를 검증하고 가장 중요한 취약점을 우선 식별한다. 또 블루팀 에이전트는 탐지된 위협 지표를 분석해 분류하는 역할을 맡는다.

마지막으로 이를 넘겨받은 그린팀 에이전트는 방어를 강화하기 위한 대응 계획을 수립하고 자동 실행 전 사람의 승인을 받는다. 장 고문은 "레드는 식별하고, 블루는 분석하고, 그린은 조치를 취하는데 중요한 의사 결정과 실행은 사람이 검증한다"며 "에이전트형 방어 루프로 지속적인 보호가 이뤄져야 한다"고 설명했다.

사이버 보안 프로그램 내놓은 오픈AI…"데이터 주권 등 고민해야"

오픈AI는 사이버 보안 프로그램 '데이브레이크'를 선보였다. 오픈AI나 앤트로픽만이 아니라 수많은 기술업체의 프론티어 모델이 사이버 공격에 사용되고 있어 이에 따른 대응이 필요하다는 판단에서다.

와나 툰 오픈AI 응용 AI 보안 스페셜리스트는 "보안 능력은 AI 모델 하나에서 나오는 게 아니다"라며 "단순 모델이라고 볼 수 없고 단순 제품이라고 볼 수도 없으며, 사이버 보안 개선을 위해 만든 패키지"라고 소개했다.

프론티어 모델이 복잡한 코드와 보안 관련 증거를 바탕으로 사이버보안 추론을 수행하면, 코덱스가 코드 저장소의 맥락, 도구, 테스트, 권한, 사람의 검토를 종합한 뒤 보안 전용 워크플로우에 연결하는 식이다.

[서울=뉴시스] 박은비 기자= AI 보안 전문기업 에임인텔리전스는 7일 오후 서울 삼성금융캠퍼스 비전홀에서 개최한 '2026 AI 리스크 컨퍼런스'를 개최했다. 사진은 와나 툰 오픈AI 응용 AI 보안 스페셜리스트가 발표하는 모습. 2026.09.07. [email protected] *재판매 및 DB 금지

툰 스페셜리스트는 "AI 시스템을 활용한다면 빠르게 새로운 취약점을 발견할 수 있고 그걸 사람이 검증하면서 패치 자동화 등으로 대응할 수 있다"며 "AI는 보조하는 역할"이라고 했다.

그는 데이터 주권 측면도 생각해볼 필요가 있다고 언급했다. 툰 스페셜리스트는 "국가별로 정책이 다른데 한국 내에서 데이터 저장과 처리가 이뤄지는지, 별도 지역에서 이뤄지는지 데이터 주권에 대해 고민해봐야 한다"며 "AI를 사이버 보안에서 쉽게 활용하려면 이를 구현하기 전에 거버넌스와 담당자, 책임자 구조도 명확하기 할 필요가 있다"고 덧붙였다.

김성웅 금융보안원 금융AI보안연구소장은 "(최근) 사고 사례에서 공격자가 딥시크를 왜 선택했는지 분석해보면 가드레일을 제거하기 제일 수월했다는 걸 알 수 있다"며 "방어자 입장에서 쓰는 모델들은 전부 가드레일이 붙어있고 공격자만큼 자유롭게 움직이지 못하는데, 방어자 입장에서도 그런 제약 사항이 없는 모델을 활용할 수 있는 제도적, 기술적 근거가 마련돼야 한다고 본다"고 언급했다.


◎공감언론 뉴시스 [email protected]