AI 에이전트 잇단 무단 해킹에…오픈AI "테스트 절차 전면 개편"

모델 학습 속도 일시 늦춰…강화학습 2주 중단

문제 감지할 자동화 시스템 도입…30분 내 경보

지난달 '허깅페이스' 무단 해킹 사고 이후 발표

[보스턴=AP/뉴시스] 인공지능(AI) 에이전트의 무단 해킹 사건 이후 오픈AI가 테스트 절차를 전면 개편하고 모니터링 절차를 강화하기로 했다. 2023년 12월8일 미국 보스턴에서 챗GPT의 이미지 생성 모델 달리(DALL-E)가 만든 이미지가 컴퓨터 화면에 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2026.08.19.

[서울=뉴시스]고재은 기자 = 인공지능(AI) 에이전트가 테스트 도중 외부기관을 무단 해킹한 사건 이후 오픈AI가 테스트 절차를 전면 개편하고 모니터링 절차를 강화하기로 했다.

18일(현지 시간) 파이낸셜타임스(FT)에 따르면 오픈AI는 모델 학습 속도를 일시적으로 줄이고 강화학습(RL) 훈련도 2주간 중단하겠다고 밝혔다.

강화학습은 AI가 환경과 상호작용하면서 가장 큰 보상을 얻는 방식을 스스로 학습하는 기법인데, 일각에서는 보상 기준이 잘못 설계돼 AI가 해킹 등 의도하지 않은 행동을 학습할 수 있다고 우려해 왔다.

오픈AI는 최첨단 모델 테스트 전반 과정 전반에 자동화된 모니터링을 도입하겠다고도 했다.

회사는 "저희는 모니터링 시스템을 통해 우려스러운 활동이 감지되면 30분 이내 경보를 발령하는 것을 목표로 한다"며 "30분 이내 오탐지인지 확실하게 판단할 수 없다면 테스트를 일시 중단할 것"이라고 설명했다.

이번 조치는 오픈AI의 자율 AI 에이전트가 지난달 테스트 도중 인간 통제를 벗어나 인터넷에 접속하고 스타트업 '허깅 페이스'를 해킹한 이후 발표됐다.

오픈AI 모델 '솔'과 개발 중인 미공개 모델 등도 사이버 공격 역량을 테스트하던 도중 인터넷 접속을 차단하도록 설계된 이른바 '샌드박스' 환경을 벗어난 것으로 확인됐다.

해당 모델들은 샌드박스의 소프트웨어 취약점을 악용해 인터넷에 접속하고 사이버 공격을 시행했다.

회사는 이날 "코드나 소프트웨어가 손상될 가능성이 있는 작업은 더 강력한 격리 조치를 취할 것"이라며 "위험도가 높거나 신뢰할 수 없는 작업을 인터넷으로부터 격리할 수 있도록 추가적인 제어 장치를 구현했다"고 덧붙였다.


◎공감언론 뉴시스 [email protected]