"그 '폭주 AI'와 얘기 좀 하자"…허깅페이스 CEO, 오픈AI에 작동기록 공개 요구

“"체 연구진이 검증하도록 에이전트 실행기록 공개해야"

방어 모델 구축에 1억달러어치 컴퓨팅 자원 요구

오픈AI "외부 자문 거쳐 몇 주 안에 기술보고서 공개"

[보스턴=AP/뉴시스]챗GPT의 텍스트를 기반으로 이미지를 생성하는 인공지능 서비스인 달리(DALL·E)에 의해 만들어진 오픈AI 로고가 휴대전화에 표시된 모습. 292412.19.

[서울=뉴시스]박영환 기자 = 허깅페이스가 자사 시스템을 뚫은 인공지능(AI) 에이전트의 행동 과정을 공개하고 1억달러(약 1460억원)어치의 방어용 컴퓨팅 자원을 지원하라고 오픈AI에 요구했다.

미국 정보기술(IT) 매체 테크크런치는 26일(현지시간) 클렘 들랑그 허깅페이스 공동창업자 겸 최고경영자(CEO)가 오픈AI 측에 이 같은 요구를 전달했다고 보도했다. 오픈AI 대변인도 양측의 회동 사실을 확인했다.

들랑그 CEO는 25일 엑스(X)에 “사건 전 과정을 투명하게 공개해야 한다”며 “전 세계 연구진이 무슨 일이 일어났는지 연구할 수 있도록 해당 에이전트의 행동 과정이 담긴 기록을 공개하라고 요구했다”고 밝혔다.

그는 오픈AI가 허깅페이스 개발자 커뮤니티에 1억달러어치의 컴퓨팅 자원을 제공해 개방형·폐쇄형 AI 모델을 활용한 사이버 방어체계를 구축하도록 지원해야 한다고 요구했다.

들랑그 CEO는 이번 사건을 “자율형 AI 에이전트가 일으킨 첫 사이버 공격”으로 규정하며 “전례 없는 사건에는 전례 없는 대응이 필요하다”고 강조했다.

사건은 오픈AI가 AI 모델의 사이버 공격 능력을 측정하는 내부 평가를 진행하던 중 발생했다. 오픈AI에 따르면 GPT-5.6 솔과 이보다 성능이 높은 비공개 모델 등을 기반으로 한 에이전트가 평가에 투입됐다. 당시에는 모델의 공격 능력을 확인하기 위해 실제 서비스에서 고위험 사이버활동을 막는 안전장치 일부를 적용하지 않은 상태였다.

에이전트는 소프트웨어 설치를 지원하는 내부 시스템에서 알려지지 않은 보안 취약점인 ‘제로데이’를 찾아내 공개 인터넷에 접속했다. 이어 허깅페이스의 취약점과 탈취한 인증정보 등을 이용해 실제 서비스용 데이터베이스에 침입하고 평가 과제의 정답을 확보했다. 허깅페이스 보안팀과 자체 AI 에이전트는 침입을 탐지해 추가 접근을 차단했다.

보안 전문가들은 이번 사건이 AI의 공격 능력뿐 아니라 오픈AI의 시험환경 통제 실패도 드러냈다고 지적했다. 외부 프로그램 설치를 위해 제한적인 네트워크 접속이라도 허용한 것은 격리된 시험환경의 기본 원칙과 맞지 않는다는 것이다.

허깅페이스는 이번 침입으로 내부 데이터세트 일부와 서비스용 인증정보에 무단 접근이 이뤄졌다고 밝혔다. 공개된 모델·데이터세트·응용서비스가 조작된 증거는 발견되지 않았으며 협력사·고객 데이터의 피해 여부는 아직 확인 중이다.

오픈AI는 외부 전문가와 안전·보안위원회의 감독 아래 사건을 조사하고 있다. 조사를 통해 파악한 내용과 재발 방지 대책을 담은 기술보고서를 몇 주 안에 공개할 계획이다.


◎공감언론 뉴시스 [email protected]