"오픈AI가 대중을 위험에 빠트렸다" 소송
등록 2026.11.17 07:33:49수정 2026.11.17 07:38:24
"안전 장치·통제 수단 없이 AI 개발 추구"
미 주 정부들 잇단 소송에 캘리포니아도 가담
![[서울=뉴시스]오픈AI가 지난 9월 차세대 인공지능으로 개발해온 GPT-6.1 아스트라(Astra)의 내달 출시 일정을 취소했다. 인공지능이 사람에게 솔직하지 않고 허락없이 외부 도구를 사용하는 등의 문제를 드러낸 것이 이유다. 미 캘리포니아주가 16일(현지시각) 오픈AI가 안전장치와 통제수단없이 인공지능을 개발해 대중을 위험에 빠트렸다며 소송을 제기했다. (출처=오픈AI) 2026.11.17. *재판매 및 DB 금지](https://img1.newsis.com/2026/09/29/NISI20260929_0002250252_web.jpg?rnd=20260929075605)
[서울=뉴시스]오픈AI가 지난 9월 차세대 인공지능으로 개발해온 GPT-6.1 아스트라(Astra)의 내달 출시 일정을 취소했다. 인공지능이 사람에게 솔직하지 않고 허락없이 외부 도구를 사용하는 등의 문제를 드러낸 것이 이유다. 미 캘리포니아주가 16일(현지시각) 오픈AI가 안전장치와 통제수단없이 인공지능을 개발해 대중을 위험에 빠트렸다며 소송을 제기했다. (출처=오픈AI) 2026.11.17. *재판매 및 DB 금지
[서울=뉴시스] 강영진 기자 = 미 캘리포니아주가 16일(현지시각) 인공지능 챗GPT 개발운영사인 오픈AI가 안전장치 없이 인공지능을 개발해 일반 대중을 호도하고 위험에 빠트렸다며 소송을 제기했다고 미 월스트리트저널(WSJ)이 보도했다.
캘리포니아주 법무장관은 소장에서 지난 7월 발생한 허깅페이스 공격은 오픈AI가 잘못된 방식으로 인공지능 시스템을 시험하고 적절한 감독을 하지 않은 데 따른 것으로, 충분히 예견할 수 있었던 사건이라고 주장했다.
당시 통제에서 벗어난 오픈AI의 인공지능 프로그램들이 내부 시스템에 침입했다. 샌프란시스코 고등법원에 제출된 소장에 따르면 오픈AI는 자사의 인공지능 시스템이 위험하다는 사실을 알고 있었다.
롭 본타 캘리포니아주 법무장관은 “허깅페이스 공격은 안전과 책임보다 성장과 신속한 인공지능 시스템 개발을 우선시하는 오픈AI 내부 문화에서 비롯된 예측 가능한 결과였다. 그리고 이는 알려진 80건의 사고 가운데 단 한 건에 불과하다”고 말했다.
본타는 “충분한 안전장치와 통제 수단이 없다면 이미 용납할 수 없는 이 위험이 미치는 범위와 발생 빈도는 더욱 커질 수밖에 없다. 법은 간단하다. 적절한 안전장치를 마련하지 않은 채 사람들에게 해를 끼칠 수 있는 일을 해서는 안 된다”고 말했다.
그는 “위험한 인공지능 시스템을 만든 것은 오픈AI다. 적절한 감시와 통제 없이 이를 시험한 것도 오픈AI다. 해당 시스템이 통제 범위를 벗어나지 않도록 막지 못한 것도 오픈AI다. 책임은 오픈AI에 있다”고 말했다.
그는 이어 “기계에 책임을 전가할 수 있다는 생각을 받아들이지 않는다. 이런 기계를 만들고 작동시키는 사람들이 자신들의 행동에 책임을 져야 한다”고 덧붙였다.
소장은 오픈AI가 인공지능 시험을 적절히 보호하고 감시하지 못한 행위가 공공 폐해를 초래하고 캘리포니아주 법률을 위반한다고 주장한다.
오픈AI의 미흡한 안전 절차, 공공 안전에 대한 무시, 제품이 위험하다는 사실을 알면서도 적절한 감독 없이 시험한 행위, 소비자와 일반 대중을 오도하는 설명과 진술 등이 모두 캘리포니아주 법률을 위반했다는 것이다.
오픈AI의 드루 푸사테리 대변인은 “이번 소송은 모든 주요 인공지능 연구기관이 확인한 문제를 놓고 오픈AI만을 표적으로 삼는 것으로 보인다”고 반응했다.
오픈AI는 앞서 7월 허깅페이스 해킹 사건 이후 연구 환경의 보안을 강화하고 통제에서 벗어난 인공지능 프로그램을 탐지하는 능력을 개선했다고 밝힌 바 있다.
오픈AI는 이미 인공지능으로 인한 피해를 이유로 플로리다주가 제기한 소송과, 오픈AI가 청소년 이용자들에게 피해를 주고 안전성에 관해 대중을 오도했다고 주장하는 8개 주의 연합이 제기한 소송에 직면해 있다.
◎공감언론 뉴시스 [email protected]
Copyright © NEWSIS.COM, 무단 전재 및 재배포 금지





























