"AI 절벽 향한 경쟁" 뉴욕주지사, 기술업계 직격…AI 안전 감독 강화

‘레이즈법’ 2027년 1월1일 시행…대형 개발사 안전 체계 공개

대형 개발사 첫 위반 최대 100만달러…미등록은 하루 1000달러

캐시 호컬 주지사.(사진 출처: 위키피디아) 2024.11.10.  *재판매 및 DB 금지

[서울=뉴시스]박영환 기자 = 미국 뉴욕주가 내년 1월부터 오픈AI와 앤트로픽 등 대형 프런티어 인공지능(AI) 개발사를 별도의 안전 감독 대상으로 관리하고, 안전 체계 공개와 중대 안전 사고의 72시간 이내 신고를 의무화하는 ‘책임 있는 AI 안전 및 교육(RAISE·레이즈)법’을 시행한다.

테크크런치는 10일(현지시간) 뉴욕주가 레이즈법 시행을 앞두고 대형 프런티어 AI 개발사 등록 포털을 이날 개설했다고 보도했다. 적용 대상 대형 개발사는 내년 1월1일까지 등록해야 한다.

법에서 말하는 대형 프런티어 개발사는 단순히 매출이 많은 AI 기업을 뜻하지 않는다. AI 모델 학습에 10의 26제곱을 초과하는 연산량을 사용하고, 계열사를 포함한 전년도 연간 총매출이 5억달러를 넘는 사업자가 해당한다.

대형 개발사는 대규모 인명·재산 피해 위험을 평가하고 줄이는 절차와 제3자 평가, 미공개 모델 가중치 보호, 사고 대응 방안 등을 담은 안전 체계를 웹사이트에 공개해야 한다. 이 체계는 적어도 매년 검토해 필요하면 갱신해야 한다.

[샌프란시스코=AP/뉴시스]오픈AI 영국법인 직원들의 지난해 평균 보상액이 약 41억원에 달한 것으로 나타났다. 2026.10.16

새 프런티어 모델을 내놓거나 기존 모델을 크게 변경할 때 공개하는 모델 투명성 보고서와 중대 안전 사고 신고 의무는 모든 프런티어 개발사에 적용된다. 중대 안전 사고가 발생했다고 판단했거나 이를 합리적으로 의심할 만한 사실을 알게 된 때부터 72시간 안에 뉴욕주에 보고해야 한다. 사망이나 중상 위험이 임박했다면 24시간 안에 관할 당국에도 알려야 한다.

대형 개발사가 필수 문서를 공개·제출하지 않거나 중대 사고를 신고하지 않고 자체 안전 체계를 지키지 않으면 뉴욕주 법무장관이 민사 소송을 제기할 수 있다. 제재금 상한은 첫 위반 100만달러, 두 번째 이후 위반은 건당 300만달러다. 등록 신고서를 내지 않거나 허위 정보를 바로잡지 않으면 별도로 하루 1000달러의 제재금이 부과될 수 있다.

레이즈법 시행과 감독은 뉴욕주 금융서비스부 산하에 신설된 디지털 혁신·거버넌스·청렴·신뢰국(DIGIT)이 맡는다. DIGIT은 등록 포털을 운영하고 개발사들이 공개한 안전 체계와 사고 보고 내용을 점검한다.

[다보스=AP/뉴시스] 2025년 1월23일 스위스 다보스에서 다리오 아모데이 앤트로픽 최고경영자(CEO) 겸 공동창업자가 세계경제포럼(WEF) 연차총회에 참석하고 있다. 2025.01.23.

캐시 호컬 뉴욕주지사는 “기술 거물들은 자신들이 제시하는 AI의 미래는 피할 수 없으니 올라타지 않으면 뒤처진다고 말한다”며 “AI 절벽을 향한 경쟁에서 이기기만 하면 어떤 부수적 피해도 감수할 만하다는 식”이라고 비판했다.

뉴욕주는 AI 동반자 서비스가 이용자에게 상대가 사람이 아닌 챗봇임을 정기적으로 알리고 자살·자해 징후를 탐지하도록 하는 법도 시행하고 있다. 지난 10월에는 미성년자가 챗봇을 사람으로 오인하게 하거나 정서적 의존을 유도하는 등의 행위를 제한하는 별도 법에도 서명했다. 이 법은 내년 6월1일 발효된다.

미국에서는 프런티어 AI 개발사를 규제하려는 주정부 입법이 확산하고 있다. 캘리포니아주의 ‘SB 53’은 올해 1월 시행됐으며 안전 체계 공개와 내부고발자 보호, 중대 사고 신고 등을 의무화했다. 일리노이주의 유사 법률도 내년 1월 시행되며, 대형 개발사에 대한 독립적인 안전 준수 감사는 2028년부터 시작된다.


◎공감언론 뉴시스 [email protected]