美 42개 주 법무장관들, AI 기업에 "챗봇 안전 강화" 강력 경고

"망상적 출력·아동 보호 소홀 시 주 법률 위반" 지적

챗봇 연루된 최소 6건의 사망 사건 언급

[보스턴(미 매사추세츠주)=AP/뉴시스] 10일(현지 시간) 파이낸셜타임스(FT)에 따르면 법무장관들은 구글·메타·마이크로소프트 등 빅테크뿐 아니라 오픈AI·엔토로픽·xAI·퍼플렉시티 등 주요 AI 스타트업에도 서한을 전달했다. 사진은 생성형 인공지능(AI) 챗GPT의 생성물과 오픈AI의 로고. 2025.12.11.

[서울=뉴시스]박미선 기자 = 미국 42개 주 법무장관들이 인공지능(AI) 기업들에 서한을 보내 챗봇 안전장치 강화를 촉구했다.

10일(현지 시간) 파이낸셜타임스(FT)에 따르면 법무장관들은 구글·메타·마이크로소프트 등 빅테크뿐 아니라 오픈AI·엔토로픽·xAI·퍼플렉시티 등 주요 AI 스타트업에도 서한을 전달했다.

법무장관들은 서한에서 "귀사의 생성형 AI가 내놓는 아첨적이거나 망상적 출력으로 인한 피해를 즉각 완화하고, 아동 보호를 위한 추가 안전장치를 도입하라"며 "조치를 소홀히 할 경우, 각 주 법률을 위반할 수 있다"고 경고했다.

이번 움직임은 도널드 트럼프 대통령이 연방 정부 차원에서 AI 규제 권한을 일원화하려는 시도와 맞물려 있다. 기술기업들은 주별로 상이한 규제가 생기면 중국 등 해외 경쟁자와의 경쟁력이 약화될 것이라고 우려해 왔다. 이에 트럼프 대통령은 최근 주별로 독자적 AI 규제를 금지하는 행정명령 발동을 예고했다.

서한은 챗봇이 '현실 세계의 피해'에 연루된 사례들을 언급하며, 10대 청소년 자살 및 살인 사건 등 미국 내 최소 6건의 사망 사건을 지적했다. 법무장관들은 "생성형 AI는 긍정적 변화를 가져올 잠재력이 크지만, 특히 취약 계층에는 심각한 피해를 유발해왔고, 앞으로도 그럴 가능성이 있다"고 강조했다.

실제 오픈AI의 챗GPT, 구글의 제미나이 등 인기 챗봇은 사실과 다른 내용을 사실처럼 단정하거나, 지나치게 동조적·아첨적 태도를 보이는 문제가 지속적으로 제기돼 왔다.

서한은 기업들에 내년 1월 16일까지 구체적 개선 계획을 제출할 것을 요구했다.

이에 오픈AI는 "서한을 검토 중이며 제기된 우려를 공유한다"며 "정신적·정서적 고통의 신호를 인식하고 대응하도록 챗GPT의 훈련을 강화하고 있다"고 밝혔다.

퍼플렉시티는 "우리는 최첨단 AI의 정확성을 높이는 데 선도적인 기업"이라며 "사후학습 과정에서의 아첨적 출력 문제를 제거하는 작업은 본질적으로 복잡하고 정치와도 무관하다"고 말했다.

한편 지난 8월에도 44개 주 법무장관들이 AI 기업들에게 아동 안전 문제를 제기하며 책임을 묻겠다는 서한을 보냈지만, 당시에는 구체적 조치 요구는 포함되지 않았었다.


◎공감언론 뉴시스 [email protected]