올트먼·아모데이, 유엔서 AI 국제공조 촉구…트럼프는 "규제 반대"

유엔총회 기간 첫 AI 안보리 회의…생물무기 이용 금지·글로벌 안전기준 제안

올트먼 "극도의 주의 필요"……아모데이 "가장 중요한 글로벌 안보 문제"

트럼프는 전날 "AI 발전 억제 안 해"…규제 놓고 시각차

[뉴욕=AP/뉴시스] 샘 올트먼 오픈AI 최고경영자(CEO)가 23일(현지 시간) 미국 뉴욕 유엔본부에서 열린 제81차 유엔총회 기간 중 인공지능(AI)을 주제로 한 안전보장이사회 회의에서 발언하고 있다.2026.09.24.

[서울=뉴시스]박미선 기자 = 샘 올트먼 오픈AI 최고경영자(CEO)와 다리오 아모데이 앤트로픽 CEO가 유엔 안전보장이사회에서 인공지능(AI)이 인류 전체의 안보를 위협할 수 있다고 경고하며 국제적인 안전 기준 마련을 촉구했다. 도널드 트럼프 미국 대통령이 AI 규제에 반대하며 기술 발전을 계속 장려하겠다고 밝힌 지 하루 만이다.

23일(현지 시간) 뉴욕타임스(NYT)와 CNBC 등에 따르면 올트먼과 아모데이는 이날 미국 뉴욕 유엔본부에서 열린 AI와 세계 평화·안정을 주제로 한 안보리 회의에 참석해 AI의 빠른 발전에 대응하기 위한 국제 공조가 필요하다고 강조했다. 유엔총회 기간에 AI를 주제로 안보리 회의가 열린 것은 이번이 처음이다.

올트먼은 "역사를 돌이켜보면 서로 경쟁하고 항상 사이가 좋지만은 않은 국가들도 강력한 신기술을 마주했을 때 공동의 이해관계와 집단적 이익을 위해 힘을 합친 경우가 있었다"며 "우리는 지금이 바로 그런 때 중 하나여야 한다고 생각한다"고 말했다.

그는 AI의 빠른 발전 속도를 고려할 때 "극도의 주의"가 필요하다며 AI 모델을 어떻게 개발하고 관리하느냐에 따라 기술이 인류에게 막대한 잠재력을 제공할 수도, 심각한 위험을 초래할 수도 있다고 경고했다.

특히 인간이 AI에 대한 통제력을 유지하기 위해 주요 AI 연구소에 적용할 국내외 안전 기준을 마련해야 한다고 주장했다. AI의 능력을 측정하고 위험을 평가하는 방법, 안전장치가 충분한지 판단하는 기준, 인간의 감독을 유지하기 위한 방안 등이 필요하다는 설명이다.

다만 올트먼은 "이러한 기준이 기존 기업들의 지위를 고착시키거나 특정 사업 모델을 다른 모델보다 유리하게 만들어서는 안 된다"고 강조했다.

[뉴욕=AP/뉴시스] 다리오 아모데이 앤트로픽 최고경영자(CEO)와 클레망 들랑그 허깅페이스 공동창업자 겸 CEO가 23일(현지 시간) 미국 뉴욕 유엔본부에서 열린 제81차 유엔총회 기간 중 인공지능(AI)을 주제로 한 안전보장이사회 회의에 화상으로 참석하고 있다. 2026.09.24.

아모데이는 AI의 위험을 글로벌 안보 문제로 규정하며 한층 구체적인 규제 방안을 제시했다.

그는 "나는 이것이 오늘날 세계가 직면한 가장 중요한 글로벌 안보 문제라고 생각한다"며 "AI를 제대로 관리하지 못한다면 인류 전체에 위험이 될 수도 있다"고 말했다.

아모데이는 AI를 이용한 생물무기 제조를 금지하고 AI 발전 속도에 맞춘 평가·검증 시스템을 구축할 것을 안보리에 촉구했다. 또 AI 모델의 통제 상실과 오용 위험을 시험하기 위한 글로벌 기준을 마련하고, "세계 안보에 중대한" AI 오용이 발생할 경우 이를 알리는 국제 통보 시스템을 구축해야 한다고 주장했다.

아모데이는 이달 초 최첨단 AI 개발 속도를 늦추자는 제안을 내놓으며 기술 업계에 파장을 일으켰다. 경쟁사인 오픈AI의 올트먼도 이례적으로 이에 동의하며 AI 개발 속도를 조절할 필요가 있다는 입장을 공개적으로 밝혔다.

두 CEO의 발언은 트럼프 대통령이 전날 유엔총회 연설에서 AI 규제 움직임을 강하게 비판한 것과 대비된다.

트럼프 대통령은 AI를 통제하려는 움직임을 "글로벌리스트의 책략"이라고 규정하며 미국은 AI 기술 발전을 "억제하지 않고" 계속 장려하겠다고 밝혔다. 그는 "산업혁명보다 더 큰 무언가의 성장을 억누르지 않을 것"이라고 말했다.

이날 AI의 위험을 지나치게 강조하는 데 대한 경계의 목소리도 나왔다. 회의에 화상으로 참석한 클레망 들랑그 허깅페이스 CEO는 AI를 이용한 대규모 사이버 공격의 위험이 실제로 존재한다면서도 "공포에 기반한 서사는 올바른 결정을 내리는 방법이 아니다"라고 말했다.

허깅페이스는 올해 초 오픈AI 기술에 의한 침해를 당했지만 AI를 활용해 이에 대응했다. 들랑그는 이 과정에서 오픈소스 AI 모델이 중요한 역할을 했다며 "우리는 AI의 공격을 받았지만, 더 중요한 것은 AI를 이용해 스스로를 방어했다는 것"이라고 강조했다.


◎공감언론 뉴시스 [email protected]