오픈AI·구글·MS 등, 백악관 주선 AI 규제 따를 것 약속

상업용 AI에 대한 제3자 감독 및 독립적 전문가의 보안테스트 실시

허위 이미지 구별하도록 하고, 공정성 영향미칠 위험 공개 보고해야

[필라델피아(미 펜실베이니아)=AP/뉴시스]조 바이든 미 대통령이 20일(현지시간) 필라델피아에서 연설하고 있다. 아마존, 구글, 메타, 마이크로소프트(MS) 등 인공지능(AI) 기술 개발을 주도하는 기업들이 조 바이든 미 대통령 행정부가 중개한 일련의 AI 안전 장치를 충족시키기로 합의했다고 백악관이 21일 밝혔다. 2023.07.21.

[워싱턴=AP/뉴시스]유세진 기자 = 아마존, 구글, 메타, 마이크로소프트(MS) 등 인공지능(AI) 기술 개발을 주도하는 기업들이 조 바이든 미 대통령 행정부가 중개한 일련의 AI 안전 장치를 충족시키기로 합의했다.

백악관은 21일 AI 제품 출시 전 안전 보장을 위해 미 7개 기업이 이같이 약속했다고 밝혔다. 안전 장치에는 상업용 AI 시스템 작동에 대한 제3자 감독이 포함됐는데, 누가 기술을 감사하고 회사에 어떻게 책임을 물을 것인지는 구체적으로 밝히지 않았다.

인간과 비슷하게 설득력있는 텍스트를 쓰고 새로운 이미지 등을 만들 수 있는 생성 AI 도구에 대한 상업적 투자가 급증하며 AI에 대한 관심이 커지고 있지만 사람들을 속이는 허위 정보를 확산에 대한 우려도 동시에 높아지고 있다.

챗GPT 제조업체 오픈AI 및 신생 기업 앤스로픽 & 인플렉션과 함께 이들 4대 기술 대기업은 생물학적 보안 및 사이버 보안 같은 주요 위험을 방지하기 위해 "독립적인" 전문가가 보안 테스트를 수행하도록 해야 한다고 백악관은 밝혔다.

이들은 또 시스템이 안고 있는 취약점을 보고하고, 디지털 워터마킹을 이용, 딥페이크로 알려진 AI 생성 이미지를 구별할 수 있도록 해야 한다. 또 공정성과 편견에 미치는 영향을 포함해 기술의 결함과 위험을 공개 보고해야 한다.

백악관은 AI 기술 개발 회사들이 자발적으로 이같이 약속함에 따라 의회가 오랜 시간을 들여 AI 기술을 규제하는 법을 통과시키지 않더라도 즉각 위험을 해결하는데 나설 수 있을 것이라고 덧붙였다.

그러나 AI 규제를 옹호하는 사람들은 AI 기술 개발 회사들에 그들의 제품에 대한 책임을 묻기 위해서는 더 많은 조치가 필요하다고 말했다.

비영리단체 '커먼 센스 미디어'의 제임스 스테이어 설립자 겸 최고경영자(CEO)는 "많은 기술 회사들이 책임감있게 행동하고, 강력한 규제를 지지하겠다는 자발적 약속을 실제로는 이행하지 않는다는 것은 역사를 통해 증명됐다"고 말했다.

그러나 일부 전문가들과 신생 경쟁자들은 AI 시스템 규제를 지키는데 들어가는 막대한 비용으로 인해 소규모 개발회사들이 밀려나 오픈AI, 구글, MS 등 자금력이 풍부한 선점자들에게만 혜택이 될 수 있다고 우려했다.

한편 백악관은 이미 여러 나라들과 이러한 AI 규제에 대한 자발적 약속 문제를 협의했다고 밝혔다.


◎공감언론 뉴시스 [email protected]