오픈AI 국방부 계약 후폭풍…임원도 사임 "AI 자율살상 시스템 성급"

로봇공학 부문 총책임자 사임 "자율살상 시스템은 심각한 검토가 필요한 문제"

오픈AI "국내 감시 금지와 자율살상무기 금지 '레드라인' 유지"

오픈AI 해명에도 챗GPT 삭제 건수 급증…이용자 반발

[보스턴=AP/뉴시스]지난달 21일(현지시간) 미국 보스턴에서 한 사용자가 컴퓨터로 인공지능(AI) 챗봇 '챗(Chat)GPT'를 사용하고 있다. 화면 앞에는 챗GPT를 개발한 오픈 AI 로고가 스마트폰 화면에 떠 있다. 2023.04.06. *재판매 및 DB 금지

[서울=뉴시스]오동현 기자 = 오픈AI가 미국 국방부와의 계약으로 인공지능(AI) 윤리 논란의 중심에 섰다. 핵심 임원의 사임과 이용자 반발로 기업의 정체성과 철학이 도마 위에 올랐다.

미 IT매체 테크크런치는 7일(현지시간) 케이틀린 캘리노스키 오픈AI 로봇공학 부문 총책임자가 회사의 미 국방부 기밀 네트워크 AI 계약 발표 일주일 만에 사임했다고 보도했다.

그는 자신의 X(옛 트위터)를 통해 "사법적 감독 없이 미국인을 감시하거나 인간 승인 없이 살상 결정을 내리는 자율시스템은 심각한 검토가 필요한 문제"라며 "이는 원칙의 문제"라고 밝혔다.

이어 "안전장치와 거버넌스 논의가 충분히 이뤄지기도 전에 계약 발표가 진행됐다"며 "의사결정 구조에 대한 우려가 있었다"고 덧붙였다.

그는 메타에서 증강현실(AR) 글라스 프로젝트를 이끌다 지난해 11월 오픈AI에 합류해 로봇공학 부문을 총괄했다.

그의 사임 이후 논란이 커지자 오픈AI는 성명을 내고 "국내 감시 금지와 자율살상무기 금지라는 명확한 '레드라인'을 유지하면서 국가 안보 분야에서 책임 있는 AI 활용 방안을 모색하고 있다"고 해명했다.

앞서 샘 알트먼 오픈AI 최고경영자(CEO)도 내부 메모를 소셜미디어에 공유하며 "금요일에 서둘러 계약을 발표하지 말았어야 했다"고 인정했다. 그러면서 "사안이 매우 복잡했고, 명확한 소통이 필요했다. 진심으로 상황을 완화하려 했지만, 기회주의적이고 허술해 보였을 뿐"이라고 말했다.

오픈AI의 성명과 샘 올트먼의 해명에도 이용자 반발은 수그러들지 않았다. 시장조사업체 센서타워에 따르면 지난 2월 28일 기준 챗GPT 모바일 앱 삭제 건수가 전날 대비 295% 증가했다. 반면 앤트로픽 클로드의 미국 내 다운로드 수는 같은 날 51% 늘었다고 추정했다. 앤트로픽이 '윤리적 AI'라는 브랜드 이미지를 얻으면서 반사이익을 누리는 모양새다.

앤트로픽은 자사 모델 '클로드(Claude)'를 국방부에 제공해 왔지만, 군사적 전용 가능성에 반대하며 계약을 중단했다. 이후 국방부는 앤트로픽을 '공급망 위험 기업'으로 지정했다. 이런 상황에서 오픈AI가 국방부와 기밀 네트워크용 AI 서비스 계약을 체결하면서 업계 내 윤리 논쟁이 재점화된 것이다.

전문가들은 이번 사안을 AI 산업의 분수령으로 보고 있다. 기술 혁신이 국가 안보와 만나며 AI의 역할이 확장되고 있지만, 인간의 통제 밖 의사결정 체계를 어디까지 허용할 것인가라는 문제가 본격적으로 제기되고 있다는 분석이 나온다.


◎공감언론 뉴시스 [email protected]