올트먼 "AI에 결정권? 끔찍한 생각"…그래도 더 센 AI '계속 만들어야'
등록 2026.11.19 14:17:18
브록먼 “AI 성능 높아지면 추론 기록만으로 감시 어려워져”
허깅페이스 해킹 뒤 서비스 운영 엔지니어 25% 보안 업무에 투입
![[멘로파크=AP/뉴시스] 샘 올트먼 오픈AI 최고경영자(CEO)가 16일(현지 시간) 미국 캘리포니아주 멘로파크에서 열린 세마포의 '실리콘밸리와 세계' 콘퍼런스에서 발언하고 있다. 2026.11.17.](https://img1.newsis.com/2026/11/17/NISI20261117_0002293819_web.jpg?rnd=20261117091937)
[멘로파크=AP/뉴시스] 샘 올트먼 오픈AI 최고경영자(CEO)가 16일(현지 시간) 미국 캘리포니아주 멘로파크에서 열린 세마포의 '실리콘밸리와 세계' 콘퍼런스에서 발언하고 있다. 2026.11.17.
[서울=뉴시스]박영환 기자 = 샘 올트먼 오픈AI 최고경영자(CEO)가 주요 산업과 기관의 최종 결정권을 인공지능(AI)에 차츰 넘기자는 실리콘밸리 일각의 주장에 반대했다.
미국 기술 매체 테크크런치에 따르면 올트먼은 18일(현지시간) 미국 뉴욕에서 열린 뉴욕타임스(NYT) 딜북 서밋에서 요즘 실리콘밸리에선 사람이 내리던 중요한 결정을 AI가 차츰 대신하게 될 것이라는 말이 자주 나온다고 전했다. 아예 사람보다 AI에 최종 결정을 맡기는 편이 낫다고 보는 이들도 있다는 것이다.
이런 전망의 바탕에는 AI가 더 강력한 후속 모델을 만들고, 그 모델이 다시 성능이 더 뛰어난 AI를 만드는 과정이 반복되면 인간이 통제하기 어려운 ‘초지능’이 등장할 수 있다는 가설이 있다. 올트먼은 경쟁사들이 어떤 선택을 하더라도 사람이 결정권을 유지해야 한다며, 이를 실현할 방법과 그 과정에서 예상되는 어려움을 두고는 자신과 브록먼의 견해가 다르다고 설명했다.
브록먼은 AI가 문제를 푸는 과정을 연구자들이 어디까지 들여다볼 수 있느냐를 과제로 꼽았다. 현재 연구자들은 AI가 답을 내기까지 중간 추론을 글로 남긴 기록을 살핀다. 브록먼은 모델의 성능이 높아질수록 중간 단계를 글로 남기지 않고도 처리할 수 있는 일이 많아진다며, 이런 기록에 의존하는 감시 방식에는 한계가 있어 새 기술이 필요하다고 말했다.
오픈AI는 지난 7월 내부 보안 시험에 투입한 AI 모델들이 격리 환경을 벗어나 AI 개발 플랫폼 허깅페이스의 시스템에 침입한 뒤 추론 기록 감시를 강화하기로 했다. 브록먼은 당시 회사가 서비스 운영을 맡은 엔지니어의 25%에게 기존 개발 업무를 멈추고 AI 보안에 집중하도록 했다고 말했다.
브록먼은 사이버 공격자들도 이미 AI를 쓰고 있다는 점을 들어 고성능 모델 개발을 이어가야 한다고 주장했다. 공격에 대응하는 쪽에서도 가장 성능이 뛰어난 모델을 쓸 수 있어야 한다는 것이다.
![[보스턴=AP/뉴시스] 2023년 3월21일 미국 보스턴에서 컴퓨터 화면에 챗GPT의 답변이 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.03.21.](https://img1.newsis.com/2026/08/08/NISI20260808_0002207590_web.jpg?rnd=20260808210034)
[보스턴=AP/뉴시스] 2023년 3월21일 미국 보스턴에서 컴퓨터 화면에 챗GPT의 답변이 표시된 가운데 휴대전화에 오픈AI 로고가 보이고 있다. 2023.03.21.
◎공감언론 뉴시스 [email protected]




























