IT 수장들이 말한 AI 시대 보안…"사람이 최종 보스돼야"

이준희 삼성SDS 대표 "에이전트를 사람 한 명으로 생각하라"

유현경 한국MS 부문장 "보안 없인 에이전트 다음 단계 없다"

드 실바 오픈AI 총괄 "에이전트에 모든 데이터 맡겨선 안 돼"

2일 서울대학교에서 열린 '서울대 AI 서밋 2026'에서 김유원 네이버클라우드 대표, 딥스 드 실바 오픈AI 아시아태평양 교육 총괄, 유현경 한국마이크로소프트 공공사업 부문장, 이준희 삼성SDS 대표이사가 기조연설자로 나섰다. *재판매 및 DB 금지

[서울=뉴시스]오동현 기자 = "여러 개의 에이전트가 팀을 이뤄 일을 해도 여전히 사람이 에이전트의 보스가 돼야 한다."

유현경 한국마이크로소프트 공공사업 부문장이 지난 2일 서울대학교 'AI 서밋 2026' 기조연설에서 던진 제언이다.

이날 서밋에는 딥스 드 실바 오픈AI 아시아태평양 교육 총괄, 유현경 한국마이크로소프트 공공사업 부문장, 이준희 삼성SDS 대표이사, 김유원 네이버클라우드 대표이사 등 4명이 기조연설자로 나섰다.

각자 에이전틱(Agentic) 인공지능(AI) 시대의 기회와 전략을 제시한 뒤 이어진 패널 대담에서 "AI 보안과 개인정보 보호를 어떻게 대응해야 하는가"라는 공통 질문에 한목소리로 거버넌스의 중요성을 강조했다.

특히 AI 에이전트 시대의 보안을 단순한 기술 문제가 아닌 '조직 문화'와 '거버넌스 체계'의 문제로 바라봤다. 에이전트가 사람처럼 조직 안에서 24시간 일하고 데이터에 접근하는 시대가 도래한 만큼, 계정·데이터 보안의 기본을 갖추고 사람이 최종 책임자로 남는 구조를 설계해야 한다고 제언했다.

이준희 삼성SDS 대표 "에이전트를 사람 한 명으로 생각하라"

이준희 대표는 기조연설에서 AI 에이전트 도입 격차의 핵심 원인으로 '데이터 정비', '거버넌스', '보안과 신뢰' 세 가지를 꼽았다.

이 대표는 "한 기업에 만 명이 있고 각자 두 개씩 에이전트를 만들면 2만 개의 에이전트가 돌아간다"며 "이런 에이전트들이 사람이 알게 모르게 계속 돌고 있는데 거버넌스 시스템이 갖춰져 있지 않으면 2~3년 후 시스템이 어떻게 동작하는지 몰라 혼란에 빠질 수 있다"고 경고했다.

 또 사내 에이전트와 사외 에이전트 간 대화가 일어나는 미래를 언급하며 "반대편에 있는 에이전트가 악의적 의도를 가진 것은 아닌지에 대한 고민도 하게 될 것"이라고 내다봤다.

이어진 질의응답 시간에서는 "AI가 에이전트로서 동작하기 시작하면서 에이전트를 다른 한 사람이라고 생각하는 것이 가장 비슷하게 맞다"며 "사람에게 적용하는 보안 정책이 잘 정의돼 있는 것처럼, 에이전트가 지켜야 할 보안 원칙을 잘 정리하고 구현·모니터링하며 지속적으로 발전시켜 나가는 노력이 필요하다"고 강조했다.

유현경 한국MS 부문장 "보안 기본 없이는 에이전트의 다음 단계 없다"

유현경 부문장은 기조연설에서 마이크로소프트의 자체 텔레메트리 데이터를 인용해 "매일 수조 개의 보안 시그널이 캡처되는데, 절대량의 80% 이상이 교육기관에서 발생한다"고 밝혔다.

이어 "교육기관이 전 세계 모든 산업 중 가장 많은 보안 사고를 겪고 있는데, 앞으로 기술을 빠르게 받아들이면서 함께 고민하지 않으면 근본적인 변화가 굉장히 어렵다"고 진단했다.

또 조직의 AI 역량 확보에 있어 '인텔리전스'와 '트러스트(신뢰)' 두 축이 담보돼야 한다며, 가드레일을 단순한 '벽'이 아닌 계기판·브레이크·스티어링 같은 안전 운행 장치로 사고해야 한다고 설명했다.

이어진 질의응답 시간에서는 '휴먼 인 더 루프(Human in the Loop)' 개념으로 이를 구체화했다. 그는 "여러 개의 에이전트가 팀을 이뤄 일을 해도 여전히 사람이 에이전트의 보스가 돼야 한다"고 강조했다.

이어 "AI가 일회성 프로젝트가 아니라 여정인 이유가 바로 보안과 책임에 관련된 것들 때문"이라며 "계정 보안, 데이터 보안 같은 안전 장치는 재미없고 어렵고 돈도 들지만, 그것 없이는 에이전트의 다음 단계를 볼 수가 없다"고 역설했다.

드 실바 오픈AI 총괄 "에이전트에 데이터를 처음부터 끝까지 맡겨선 안 돼"

드 실바 총괄은 기조연설에서 오픈AI의 주간 활성 이용자가 9억 명에 달하며 이용자의 40%가 24세 미만이라고 소개했다. 특히 비기술직 인력이 코덱스(Codex) 같은 도구로 시스템을 직접 구축하는 사례를 소개하며 "IT 조직은 이를 장려하되, 가드레일과 세이프가드, 거버넌스를 어떻게 제공할지 고민해야 한다"고 당부했다.

이어진 질의응답 시간에서는 "AI와 합성 데이터의 폭발적 증가 속에서 우리 모두가 데이터의 스튜어드(관리자)가 돼야 한다"고 말했다.

드 실바 총괄은 전날 서울대 학생과의 오찬에서 의학과 컴퓨터과학을 함께 전공하는 학생이 에이전트의 개인 건강 데이터 처리를 연구하고 있었다고 소개하며 "에이전트를 설계·구축·운영할 때 그 에이전트가 데이터를 어떻게 다루는지, 그 과정에 사람이 어떻게 관여하는지가 매우 중요하다"고 강조했다.

 이어 "에이전트에 데이터를 처음부터 끝까지 맡겨서는 안 된다"며 "사람이 데이터 스튜어드로서 올바른 에이전트를 구축하고, 우리가 데이터에 대한 책임을 질 때 비로소 그 데이터를 잘 관리하는 에이전트를 만들 수 있다"고 말했다.


◎공감언론 뉴시스 [email protected]