"AI 실수도 보상"…일레븐랩스, 세계 첫 AI 에이전트 보험 도입

잘못된 정보 안내·부적절 대응 등 AI 리스크, 보험으로 보장

[서울=뉴시스] 일레븐랩스는 AI 리스크 평가 전문 기업인 'AIUC'와 협력해 AI 음성 에이전트 전용 종합 보험 제도를 운영한다고 18일 밝혔다. 2026.03.18. (사진=일레븐랩스 제공) *재판매 및 DB 금지

[서울=뉴시스]윤정민 기자 = 인공지능(AI) 기반 음성 기술 스타트업 일레븐랩스가 세계 첫 AI 음성 에이전트 보험을 출시했다. AI의 발언, 행동으로 발생하는 리스크를 기존 기업 보험 체계 안으로 편입시켰다.

일레븐랩스는 AI 리스크 평가 전문 기업인 'AIUC'와 협력해 AI 음성 에이전트 전용 종합 보험 제도를 운영한다고 18일 밝혔다.

기업의 고객 지원이나 영업 현장에서 운영되는 일레븐랩스의 AI 에이전트 '일레븐에이전트'가 잘못된 정보 제공이나 부적절한 대응 등으로 손해가 발생하는 경우 이에 대해 보험 보장을 받을 수 있다.

예를 들어 AI 상담원이 잘못된 할인율을 안내하거나 부적절한 조언을 제공하는 등의 환각 문제로 손해가 발생할 경우 보험 보장을 받을 수 있다. 인증된 AI 에이전트의 행위는 인간 직원이 초래한 업무 실수와 같이 보험 적용 대상이 된다.

많은 기업이 AI 에이전트 도입을 검토하고 있지만 여전히 상당수 기업이 파일럿(시범운영) 단계에서 머물러 있다. 특히 기업들이 우려해온 AI 환각이나 부적절한 발언 등에 따른 법적·경제적 책임에 대한 불명확함이 AI 에이전트 확산의 걸림돌이 되고 있다.

일레븐랩스는 AIUC가 개발한 보안 표준 AIUC-1 보안·신뢰성 인증을 세계 최초로 획득했다. 해당 인증은 환각, 프롬프트 인젝션, 데이터 유출, 편향성 문제 등 실제 AI 운영 환경에서 발생 가능한 위험 시나리오를 기반으로 한 5000건 이상의 적대적 시뮬레이션 테스트를 통과해야 부여된다.

보험 적용은 이러한 검증 체계를 통과한 AI 에이전트에 한해 가능하다. 기업은 이를 통해 AI 도입 시 발생할 수 있는 리스크를 보다 명확하게 관리할 수 있게 된다.

마티 스타니셰프스키 일레븐랩스 CEO 겸 공동창업자는 "기업의 AI 에이전트 도입은 빠르게 확대되고 있으며 AIUC-1 인증은 기업이 자신 있게 대규모로 AI를 도입하기 위한 또 하나의 중요한 단계"라며 "이번 인증은 파트너 기업이 필요로 하는 보안 프레임워크와 AI 보험 보장을 제공하며 기업이 리스크를 최소화하면서도 뛰어난 고객 경험 구축에 집중할 수 있도록 하는 새로운 수단이 될 것"이라고 말했다.


◎공감언론 뉴시스 [email protected]