"내 카드로 결제한 AI가 사고 쳤다면?"…누가 책임지나[제로클릭 경제④]

'대답' 대신 '행동'하는 AI 시대…법·제도는 아직 '깜깜이'

정부, 사용자 과실·기기 결함 등 책임 주체 가릴 법적 기준 마련 착수

美에선 아마존-퍼플렉시티 '접속 권한' 충돌… 글로벌 가이드라인 시급

참고용 이미지. 재판매 및 DB 금지/ 유토이미지 *재판매 및 DB 금지

[서울=뉴시스]오동현 기자 = 인공지능(AI)이 쇼핑몰에 대신 로그인해 결제까지 마친다. 일정을 잡고 필요한 데이터를 알아서 주고받기도 한다.스스로 판단하고 외부 시스템에 접근해 여러 단계를 직접 실행하는 '에이전틱 AI(Agentic AI)' 시대다.

그런데 이 과정에서 잘못된 결제가 일어나거나 개인정보가 새어 나간다면 누가 책임을 져야 할까. 한국을 포함해전 세계가 풀어야 할 숙제다.

스스로 행동한 AI가 사고 냈다면… 책임은 누구에게

과학기술정보통신부는 에이전틱 AI의 책임 소재를 정리하는 작업에 착수했다. 한쪽에선 법적 기준을 만들고, 다른 한쪽에선 AI 안전연구소를 통해 기술적 검증을 진행한다. 정부는 최근 국회에 제출한 답변서에서 책임 주체를 두 가지로 구분했다.

먼저 이용자가 AI를 부주의하게 다뤄 사고가 났다면 이용자 책임이다. 명예훼손이나 기기 오작동 등이 여기 해당한다. 반대로 AI 자체에 결함이 있다면 만든 개발사가 책임을 진다.

까다로운 건 이용자가 시키지도 않았는데 AI가 알아서 판단해 움직이다 사고가 난 경우다.

과기정통부는 "현재는 책임 소재가 불분명해 제도적 공백을 해소할 방안을 마련 중"이라고 밝혔다. 책임을 누구에게 물을지 기준 자체가 아직 없다는 뜻이다.

[서울=뉴시스] 퍼플렉시티는 9일(현지 시간) AI 기반 웹 브라우저 '코멧'을 출시했다. (사진=퍼플렉시티 블로그 캡처) *재판매 및 DB 금지

"내 허락 없이 들어오지 마"…플랫폼 vs AI 대리인 첫 충돌

해외에서도 자율형 AI의 권한을 둘러싼 법적 다툼이 시작됐다. 미국에서는 아마존이 캘리포니아 북부 연방지방법원에 AI 스타트업 퍼플렉시티를 상대로 소송을 냈다. 퍼플렉시티의 AI 브라우저 '코멧'이 아마존 계정에 접근해 쇼핑하는 기능을 막아 달라는 취지다.

법원은 아마존의 손을 들어줬다. 재판부는 아마존이 미국 연방 컴퓨터사기방지법(CFAA)과 캘리포니아 컴퓨터부정사용방지법 위반 주장에서 이길 가능성이 크다고 판단, 아마존의 가처분 신청을 인용했다.

판결의 핵심은 '누구의 허락을 받았느냐'였다. AI가 이용자의 허락은 받았지만, 플랫폼 운영자인 아마존의 승인은 받지 않았다는 것이다. 사용자가 권한을 맡겼더라도 플랫폼 운영자가 AI의 접근을 막을 권리가 따로 있다는 뜻이다.

아마존은 퍼플렉시티가 코멧을 일반 구글 크롬 브라우저처럼 위장해 정체를 숨긴 채 활동했고, 2024년 11월부터 최소 다섯 차례에 걸쳐 중단을 요청했지만 응하지 않았다고 주장했다.

퍼플렉시티는 반발하고 있다. 이번 소송이 보안 문제가 아니라 경쟁자를 떼어내려는 시도라고 주장한다. AI가 아마존 광고를 우회하기 때문에 광고 매출을 지키려는 속내라는 것이다. 이번 항소 결과에 따라 에이전틱 커머스 산업 전반에서 플랫폼이 외부 AI 에이전트의 접근을 차단할 권한이 어디까지 인정되는지가 가려질 전망이다.

결제 권한 어디까지… '데이터 오남용' 막을 안전망 시급

권한 위임도 쟁점이다. AI에게 카드 결제 권한을 어디까지 줄 것인지가 핵심이다. 업계에서는 '소액은 AI 자율, 고액은 사용자 승인' 같은 단계별 모델을 논의 중이다. 하지만 아직 합의된 기준은 없다.

개인정보 처리 문제도 심각하다. AI 비서가 여러 서비스에 접속하면 데이터가 하나로 뭉친다. 이 과정에서 정보가 오남용될 가능성이 크다. 한 곳에서 얻은 정보를 다른 서비스가 멋대로 활용하는 것을 막을 안전망이 필요하다.

정부 주도의 인증·평가 체계가 오히려 책임 회피 수단이 될 수 있다는 우려도 제기됐다. 서울대 인공지능신뢰성연구센터 이은주 소장은 앞서 '국가 AI 안전 생태계 조성 마스터플랜(가칭)' 의견수렴 간담회에서 "안전한 AI를 만드는 건 기업의 책임이고, 이를 검사해 인정해주는 게 정부와 공공기관의 역할"이라며 "이런 제도를 만드는 것이 오히려 국민에게 일종의 아웃소싱을 하면서 책임을 전가하는 것 아닌지 생각해봐야 한다"고 짚었다.

AI 에이전트는 사람이 클릭하지 않아도 검색과 소비, 업무를 대신 처리하는 새로운 경제 구조를 만들고 있다. 그러나 그 속도를 따라잡을 책임 구조와 안전망은 아직 걸음마 단계다. 기술의 속도에 맞춘 정교한 안전망 마련이 시급한 시점이다.


◎공감언론 뉴시스 [email protected]