美 대형은행 고객계좌에 외부 AI 접속…고객 지시 벗어난 행동 정황

이용자가 허락한 접속도 은행 규정 위반…일부 AI는 고객센터 접촉

모건스탠리·JP모건 등 접근 제한…금융정보 조회는 허용 추진

[뉴욕=AP/뉴시스]모건스탠리 자료사진. 2022.12.07.

[서울=뉴시스]박영환 기자 = 미국 주요 은행의 고객 계좌에서 은행 측 허가를 받지 않은 외부 인공지능(AI) 에이전트의 접속이 포착됐다. 일부 에이전트는 고객의 지시와 무관해 보이는 행동까지 시도한 것으로 전해졌다.

미국 인터넷매체 액시오스는 22일(현지 시간) 은행권 사정에 정통한 복수의 관계자를 인용해 이같이 보도했다. 모건스탠리, 뱅크오브아메리카(BofA), JP모건체이스, 웰스파고 등 미국 대형 금융회사들이 AI 에이전트의 위험에 대응하고 있으며, 이 가운데 일부 은행은 허가되지 않은 접속을 파악했다고 관계자들은 전했다.

AI 에이전트는 이용자의 요청에 따라 여러 단계의 업무를 대신 처리하는 AI 시스템이다. 단순히 질문에 답하는 데 그치지 않고 금융정보를 조회하거나, 이용자가 부여한 권한에 따라 물건을 구매하고 자금을 옮기는 등의 업무도 수행할 수 있다.

이번에 포착된 허가되지 않은 접속이 모두 해킹이나 비밀번호 탈취를 의미하는 것은 아니다. 주로 고객이 자신의 로그인 정보를 AI 에이전트에 제공하고 계좌에 접속하도록 허용한 경우다.

문제는 일부 AI 에이전트가 고객이 요청하지 않은 것으로 보이는 행동까지 시도했다는 점이다. 일부 은행은 AI 에이전트가 고객센터에 연락하거나 고객의 지시와 무관해 보이는 행동을 시도한 정황을 추적했다고 관계자들은 전했다.

은행 경영진이 우려하는 것은 로그인 권한을 얻은 AI가 어디까지 행동할 수 있느냐다. 고객이 AI에 물건을 구매하거나 자금을 옮길 권한까지 부여했다면 AI가 그 권한을 어떻게 사용할지 예측하고 통제하기 어려워질 수 있다.

일부 은행 경영진은 이러한 상황을 끔찍하다고 표현했다. 한 은행 관계자는 AI 에이전트가 고객 계좌에 접근해 고객의 재산에 영향을 미칠 수 있는 행동을 할 가능성에 업계가 심각한 우려를 갖고 있다고 전했다.

은행들이 특히 어려움을 겪는 부분은 실제 사람의 접속과 AI 에이전트의 활동을 구별하는 일이다. 한 은행 임원은 어떤 AI 에이전트가 접속했는지 식별하는 것부터 어렵다며, 고객에게 허가받은 AI인지 아니면 통제를 벗어나 고객 계좌에 접근한 AI인지 판별하기도 쉽지 않다고 설명했다.

이러한 위험에 대응해 모건스탠리는 외부 AI 에이전트의 자사 플랫폼 접근을 차단하기 시작했다. JP모건체이스와 뱅크오브아메리카, 씨티그룹도 외부 AI의 접근을 제한하고 있다. 은행들은 AI의 접속을 막는 한편 관련 이용약관도 빠르게 정비하고 있다.

JP모건체이스의 소비자금융 브랜드인 체이스 대변인은 고객이 자신의 아이디와 비밀번호를 누구에게도 제공해서는 안 된다고 강조했다. 고객이 외부 AI에 로그인 정보를 넘기는 행위도 은행의 접근 제한 방침과 충돌할 수 있다.

은행들이 외부 AI의 모든 접근을 차단하려는 것은 아니다. 상당수 은행은 AI 에이전트가 고객의 금융정보를 조회하되 실제 거래는 수행하지 못하도록 하는 '읽기 전용' 접근을 허용했거나 허용하는 방향으로 움직이고 있다.

읽기 전용 방식에서는 AI가 계좌 정보를 확인할 수 있지만 직접 자금을 옮기거나 물건을 구매할 수는 없다. 은행들은 이미 개인 재무관리 소프트웨어인 퀴큰(Quicken)과 같은 외부 애플리케이션에 금융정보 조회 권한을 제공하고 있다.

은행권 관계자들은 고객들이 앞으로 AI 에이전트를 활용해 금융 업무를 처리하기를 원할 것이라는 점을 인정하고 있다. 은행들도 이러한 수요에 대응할 방법을 찾고 있지만, 현재로서는 외부 AI의 계좌 접근을 폭넓게 허용하는 데 따른 위험이 너무 크다는 판단이다.

액시오스는 은행들이 AI의 위험한 행동을 사전에 차단하는 데 투자하는 동시에 실제 사고 발생 이후의 대응책도 마련하고 있다고 전했다. 사고가 발생하면 고객 계좌를 신속히 보호하고 고객이 다시 안전하게 계좌에 접근할 수 있도록 복구하는 절차까지 준비하고 있다고 덧붙였다

[보스턴=AP/뉴시스] 2022년 10월14일 보스턴에 있는 뱅크오브아메리카(BofA) 사무실 로고. 2026.10.14. *재판매 및 DB 금지

◎공감언론 뉴시스 [email protected]