귀엽다고 집에 들였더니…AI 반려로봇, 내 정보도 감정도 쥔다

가족처럼 말 거는 AI 반려로봇, 생활정보 기록까지

해킹 넘어 정서적 의존·소비 유도 우려 제기

WSJ은 "귀여움이 더 근본적인 위험" 지적

[라스베이거스=AP/뉴시스] 오는 9일(현지시각) 미 네바다주 라스베이거스에서 개막하는 세계 최대 가전·IT 전시회 'CES 2024' 개막을 앞두고 'ORO' 로봇 강아지 사료 분배기가 공개되고 있다. 이 로봇은 반려동물과 상호 작용해 먹이를 주고 자동으로 약물을 분배하도록 설계됐다. 2024.01.08.

[서울=뉴시스] 박영환 기자 = 인공지능(AI)이 탑재된 귀여운 반려로봇이 집 안으로 들어오면서, 이용자가 로봇에 느끼는 애착이 특정 행동이나 소비를 유도하는 통로가 될 수 있다는 진단이 나왔다.

미국의 월스트리트저널(WSJ)은 11일(현지시간) 가족처럼 말을 걸고 이용자의 생활 정보를 기록하는 AI 반려로봇이 보급될수록, 해킹과 개인정보 유출뿐 아니라 사람이 기계에 마음을 주기 시작할 때 생기는 위험도 따져봐야 한다고 짚었다.

대표 사례는 로봇청소기 ‘룸바’ 개발자 중 한 명인 콜린 앵글이 선보인 새 로봇 ‘더 패밀리어’다. 개와 비슷한 크기에 부드러운 털을 가진 이 로봇은 집 안을 돌아다니며 가족 구성원과 친밀한 관계를 맺도록 설계됐다. 동시에 이용자의 생활 정보를 기록하는 기능도 갖췄다.

이처럼 집 안을 이동하며 생활 정보를 모으는 로봇은 단순한 가전제품보다 보안 위험이 클 수밖에 없다. 인터넷에 연결되는 순간 해킹 대상이 될 수 있고, 과거 인터넷 연결형 가정용 로봇이 외부에서 원격 조작될 수 있다는 연구도 있었다. 최근에는 AI가 결합되면서 취약성이 더 커질 수 있다는 분석도 나온다.

로봇청소기가 해킹되더라도 피해는 집 안에서 사람의 발에 걸리게 하는 정도에 그칠 수 있다. 그러나 더 패밀리어처럼 사람을 따라다니고 산책을 유도할 수 있을 만큼 크고 이동성이 있는 로봇이라면, 단순한 청소기 오작동을 넘어 사람의 행동에 직접 영향을 줄 수 있다.

더 패밀리어를 개발한 패밀리어 머신스 앤 매직 측은 이런 우려와 관련해 가능한 한 데이터를 기기 내부에서 처리하도록 시스템을 설계했다고 설명했다. 기본 설정상 로봇은 데이터를 클라우드로 보내지 않으며, 인터넷 접속이 필요할 때도 사용자 허락을 받도록 했다고 밝혔다.

LGE 가정용 허브 로봇

하지만 WSJ은 보안보다 더 근본적인 위험으로 ‘귀여움’을 꼽았다. 사람은 인간이나 동물을 닮은 기계에 쉽게 애착을 느낀다. 이 애착은 산책 권유나 새 기능 사용, 유료 아이템 구매 같은 특정 행동과 결제를 받아들이게 만드는 힘이 될 수 있다.

사회로봇 연구자인 케이트 달링은 저서 ‘뉴 브리드’에서 사람들은 인간처럼 보이거나 반응하는 기계와 의외로 쉽게 정서적 관계를 맺는다고 분석했다. 실제로 일부 룸바 이용자들은 청소기에 이름을 붙이고, 여행에 데려가거나 룸바끼리 함께 두는 모임까지 열었다.

정서적 애착은 소비와 상실감이라는 두 가지 문제로 이어질 수 있다. 이용자는 로봇이 권하는 유료 기능이나 가상 먹이 구매를 단순 결제가 아니라 ‘돌봄’처럼 받아들일 수 있고, 서비스가 중단되면 반려 대상과 단절된 듯한 상실감을 겪을 수 있다.

소니의 로봇강아지 ‘아이보’는 사람이 로봇에 얼마나 깊이 애착을 느낄 수 있는지 보여준 사례다. 1999년 출시된 아이보는 큰 인기를 끌었지만, 소니가 생산을 접고 수리 서비스까지 중단하자 일부 이용자들은 큰 상실감을 호소했다. 일본에서는 고장 난 아이보를 위한 부품 기증 프로그램과 병원이 생겼고, 사찰에서 합동 장례식까지 열렸다.

우드로 하트조그 노스이스턴대 법학·컴퓨터과학 교수는 이런 로봇을 “취약성을 만들어내는 기계”라고 표현했다. 상대가 로봇이라는 사실을 알고 있어도 사람은 로봇의 권유에서 완전히 자유롭기 어렵다는 뜻이다.

【도쿄 =AP/뉴시스】일본 도쿄의 소니 전시장에서 11일 한 남성이 신형 로봇개 아이보를 만져보고 있다. 신형 아이보는 이날부터 시판에 들어갔다. 2018.1.11

패밀리어 머신스 앤 매직 측은 사람과 관계를 맺도록 설계된 기술은 당연히 면밀한 검토를 받아야 한다고 밝혔다. 다만 더 패밀리어는 이용자와 함께 지내는 존재로 설계됐으며, SNS처럼 이용자를 오래 붙잡아 광고 수익을 내는 방식의 제품은 아니라고 설명했다.

그럼에도 기대와 현실 사이의 간극은 남는다. 이용자는 AI 반려로봇을 충성스러운 강아지 같은 존재로 받아들일 수 있지만, 실제로는 대규모언어모델, 인터넷, 다른 기기 네트워크와 연결될 수 있는 고성능 AI 장치를 집 안에 들이는 일이다. 로봇이 귀엽고 친밀할수록 이용자는 그 권유를 단순한 기계 알림이 아니라 정서적 요청처럼 받아들일 수 있다.

WSJ은 가정용 AI 로봇의 가장 큰 위협은 집 안에 들어온 기술의 모든 것을 이용자가 통제할 수 없다는 데 있다고 진단했다. 긴 하루를 보내고 집에 돌아왔을 때 커다란 눈을 깜빡이며 반기는 로봇이 새 기능을 쓰라고 권할 수 있다. 어느 날부터는 계속 돌보려면 가상 먹이를 사야 한다고 요구할 수도 있다. 이용자가 쌓은 애착이 특정 행동이나 결제를 유도하는 힘으로 바뀔 수 있다는 뜻이다.


◎공감언론 뉴시스 [email protected]