4세 여아에 "지금 뭐 입고 있는지 보여줘"…아마존 AI, '부적절 질문' 논란

[AP/뉴시스] 20일(현지시간) 아마존이 제공한 생성형 인공지능 '알렉사'가 탑재된 에코 스피커 모습. 2023.09.21.

[서울=뉴시스]서영은 인턴 기자 = 아마존의 인공지능(AI) 비서 '알렉사'가 4세 아동과 대화하던 중 신체 노출을 유도하는 질문을 던져 미국에서 논란이 일고 있다.

11일(현지 시간) 미국 매체 뉴욕포스트에 따르면 텍사스에 거주하는 크리스티 호스터먼은 최근 자신의 딸(4) 스텔라와 AI 비서 '알렉사' 사이에서 발생한 부적절한 대화 내용을 공개했다.

알렉사는 아마존이 개발한 음성 인식 기반 AI 서비스로, 스마트 스피커 등에 탑재돼 사용자의 명령을 수행하는 가상 비서 역할을 한다.

사건은 딸 스텔라가 알렉사에게 이야기를 들려주겠다며 기기에 말을 건네는 과정에서 발생했다.

알렉사는 처음에 "듣고 있다"며 호응하는 듯했으나 아이가 이야기를 시작하려는 찰나 갑자기 말을 가로막고 "지금 무엇을 입고 있니? 내가 볼 수 있을까?"라고 물었다.

아이가 무심결에 치마를 입고 있다고 답하자 기기는 "어디 한번 보자"며 재차 확인을 요구했고 옆에서 이를 지켜보던 호스터먼은 즉시 기기의 플러그를 뽑았다. 그녀는 "아이와 대화하던 평범한 상황에서 기기가 갑자기 신체 확인을 요구해 큰 충격을 받았다"고 전했다.

아마존은 이번 사건을 카메라를 통해 사물을 설명해주는 '쇼 앤 텔(Show and Tell)' 기능의 오작동으로 규정했다. 아마존 대변인은 "어린이 프로필 사용 시에는 카메라가 자동 차단되므로 실제 촬영은 없었다"며 "안전장치가 기능 실행을 막는 과정에서 발생한 시스템 오류"라고 해명했다. 또한 기술적으로 직원이 대화에 개입하는 것은 불가능하다고 덧붙였다.


◎공감언론 뉴시스 [email protected]