장 보던 손님 얼굴에 빨간 원…英마트, 절도범 몰아 쫓아냈다

CCTV 화면 속 얼굴에 붉은 원…다음 날 본사 사과

세인즈버리, 얼굴인식 55곳서 200곳 이상 확대 계획

회사 주장 정확도 99.98%…최종 조치는 사람의 몫

[콜턴=AP/뉴시스] 지난달 24일 영국 콜턴 지역의 슈퍼마켓 체인점 세인즈버리 앞에서 영국인들이 쇼핑 카트를 끌며 줄을 서있다. 그동안 1인당 상품 구매 개수를 제한해오던 세인즈버리는 3일(현지시간) "오는 5일부터 구매 개수 제한 조치를 해제한다"고 밝혔다. 2020.4.3.

[서울=뉴시스]박영환 기자 = 영국 대형 슈퍼마켓 체인 세인즈버리가 런던 매장에서 무고한 고객을 절도범으로 잘못 지목해 내보낸 뒤 해당 점포의 인공지능(AI) 기반 얼굴인식 시스템을 일시 중단했다.

영국 가디언은 17일(현지시간) 이 같은 사실을 보도했다. 세인즈버리와 얼굴인식 시스템 운영사 페이스워치는 기술의 오인이 아니라 매장에서 경보를 처리하는 과정에서 사람의 실수가 발생했다고 주장했다.

가디언은 코미디 공연 기획자 맷 아널드(46)의 사례를 소개했다. 그는 런던 남동부 세인즈버리 이스트덜위치점에서 인근 스탠드업 코미디 행사에 쓸 물품을 사고 있었다. 계산대에서 상품과 멤버십카드를 스캔하자 관리자 2명이 다가와 과거 사건 때문에 물건을 팔 수 없다며 나가라고 했다.

직원들은 아널드를 매장 밖으로 데리고 나가려 했다. 아널드는 “최소한의 품위라도 지키고 싶어 직원들에게 내가 직접 걸어 나가겠다고 했다”고 말했다.

아널드는 퇴장하면서 천장에 설치된 폐쇄회로(CC)TV 모니터에서 자신의 얼굴 주위에 붉은 원이 표시된 화면을 봤다고 말했다. 그는 행사가 곧 시작될 예정이어서 장바구니를 남겨두면 동료가 대신 결제하도록 하겠다고 했고, 동료는 약 5분 뒤 매장에 들어가 같은 물건을 사갔다.

(사진=유토이미지) *재판매 및 DB 금지

세인즈버리 본사는 다음 날 아널드에게 사과했다. 회사는 사건을 조사하고 직원들에게 추가 교육을 하는 동안 이스트덜위치점의 페이스워치 시스템을 일시 중단했다.

페이스워치는 매장 CCTV에 잡힌 얼굴을 절도나 폭력 등 과거 사건과 관련해 등록된 인물의 데이터베이스와 대조한다. 일치 가능성이 포착되면 경보를 보내고, 매장 측이 사람의 얼굴과 경보 내용을 다시 확인한 뒤 조치하도록 설계됐다.

페이스워치는 이번 사건에서도 매장에 “정확한 경보”가 전송됐지만 점포에서 이를 다루는 과정에서 사람의 실수가 생겼다고 밝혔다. 세인즈버리도 얼굴인식 기술이 아널드를 잘못 판별한 것이 아니라 경보 처리 과정에서 오류가 발생했다고 주장했다. 회사는 경보가 직원용 기기에 최대 한 시간 동안 표시되며 모든 오인 사례를 기록한다고 덧붙였다.

세인즈버리는 페이스워치 시스템의 정확도가 99.98%이고, 모든 일치 결과를 교육받은 관리자가 검토한다고 밝혔다. 페이스워치도 홈페이지에서 이 수치를 전문 알고리즘과 사람의 검토를 결합한 결과라고 자체 소개한다. 다만 이번 해명에서는 수치의 산출 기준과 오탐률, 독립 검증 여부를 설명하지 않았다.

아널드는 해당 점포 한 곳이 아니라 페이스워치를 사용하는 모든 매장에서 시스템을 중단해야 한다고 요구했다. 그는 “다음에는 불안장애가 있거나 스스로 항의하기 어려운 사람이 잘못 지목될 수 있다”며 특히 청소년이나 취약한 사람에게 큰 충격을 줄 수 있다고 말했다.

세인즈버리는 직원 폭력과 절도 피해를 줄이기 위해 얼굴인식 시스템을 사용한다고 설명한다. 가디언은 지난달 세인즈버리가 페이스워치 사용 매장을 55곳에서 올해 말 200곳 이상으로 늘릴 계획이라고 보도했다.

앞서 런던 엘리펀트앤드캐슬점에서도 무고한 고객 워런 라자가 얼굴인식 경보 대상자로 잘못 지목돼 퇴장당했다. 당시 페이스워치는 시스템이 다른 사람을 포착했지만 직원이 라자를 그 인물로 잘못 판단했다고 해명했다. 홈바겐스와 B&M 등 페이스워치를 사용하는 다른 유통업체에서도 고객이 절도범으로 잘못 지목된 사례가 나왔다.

영국 개인정보 감독기구인 정보위원회는 얼굴인식이 개인의 생체정보를 처리하는 기술인 만큼 일치 결과가 나오더라도 사람의 실질적인 검토가 뒤따라야 한다고 안내했다.


◎공감언론 뉴시스 [email protected]