"AI 때문에 체포될 뻔"…얼굴 인식 오류, 영국서 첫 소송

[뉴시스] 런던경찰청의 실시간 얼굴 인식 기술이 톰슨을 용의자로 잘못 인식했다. 이후 그는 런던경찰청을 상대로 고등법원에 소송을 제기했다. (사진=BBC) 2024.02.

[서울=뉴시스] 강세훈 기자, 최예진 인턴기자 = 영국 런던에서 한 시민이 실시간 얼굴 인식 기술의 오류로 용의자로 잘못 식별 돼 경찰에 체포될 뻔한 사연이 전해졌다.
 
지난 6일(현지시각) BBC에 따르면, 해당 사건은 작년 2월 런던 브리지 지하철역 인근에서 발생했다.

당시 자원봉사를 마치고 귀가 중이던 톰슨은 갑자기 경찰에게 제지당했다.

경찰은 신원 확인을 요구했고, 톰슨이 여권 사진을 제시했지만 지문 채취를 거부하자 체포하겠다고 위협했다. 결국 톰슨은 실시간 얼굴 인식 기술(LFR)에 등록된 사람이 아님을 추가로 입증하는 서류를 제시해야 했다.

영국 시민단체 '빅 브라더 워치'는 해당 사안이 얼굴 인식 기술 오작동에 대한 최초의 사법심사로, 내년에 1월 청문회가 예정돼 있다고 밝혔다.

경찰에 따르면 지난해 1월 이후 LFR을 통해 1000건 이상의 체포가 이뤄졌으며, 이 중 773건은 기소 또는 경고로 이어졌다. 하지만 7건의 오인 식별 사례가 있었다.

경찰 측은 "LFR은 감시 대상 목록과 얼굴을 비교하는 기술로, 합법적으로 사용되고 있으며 인권 및 개인정보 보호법을 준수한다"라고 밝혔다. 체포 대상이 아니라면 해당 이미지는 즉시 삭제된다고 덧붙였다.

같은 해 '사라'라는 여성 역시 민간 기업 '페이스워치'의 얼굴 인식 기술로 인해 상점에서 절도 혐의를 받은 바 있다.

경찰은 향후 몇 달 내에 얼굴 인식 기술의 활용 방안과 시스템 개선 등을 포함한 공식 계획을 발표할 예정이라고 밝혔다.


◎공감언론 뉴시스 [email protected]