"AI로 만든 가짜 영수증, 리뷰용으로 쓰면 아웃" 네이버, 허위 리뷰에 칼 빼든 이유

네이버, AI·이미지 편집 활용한 '가짜 영수증' 후기 집중 단속

상습 적발 시 리뷰 탭 블라인드…플랫폼 공신력 지키기 위한 수단

[서울=뉴시스] 29일 네이버에 따르면 네이버 플레이스는 전날 공지사항을 통해 리뷰 관련 비정상 행위(어뷰징) 적발 시 업체 단위 제재가 적용될 것이라고 밝혔다. (사진=네이버 공지사항 캡처) *재판매 및 DB 금지

[서울=뉴시스]윤정민 기자 = 네이버가 인공지능(AI)과 이미지 편집 프로그램으로 가짜 영수증을 만들어 가짜 리뷰(후기)를 남기는 행위에 대해 강경책을 내놓았다. 여러 번 적발될 경우 해당 업체 리뷰 전체를 일정 기간 가린다. 리뷰들을 인공지능(AI)으로 4~5줄 짧은 글로 요약한 정보도 볼 수 없게 한다.

29일 네이버에 따르면 네이버 플레이스는 전날 공지사항을 통해 리뷰 관련 비정상 행위(어뷰징) 적발 시 업체 단위 제재가 적용될 것이라고 밝혔다.

▲이미지 편집기나 AI 생성 등을 활용해 조작한 가짜 영수증을 통한 허위 리뷰 등록 ▲허위 리뷰 작성을 목적으로 한 허위 예약 ▲광고 홍보성 리뷰 등록 목적 또는 금전적 대가를 목적으로 리뷰 작성자 본인이 직접 방문하거나 경험하지 않은 허위 리뷰 등록 등이 적발 대상이다.

네이버는 이러한 어뷰징이 확인된 리뷰를 '리뷰 클렌징 시스템'으로 이전부터 삭제해 왔다. 하지만 앞으로는 해당 업체를 상시 모니터링 대상에 포함하고 주의 조치를 내린다.

네이버의 주의 이후에도 관련 행위가 재차 적발되면 해당 업체 리뷰를 볼 수 있는 공간(리뷰 탭)이 일정 기간 가려진다. 또 해당 업체 리뷰들을 AI가 요약한 정보도 볼 수 없도록 조치한다. 리뷰가 업체 인지도와 매출은 물론 검색 상위 노출 순위를 결정짓는 만큼 네이버의 이번 조치는 사실상 플랫폼 내 퇴출에 가까운 징벌적 조치다.

리뷰 조작 범람 위기 놓인 네이버, 못 막으면 플랫폼 신뢰도 떨어진다

[서울=뉴시스] 29일 네이버에 따르면 네이버 플레이스는 전날 공지사항을 통해 리뷰 관련 비정상 행위(어뷰징) 적발 시 업체 단위 제재가 적용될 것이라고 밝혔다. 사진은 제재 예시 (사진=네이버 공지사항 캡처) *재판매 및 DB 금지

네이버가 이처럼 강경한 태도를 보인 이유는 가짜 리뷰가 플랫폼 신뢰도와 직결되기 때문이다. 현재 네이버 플레이스는 많은 리뷰와 높은 평점이 상위 노출을 결정하는 지표로 활용되고 있다.

이에 일부 식당에서는 "영수증 리뷰 시 음료 제공"과 같은 대가성 후기가 등장하며 네이버 리뷰를 믿지 못한다는 이용자 불만이 있어 왔다. 여기에 가짜 리뷰까지 늘어나면 실제 방문객의 목소리는 묻히고 플랫폼 전체가 광고판으로 전락할 수 있다.

네이버는 이미 지난 2024년 11월 가짜 리뷰 생산 목적으로 의도적으로 조작한 가짜 영수증 제출을 유도하는 업체에 주의하라고 안내한 바 있다.

당시 네이버는 "플레이스는 리뷰 클렌징 시스템을 운영하고 있으며 비정상적인 행위를 통해 작성된 리뷰를 생산 시점, 규모와 관계 없이 노출하지 않도록 처리할 수 있다"며 "이러한 비정상적인 행위가 확인된 업체에 대해서는 해당 업체 리뷰의 신뢰도에 심각한 문제가 있다고 판단, 리뷰 이용자의 권리 보호를 위해 등록된 모든 리뷰를 가리는 불이익이 있을 수 있다"고 설명했다.

하지만 최근 AI 기술이 발전하면서 영수증 진위 확인이 불가능할 정도로 정교하게 조작하는 사례가 늘고 있다.

미국 비용 관리·재무 자동화 플랫폼 기업 '앱젠'에 따르면 지난해 9월 기준 경비 청구 목적으로 접수한 허위 영수증 중 약 14%가 AI로 만들어진 영수증이었다. 앱젠은 2024년에 AI를 활용한 위조 영수증이 거의 보고되지 않았다며 전문 지식이 없는 일반인도 AI로 몇 초 만에 그럴듯한 증빙 서류를 위조할 수 있다고 경고했다.

'데이터 오염'이 부른 가짜 정보의 습격 막아라

가짜 리뷰는 네이버 AI 서비스의 품질과도 맞닿아 있다. 가짜 정보가 학습 데이터에 포함되면 AI가 허위 정보를 유포하는 기술이 될 수 있다.

실제로 네이버는 AI가 작성한 것으로 추정되는 잇단 블로그, 카페 글 때문에 잘못된 정보를 전달하는 일을 겪었다. 예를 들어 이달 초 네이버에 '화경버섯 레시피'를 검색하면 AI 검색 결과 요약 서비스 'AI 브리핑'에 다양한 레시피를 담은 내용을 볼 수 있었다.

화경버섯은 식용이 불가능한 독버섯이다. 표고버섯, 느타리버섯과 외형이 비슷하지만 먹을 경우 구토, 설사 등 심각한 중독 사고를 유발한다. 하지만 이 버섯을 요리해 먹는 방법 등 허위정보성 글들이 네이버 데이터베이스에 쌓이면서 AI가 이를 신뢰할 수 있는 정보로 오인했다. 네이버는 문제 확인 후 즉각 관련 문서를 삭제하는 등 대응에 나섰다.

결국 네이버의 이번 가짜 리뷰 차단 대응책은 자사 AI 서비스 공신력을 지키기 위한 방어선인 셈이다. 네이버 측은 "가짜 영수증을 통한 리뷰 조작 행위를 집중 단속하고 건강한 리뷰 생태계를 조성하기 위한 정책적, 기술적 노력을 지속해 나가겠다"고 밝혔다.


◎공감언론 뉴시스 [email protected]