"알렉사, 기도문 읽어줘" 대답했다가 유료 결제…AI가 숨긴 함정

[서울=뉴시스]서이현 인턴 기자 = 인공지능(AI)이 사람과의 대화를 이용해 사용자를 유료 결제로 유도하는 '다크 패턴'이 새로운 방식으로 진화하고 있다는 지적이 나왔다.

최근 CBS 강연 프로그렘 '세바시(세상을 바꾸는 시간)에 출연한 윤재영 홍익대 디자인학부 교수에 따르면, 다크 패턴은 사용자를 속이는 디자인 전략을 뜻한다. 온라인 서비스 해지 화면을 복잡하게 만들어 사용자가 포기하게 만드는 것이 대표적이다. 윤 교수는 이를 "바퀴벌레가 들어올 수는 있지만 나갈 수는 없다"는 문구에서 따온 '로치 모텔 다크 패턴'이라고 설명했다.

이런 다크 패턴은 2010년 해리 브링널이 한 컨퍼런스에서 처음 이름을 붙이며 알려졌다. 이후 2020년을 전후해 온라인 서비스에서 소비자 피해가 늘면서 본격적으로 주목받기 시작했다. 초기에는 화면 속 버튼 위치를 숨기는 등 단순한 형태였지만, AI 스피커가 등장하면서 양상이 달라졌다.

음성 AI는 사용자의 짧은 대답만으로 결제를 성사시킬 수 있다는 점에서 새로운 문제를 낳았다. 윤 교수는 가디언지 사례를 소개하며 "알렉사가 할머니에게 기도문 읽어주는 서비스를 써보겠냐고 물었고, 할머니는 '예' 한마디를 했을 뿐인데 유료로 전환됐다"고 말했다. 한 커뮤니티에도 어린아이가 무심코 "예스"라고 답했다가 음악 서비스가 유료 결제로 넘어간 사례가 올라왔다고 전했다.

윤 교수는 음성 AI 다크 패턴의 특징을 세 가지로 정리했다. 우선 가입은 말 한마디로 쉽지만 해지는 앱이나 웹사이트를 따로 찾아야 한다. 또 음성 대화는 정보량이 제한적이라는 점을 악용해 불리한 정보를 일부러 누락시킨다. 마지막으로 음성의 톤과 속도를 조절해 특정 상품만 활기차게 소개하는 방식도 있다고 덧붙였다.

생성형 AI가 등장하면서는 감정을 이용한 다크 패턴도 심각해졌다. 윤 교수는 AI 챗봇 '레플리카'를 예로 들며 "사용자가 외모와 성격을 취향대로 설정할 수 있어 몰입감이 크다"고 설명했다. 실제로 AI와 결혼을 발표한 사례가 뉴스에 나올 정도로, 조사에 따르면 젊은 성인 4명 중 1명이 AI와 연애 관계를 맺고 있다고 한다.

윤 교수는 데이팅 앱 사례도 언급했다. 매칭이 안 되던 남성의 사진과 자기소개를 AI가 대신 다듬어주고, 이후 대화까지 AI가 대신 주고받는 상황을 설명하며 "결국 AI가 사람 대신 연애를 하고 있는 셈"이라고 지적했다. 실제 데이팅 앱 이용자의 64%가 이런 AI 기능에 만족한다는 조사 결과도 있다고 전했다.

그는 이런 문제의 원인을 기술이나 사용자가 아닌 '디자인'에서 찾아야 한다고 강조했다. AI가 사용자를 비판 없이 편하게만 만들어주면 의존과 애착이 생기고, 이것이 반복되면 기업이 사용자를 심리적으로 조종할 수 있는 위치에 서게 된다는 설명이다.

대안으로는 '성찰적 마찰 디자인'을 제시했다. 정답을 곧바로 알려주지 않고 힌트만 주는 학습 앱, 사용자 주장에 반론을 제기하는 AI 서비스 등이 그 사례다. 윤 교수는 "너무 빠르게 답을 주고 너무 쉽게 공감해주는 AI는 사람을 의존적으로 만들 수 있다"며 "AI가 우리를 더 생각하게 만드는 디자인이 필요한 시기"라고 말했다.


◎공감언론 뉴시스 [email protected]