[신간] 디자인 딜레마

[서울=뉴시스] 디자인 딜레마 (사진=김영사 제공) 2024.05.02. [email protected]
 *재판매 및 DB 금지

[서울=뉴시스]조수원 기자 = "고인 AI 기술이 위안을 줄 수 있을지라도 이를 사용하는 것이 사용자에게 정말 유익할 지에 대해서는 주의를 기울일 필요가 있다"(102쪽)

책 '디자인 딜레마'는 맞춤형 추천 서비스에서 가상현실VR 체험, 인공지능AI 비서와 챗봇 서비스까지, 우리의 일상을 더욱 편리하고 즐겁게 해주는 콘텐츠와 서비스에 숨어 있는 다양한 부작용과 윤리적 문제들을 살펴본다.

AI기술이 급속도로 발전하면서 빠르게 성장하고 있는 AI 음성비서 시장에 대해서도 짚었다.

AI비서는 사용자에게 공손하고 무슨 말을 해도 다 받아주는 등 장점만 모아 놓은 것처럼 보인다. 하지만 사용자가 상품을 추천해달라고 할 때 제휴를 맺은 회사의 제품을 추천하거나 목소리에 다양한 변화를 주어 사용자를 설득해 특정 방향으로 선택으로 유도하기도 한다.

이처럼 선택권을 AI비서에게 맡기면 사용자는 신경 쓸 일이 줄어 편하지만 AI가 결정해 주는 따르는 삶을 살게 된다. 결국 의존도가 높아져 무기력해질 수 있다. 마치 역사 속 달콤한 말로 왕의 신임을 얻은 후 전횡을 일삼은 간신이 될 수 있다고 지적한다.

'디자인 딜레마' 저자 윤재영은 "디자인에 얽힌 여러 딜레마들은 디자이너의 자율적 판단만으로 해결할 수 없다"며 "사회 전체가 디자인 딜레마의 심각성을 인식하는 것, 그리고 함께 고민하여 윤리적 기준에 대한 사회적 합의를 도출해내는 것이 중요하다"고 강조한다.


◎공감언론 뉴시스 [email protected]