읽지도 않고 누르는 '동의합니다'…AI 시대, 내 정보 괜찮을까

송경희 "동의 늘었지만 신뢰는 제자리"…AI 시대 개인정보 제도 재설계 강조

온라인 설문 응답자 88% "형식적 동의 경험"…90% "AI 정보 제공 전 확인해야"

예약·주문 맡긴 AI, 개인정보 판단까지?…편의성과 통제권 사이 접점 모색

송경희 개인정보보호위원장이 1일 서울 서대문구 연세대학교 백양누리에서 열린 제3회 '모두의 토론회'에서 발표하고 있다. (사진=KTV 유튜브 생중계 화면) *재판매 및 DB 금지

[서울=뉴시스]오동현 기자 = "개인정보 제공 동의는 늘었지만 신뢰는 그만큼 쌓이지 않았고, 정작 꼭 필요한 곳에서는 정보가 쓰이지 못하기도 합니다."

송경희 개인정보보호위원장은 1일 인공지능(AI) 시대에 맞춰 개인정보 보호 제도를 새롭게 설계할 필요가 있다며 이같이 밝혔다.

AI가 이용자의 질문에 답하는 수준을 넘어 예약과 주문까지 대신하면서, 개인정보 활용을 어디까지 맡기고 어떤 순간에 다시 동의를 받아야 할지 기준을 논의해야 한다는 취지다.

행정안전부와 개인정보위는 이날 서울 서대문구 연세대학교 백양누리에서 국민 참여단 200여명과 전문가 등이 참석한 가운데 제3회 '모두의 토론회'를 열었다.

송경희 "동의 내용 꼼꼼히 읽기 어려워…제도 새롭게 설계해야"

송 위원장은 통역 앱과 AI 비서 등을 언급하며 AI의 편리함 뒤에서는 개인정보가 끊임없이 움직이고 있다고 설명했다. 데이터 처리 방식과 규모가 달라진 만큼 기존 제도가 보호와 활용을 함께 뒷받침할 수 있는지 돌아봐야 한다는 것이다.

그는 "우리는 하루에도 몇 번씩 '동의합니다'를 누르지만 그 내용을 꼼꼼히 읽기는 쉽지 않다"며 "AI 시대의 달라진 환경에 맞춰 국민의 편익을 위해 개인정보가 안전하게 쓰이면서도 제대로 보호될 수 있도록 개인정보 보호 제도를 새롭게 설계할 필요가 있다"고 말했다.

이날 공개된 사전 온라인 설문 결과에서도 이러한 고민이 드러났다. 응답자의 88%는 동의 절차가 반복되면 형식적으로 누르고 넘어간 적이 있다고 답했다. 미리 동의를 받는 것보다 개인정보가 어디에 쓰이는지 알기 쉽게 알려주고 언제든 거부할 수 있게 하는 것이 더 중요하다는 응답은 94%였다.

다만 AI 비서가 개인정보를 다른 곳에 제공하기 전에는 번거롭더라도 매번 확인받아야 한다는 응답도 90%에 달했다. 단계마다 확인하기보다 한 번에 처리하는 것이 낫다는 응답 역시 61%로 나타났다.

송 위원장은 논의할 과제로 개인정보 활용 과정에서 지켜야 할 기준, 자신의 정보에 대한 통제 방법, 신뢰를 지키기 위한 주체별 역할 등을 제시했다.

개인정보 보호를 위한 정부의 책임도 강조했다. 송 위원장은 "사고가 난 뒤에 대응하는 데 그치지 않고 미리 막는 사전 예방 중심의 보호 체계로 바꿔 나가고 있다"며 법 위반에 엄정하게 대응하고 기업의 보호·보안 투자를 유도하는 한편, 피해자의 신속한 구제를 위해 노력하고 있다고 밝혔다.

이어 현장에서 모인 국민 의견과 숙의 결과가 제도 개선으로 이어지도록 하겠다고 말했다.

이해민 청와대 AI미래기획수석이1일 서울 서대문구 연세대학교 백양누리에서 열린 제3회 '모두의 토론회'에서 발표하고 있다. (사진=KTV 유튜브 생중계 화면) *재판매 및 DB 금지

"식당 예약해줘" 한마디…내 정보는 어디까지 전달될까

전문가 발제에서는 AI 비서가 여러 외부 서비스와 연결될 때 발생하는 개인정보 처리 문제가 주요 쟁점으로 제시됐다.

김병필 한국과학기술원(KAIST) 기술경영학부 교수는 AI에 점심 메뉴를 추천받고 식당 예약까지 맡기는 상황을 예로 들었다. AI가 이용자의 음식 취향과 이전 대화, 위치 등을 참고하고, 예약 단계에서는 이름과 전화번호 등을 외부 예약 플랫폼이나 식당에 전달하는 방식이다.

이 과정에서는 여러 종류의 개인정보가 함께 쓰이고, 이용자의 요청에 따라 정보를 전달받는 외부 서비스도 달라질 수 있다. 특정 서비스에 정해진 정보를 입력하던 방식보다 개인정보의 흐름이 복잡해지는 셈이다.

김 교수는 "예약해줘라고 요청하는 것과 내 개인정보를 누구에게 전달해주는 것에 동의한 것은 법적으로 엄연히 다른 의사표시"라고 말했다.

이어 개인정보를 외부에 전달할 때마다 동의를 확인하는 방식과, 제공 범위를 미리 알리고 이용자가 원하지 않는 제공을 거부할 수 있도록 하는 방식을 비교하며 각각의 장단점을 살펴야 한다고 설명했다.

나아가 개인정보 활용에 관한 판단 자체를 AI에 맡길 수 있는지도 화두로 던졌다. AI가 업무를 수행하다 동의 화면을 만나면 이용자에게 직접 결정을 요청해야 하는지, 미리 맡긴 범위 안에서 대신 판단할 수 있는지도 검토할 문제라는 것이다.

"잘 읽고 동의하라로 끝낼 수 없어"…기업·정부 책임도 쟁점

김도승 전북대 법학전문대학원 교수는 AI 환경에서 개인정보 보호 책임을 이용자의 동의에만 맡겨서는 안 된다고 지적했다.

AI는 학습뿐 아니라 추론과 이용자와의 대화 등 다양한 과정에서 개인정보를 다룬다. 기술이 복잡해질수록 개인이 활용 범위와 위험을 모두 이해한 뒤 동의하는 데 한계가 있다는 설명이다.

이해민 청와대 AI미래기획수석▲도 AI가 개인의 상황을 이해하고 필요한 일을 대신 수행하는 단계로 발전할수록 데이터의 안전한 활용이 중요해진다고 밝혔다.

이 수석은 개인정보를 어느 정도까지 활용할지는 인간이 결정할 수 있어야 하며, 그 기준은 국민의 권리와 사회적 합의에서 출발해야 한다고 강조했다.

그는 "안전과 신뢰는 혁신의 속도를 늦추는 장벽이 아니라 혁신이 더 멀리 나갈 수 있도록 하는 기반"이라며 "브레이크가 잘 만들어져야 성능 좋은 자동차도 의미가 있다"고 말했다.

김민재 행안부 차관은 AI 시대 개인정보의 안전한 활용에 대해 "어느 한 명의 전문가가 내놓는 정답이 아니라 우리 모두가 머리를 맞대고 합의해 나가야 할 미래의 모습"이라며 국민의 의견을 바탕으로 정책 방향을 모색하겠다고 밝혔다.


◎공감언론 뉴시스 [email protected]