정부, 이달 AI윤리원칙 공개…'막는 윤리' 아닌 '잘 쓰는 기준' 만든다(종합)

과기정통부, 대한민국 AI 윤리원칙 대토론회

인간 존엄성·공공선·지속가능성 3대 가치…7대 원칙 제시

공급자 넘어 이용자·정부·사회 역할까지…"추가 규제 아닌 자율규범"

산업계 "법보다 앞서가선 안 돼”…학계 “AI 변화속도 맞춰가야"

[서울=뉴시스] 권창회 기자 = 김정언 정보통신정책연구원 부원장을 비롯한 참석자들이 14일 서울 중구 프레지던트 호텔에서 열린 대한민국 인공지능 윤리원칙 토론회에서 기념촬영을 하고 있다. 2026.08.14. [email protected]

[서울=뉴시스]심지혜 기자 = 정부가 인공지능(AI)을 안전하고 책임 있게 활용하기 위해 공급자와 이용자, 사회가 함께 지켜야 할 새로운 윤리원칙 초안을 공개했다. 인간의 존엄성·사회의 공공선·인류의 지속가능성을 3대 가치로 제시했다.

이와 관련해 산업계에서는 윤리원칙이 새로운 규제로 이어져서는 안 된다는 우려가, 시민사회에서는 이용자 권리와 접근성을 보다 분명히 반영해야 한다는 요구가 나왔다.

과학기술정보통신부와 정보통신정책연구원(KISDI)가 14일 개최한 '대한민국 인공지능 윤리원칙' 대토론회에서는 이같은 의견이 공유됐다.

AI '막기'보다 '잘 쓰기'…규제 아닌 자율규범

이번 윤리원칙은 2020년 마련한 '인공지능 윤리기준'을 최근 기술 환경에 맞게 개정한 것이다. 당시와 달리 생성형 AI가 일상화되고 에이전틱 AI와 피지컬 AI까지 등장하면서 AI에 정보 접근권과 판단·결정권을 어디까지 맡길지, 사람이 AI의 결정을 얼마나 통제할 수 있을지가 새로운 쟁점으로 떠오르면서 변화를 반영한다는 방침이다.

최우석 과기정통부 인공지능안전신뢰지원과장은 준비 중인 윤리원칙이 AI로 인한 갈등을 줄이기 위해 공급자와 이용자가 함께 고려해야 할 자율적 실천 기준이라고 설명했다. 개별 상황마다 정답을 제시하기보다 우리 사회가 AI를 개발·활용할 때 고려해야 할 공통 가치와 최소한의 가이드를 제시하는 데 초점을 맞췄다는 것이다.

최 과장은 “AI 활용이 이미 선택의 문제가 아닌 상황에서 어떻게 잘 활용할 것인가를 고민하면서 만든 원칙”이라고 말했다.

윤리원칙안은 인간의 존엄성, 사회의 공공선, 인류의 지속가능성을 3대 가치로 삼았다. 이를 구체화한 7대 원칙은 인간중심성, 프라이버시 보호, 공정성·포용성, 책임성, 안전성, 신뢰성, 투명성이다.

특히 이번 윤리원칙을 법적 의무를 부과하는 규제가 아닌 '연성규범'으로 규정했다. 최 과장은 “이것이 규제를 하겠다고 만든 게 아니라 이 원칙이 잘 지켜진다면 규제를 추가로 도입할 필요가 없게 되는 것”이라며 “자율적으로 이런 원칙에 대한 이행이 잘 이뤄질수록 새로운 규제 도입 필요성이 낮아질 것”이라고 말했다.

김경만 과기정통부 인공지능정책실장은 "대한민국 인공지능 윤리원칙은 AI 기본사회를 위해 우리 모두가 함께 지켜나가야 할 기준으로, 다양한 사회구성원의 목소리를 담기 위해 노력하고 있다"고 설명했다.

과기정통부는 이날 수렴한 산업계와 시민사회, 학계 등의 의견 바탕으로 이달 중 윤리원칙을 제정·공표할 계획이다. 윤리원칙 제정 이후에는 일반 국민이 쉽게 이해할 수 있는 해설서를 만들고 기업에는 윤리원칙을 반영한 자율점검표를 배포한다. 학생과 일반인을 위한 AI 윤리 교육자료도 마련한다.

“법보다 앞서가선 안 돼…스타트업도 지킬 수 있도록 마련돼야"

토론에서는 새 윤리원칙의 방향성에는 대체로 공감하면서도 실제 현장에서 작동하기 위해 보완해야 할 과제도 제시됐다.

우선 시민사회에서는 이용자 권리와 접근성을 보다 명확히 반영해야 한다는 요구가 나왔다.

홍윤희 사단법인 무의 이사장은 2020년 기준보다 장애인 등 소수자의 권리가 강화된 점은 긍정적으로 평가하면서도 '포용성'뿐 아니라 '접근성'이라는 표현을 원칙에 명시할 필요가 있다고 제안했다.

윤명 소비자시민모임 사무총장은 인간의 존엄성과 사회의 공공선에 더해 인류의 지속가능성을 핵심 가치로 넣은 점을 긍정적으로 평가하면서 “윤리원칙이 선언적인 의미에 그치지 않고 실제 사회에서 역할을 하려면 각 영역에서 이를 어떻게 받아들이고 발전시키느냐가 중요하다”고 말했다.

이지은 참여연대 선임간사는 윤리적 AI를 추구하겠다는 선언이자 약속이라는 데 의미가 있다"며 "AI의 영향을 받는 사람을 포함한 이해관계자들이 함께 윤리적 AI를 개발·사용하기 위해 노력하자는 약속이 돼야 한다"고 말했다.

산업계에서는 기준의 명확성과 현장 적용 가능성을 강조했다.

김경훈 카카오 AI 세이프티 리더는 국가 차원의 윤리원칙이 기업의 AI 개발·활용과 위험관리 기준을 세우는 데 도움이 될 것이라고 평가했다.

다만 투명성 부분과 관련해 "학습데이터 공개와 관련한 내용이 포함돼 있는데 법제에서도 아직 논쟁이 이어지고 있는 사안"이라며 "윤리원칙에 먼저 포함될 경우 향후 입법 논의에 영향을 줄 수 있다"고 우려했다. 또 2020년 윤리기준과 비교해 이번 원칙에서 무엇이 달라졌는지를 서문에서 보다 명확히 보여줄 필요가 있다고 제안했다.

중소기업과 스타트업이 실제로 지킬 수 있는 환경을 만드는 것도 과제로 꼽혔다.

김현주 한국인공지능·소프트웨어산업협회 본부장은 "윤리 원칙의 수준을 낮추는 게 아니라 실제 지킬 수 있는 환경을 조성하는 게 더 의미 있다"며 "중소기업과 스타트업도 이해하고 적용할 수 있는 가이드와 지원체계가 필요하다"고 강조했다.

학계에서는 AI 기술 변화 속도에 맞춰 윤리원칙 자체도 계속 업데이트돼야 한다는 의견이 나왔다.

변순용 서울교대 교수는 윤리를 AI 발전 방향을 안내하는 '나침반'에 비유하며 현재 기술 수준과 쟁점을 반영한 중요한 기준이라고 평가했다. 다만 AI 변화 속도를 감안하면 다음 개정 주기는 5~6년보다 빨라져야 할 수 있다고 지적했다.

이상욱 한양대 교수는 AI 윤리원칙이 산업계의 제도적 예측 가능성을 높이는 역할을 해야 한다고 강조했다. 그는 "법규나 윤리원칙이 애매하면 산업계에는 큰 비용과 불확실성이 될 수 있다"며 국제적으로 일정 수준의 합의가 이뤄진 사안은 적극적으로 기준에 반영할 필요가 있다고 말했다.


◎공감언론 뉴시스 [email protected]