"해커보다 무서운 AI 폭주 막는다".…정부, 인공지능 윤리원칙 첫 선

과기정통부, '인공지능기본법' 시행 맞춰 국가 상위 규범 초안 발표

인간 존엄성·공공선·신뢰성 등 3대 가치와 프라이버시 등 6대 원칙 명시

[서울=뉴시스]윤현성 기자 = 정부가 급변하는 인공지능(AI) 기술 환경에 맞춰 대한민국 AI 정책의 뼈대가 될 '인공지능 윤리원칙' 초안을 공개했다. 곧 시행될 '인공지능기본법'에 발맞춘 조치다. 산업계와 학계가 지켜야 할 국가 차원의 최상위 규범이다.

부처와 기관별로 파편화되어 있던 가이드라인을 하나로 묶어 사회적 혼선을 줄이고, 안전하고 신뢰할 수 있는 AI 강국으로 도약하기 위한 국가적 기준선을 세우겠다는 구상이다.

과학기술정보통신부와 정보통신정책연구원(KISDI)은 인공지능기본법 시행과 변화한 AI 환경을 반영한 인공지능 윤리원칙 초안을 마련하고, 오는 29일부터 대국민 공개 의견 수렴을 진행한다고 밝혔다.

이번 초안은 지난 2020년 발표된 범정부 '사람 중심의 인공지능 윤리기준'의 취지를 계승하면서도, 최근 빠르게 변화하는 AI 기술·사회 환경과 제도환경을 반영해 국가 차원의 윤리원칙으로 재정립했다.

이번에 공개된 윤리원칙은 사람이 중심이 되는 AI 구현을 위해 모든 사회구성원이 AI 개발·활용 전 과정에서 참고하고 실천해 나가기 위한 기본적이고 포괄적인 원칙으로 마련됐다. 다양한 AI 쟁점이 발생했을 때 사회 전체가 함께 참고할 수 있는 공통의 판단 기준을 제공하게 된다.

특히 이번 윤리원칙은 여러 법령·정책·가이드라인의 정합성을 확보하기 위한 국가 차원의 상위 준거틀을 마련하는 데 의의가 있다.

이번 윤리원칙의 핵심 메시지는 "AI의 혁신과 활용은 인간과 사회가 신뢰할 수 있는 방향으로 이루어져야 한다"는 것이다. 이를 위해 AI 개발·이용 과정에서 지향해야 할 규범적 방향성을 담은 '3대 가치'와 이를 실현하기 위한 기준인 '6대 원칙'이 수립됐다.

3대 가치로는 ▲인간의 존엄성 ▲사회의 공공선 ▲기술의 신뢰성이 제시됐다. 이 가치들을 현장에서 실현하기 위한 6대 원칙으로는 ▲인간의 자율성 ▲프라이버시 보호 ▲공정성·포용성 ▲지속가능성 ▲안전성 ▲투명성이 명시됐다.

이를 통해 단일한 정답을 내리기 어려운 AI 개발 범위와 인간의 감독 수준에 대해 사회가 함께 참고할 수 있는 명확한 판단 기준을 마련한 셈이다. 과기정통부는 특정 기술이나 분야별 세부 해법은 이번 상위 원칙을 토대로 후속 지침을 통해 구체화할 방침이다.

이번 초안은 과기정통부와 KISDI가 지난해 12월부터 올해 4월까지 AI 기술, 법·제도, 철학 등 각 분야 전문가 17인으로 구성된 자문위원회와 워킹그룹 등을 통해 마련됐다. 특히 윤리원칙이 선언적 수준에 그치지 않고 현장에서 참고 가능한 기준으로 기능할 수 있도록 산업계 의견도 담았다.

정부는 이번에 공개된 초안을 바탕으로 대대적인 대국민 의견 수렴에 나선다. 관심 있는 국민과 기업은 오는 5월29일부터 7월8일까지 과기정통부와 KISDI가 공동 운영하는 '인공지능 윤리 소통채널' 누리집을 통해 의견을 제출할 수 있다.

류제명 과기정통부 제2차관은 "인공지능 시대의 주도권은 기술력뿐만 아니라, 그 기술을 얼마나 투명하고 안전하게 관리할 수 있느냐에 달려 있다"며 "새롭게 정립되는 윤리원칙이 사회적 수용성을 확보하고 글로벌 규범의 기준선으로 자리 잡을 수 있도록, 폭넓고 실질적인 의견수렴을 거쳐 최종안을 완성하겠다"고 말했다.


◎공감언론 뉴시스 [email protected]