과기정통부, AI 창작물 규제 강화 검토…"한눈에 AI 제작인 것 알게"

최민희 과방위원장 "AI 창작물 기준 세워야…가짜라는 것 명확히 알게"

류제명 과기2차관 "AI 창작물에 워터마크 표시…기준 다시 검토하겠다"

[세종=뉴시스]국회 과학기술정보방송통신위원회가 13일 정부세종청사에서 과학기술정보통신부 및 산하기관 국정감사를 진행하고 있다. (사진=심지혜 기자)

[서울=뉴시스]윤현성 심지혜 박은비 기자 = 과학기술정보통신부가 인공지능(AI)으로 만든 딥페이크 영상, 사진 등에 대해 누가 봐도 AI가 제작한 창작물임을 알 수 있도록 하는 규제 방안을 검토하겠다고 밝혔다.

류제명 과기정통부 제2차관은 13일 정부세종청사에서 진행된 국회 과학기술정보방송통신위원회 국정감사에서 "사진이나 영상을 봤을 때 누가 봐도 '이건 AI 제작이구나' 알게 해야 한다"는 최민희 과방위원장의 지적에 "검토하겠다"고 답했다.

이날 국감에서 과방위원들은 직접 제작한 AI 제작 딥페이크 영상물 등을 실제 시연하며 AI의 위험성에 대해 경고했다. 가짜뉴스, 정치적 허위 선동 등에 AI가 악용될 수 있다는 지적이다.

이에 대해 배경훈 부총리 겸 과기정통부 장관 또한 "(AI가) 악용되는 것에 대한 걱정이 있다"고 우려를 표하기도 했다.

이같은 우려에 따라 과기정통부 또한 AI 기본법의 하위 시행령에 관련 규제 조항 등을 준비하고 있다. AI 창작물에 AI가 제작했음을 알려주는 워터마크 부착 등을 의무화하는 방안이 대표적이다.

이날 국감에서 류 차관은 "(AI 창작물에) 워터마크를 표시하도록 했다. 워터마크 표시 방법은 여러 기술적으로 업계 부담을 최소화하는 방향, 소비자를 보호하는 점을 고려해서 기준을 세웠다"고 설명했다.

이를 두고 최 위원장은 "(AI 창작물) 기준을 기계가 판독할 수 있는 것을 기준으로 한 게 말이되나. 각종 딥페이크에 대해 피해를 보는건 기계가 아니라 사람"이라며 "그러면 기계가 아닌 사람이 판독할 수 있어야 한다. 규제 완화는 국회도 동의하지만, AI 딥페이크 등에 대해 가짜임이 명확히 알 수 있도록 표시하는 것처럼 (AI 창작물) 기준을 세워야 한다"고 지적했다.

이어 "사람이 봤을 때 '이건 AI가 만든 거구나" 알게 해야 한다. 아무리 업계가 요구해도 안되는 건 안되는 것"이라며 "AI 투명성 부분에 대해 과기정통부가 더 깊이 고민해야 한다"고 촉구했다.


◎공감언론 뉴시스 [email protected], [email protected], [email protected]