"젠더폭력 예방 위해 성인지적 AI 설계 필요"

"윤리 기준 있지만 실제 대응은 사후 조치에 머물러"

젠더폭력 평가기준 구축 및 공공 부문 활용 등 주장

[서울=뉴시스] 조수정 기자 = 김종숙 한국여성정책연구원장이 10일 오후 서울 종로구 정부서울청사에서 열린 고용평등공시제 도입을 위한 성평등가족부-한국여성정책연구원 업무협약식에서 인사말 하고 있다. 2026.06.10. [email protected]

[서울=뉴시스]박정영 기자 = 한국여성정책연구원이 젠더폭력을 예방하기 위한 성인지적 인공지능(AI)의 설계가 필요하다고 주장했다.

여성정책연구원은 23일 '디지털 기반 젠더폭력 방지를 위한 AI 벤치마크 데이터셋 필요성 연구'를 통해 젠더폭력 위험을 예방하기 위한 정책방안을 제시했다.

연구에 따르면 한국은 AI 규제와 윤리 기준이 마련돼 있지만 실제 대응은 피해 콘텐츠 삭제·차단 등 사후 조치에 머무르고 있는 것으로 나타났다.

또한 연구진은 한국의 AI 규제와 윤리 기준 내에 인간 존엄, 차별 금지, 다양성 보장 등이 명시돼 있지만 실제 구속력이 약하다고 설명했다.

김애라 여성정책연구원 연구위원은 "AI 개발과 안전성 평가 단계에서부터 젠더폭력 위험을 체계적으로 검토하고 차단하는 성인지적 AI 설계가 필요하다"고 주장했다.

이어 핵심과제로 ▲한국어 젠더폭력 방지 평가기준 구축과 대규모 언어모델(LLM) 안전성 평가 지표 개발 ▲부처 간 역할 분담 및 민관 협력 거버넌스 마련 ▲기존 자율 안전성 평가 체계와의 연계 및 공공 부문 우선 활용 ▲평가기준 활용 의무화를 위한 중장기 입법 과제 검토 ▲지속적인 모니터링과 환류 체계 확립 등을 제안했다.

김종숙 여성정책연구원장은 "AI 기술이 디지털 성범죄를 확산시키는 도구로 활용되지 않도록 사전에 위험을 점검하고 대응할 수 있는 안전 기준을 구체화해야 한다"고 강조했다.


◎공감언론 뉴시스 [email protected]