"AI 거짓말 알려주세요"…과기정통부, 한 달간 '찐 AI 챌린지' 실시

AI안전연구소와 '정보 오류 없는 찐 AI 챌린지' 시행

오류 내용 유효성 검증 뒤 AI 제공기업에 개선 요청

[서울=뉴시스]박은비 기자 = 생성형 인공지능(AI)를 사용하다가 오류를 발견했을 때 이를 알리고 제공업체가 실제 개선하는 프로세스가 진행된다.

과학기술정보통신부는 AI안전연구소와 함께 국민이 안심하고 AI를 활용할 수 있도록 '정보 오류 없는 찐 AI 챌린지'를 오는 22일부터 내년 1월 21일까지 실시한다고 21일 밝혔다.

AI안전연구소는 AI의 기술적 한계, 인간의 AI 기술 오용, AI 통제력 상실 등 다양한 AI 위험에 체계적·전문적으로 대응하기 위한 AI 안전연구 전담조직이다. 지난해 11월 27일 출범했다.

과기정통부 등은 교육·의료·법률·경제 등 정확성이 요구되는 분야에서의 정보 오류가 이용자에게 혼란을 초래하고 피해를 줄 수 있다고 보고, 신뢰 가능한 AI 이용 환경을 조성하기 위해 이번 캠페인을 기획했다.

상용화된 생성형 AI 모델이 사실과 다른 결과를 제공할 경우 이를 알리면 AI안전연구소가 분야별 전문가와 전문적인 검증에 나선다. 이후 관련 AI 개발사나 AI 서비스 제공업체에 알고리즘 개선이나 데이터 정비 등을 요청할 예정이다.

유효성 검증(적격성 검토, 검증 시점 기준 재현 검증, 최종 판정 등), 오류 사례 개선 권고, AI 기업 통보 수순이다.

캠페인 기간 누구나 네이버폼 또는 이메일을 통해 의견을 제출하면 된다. AI 오류 내용을 캡처해 개인 사회관계망서비스(SNS)에 '#AI팩트체크' 해시태그와 함께 게시하고 링크를 제출하는 방식이다.

캠페인이 끝난 뒤 유효한 의견 제출자 중 추첨을 통해 약 200명에게 3만원 상당의 모바일 상품권을 증정한다.

이진수 과기정통부 AI정책기획관은 "AI가 일상이 되는 AI 기본사회로 가기 위해서는 국민이 AI를 안심하고 정확하게 사용할 수 있는 환경이 매우 중요하다"며 "이번 캠페인이 국민과 함께 신뢰할 수 있는 AI 환경을 만들기 위한 중요한 첫 걸음이 될 것"이라고 말했다.


◎공감언론 뉴시스 [email protected]