"AI가 쓴 논문, 책임은 연구자 몫"…정부, 첫 국가 R&D 윤리 가이드라인 확정

AI는 연구 보조 도구로 한정…저자에 AI 이름 못 올린다

사실 검증·투명성·보안·개인정보 등 연구자 7대 권고 제시

평가자료 외부 AI 입력 금지…'은닉 프롬프트'로 심사 왜곡도 제한

[서울=뉴시스]윤현성 기자 = 정부는 국가 연구개발(R&D) 과정에서 인공지능(AI)을 활용하더라도 최종 연구 결과에 대한 책임과 권리는 연구자에게 돌아간다는 규범을 마련했다. 또 AI가 만든 정보는 연구자가 직접 사실관계를 검증해야 하고, 어떤 AI를 어디에 활용했는지도 공개하도록 권고했다.

과학기술정보통신부는 국가과학기술자문회의 운영위원회 심의·의결을 거쳐 '국가연구개발 AI 연구윤리 가이드'를 확정했다고 20일 밝혔다.

이는 AI가 연구 전 과정으로 빠르게 확산되면서 생산성은 높아지고 있지만, 잘못된 정보 생성이나 기존 자료의 편향 답습, 보안·개인정보 유출, 출처가 불분명한 자료 인용 등 새로운 연구윤리 문제가 함께 제기된 데 따른 조치다.

과기정통부는 이번 가이드가 연구자가 국가연구개발 수행의 모든 단계에서 AI를 책임감 있고 윤리적으로 활용할 수 있도록 지원하는 것을 목표로 마련됐다고 강조했다.

AI 역할은 '도구'…모델·버전·활용 범위 등 공개 권고

정부가 제시한 기본 원칙은 AI의 역할을 연구 보조 도구로 한정하고 최종 결과물의 책임과 권리는 연구자에게 귀속한다는 것이다.

AI는 문헌 조사·요약과 번역, 문법 교정, 기초 코딩, 데이터 정리, 시뮬레이션 등 연구 효율을 높이는 용도로 활용할 수 있다. 다만 법적·도덕적 의무를 질 수 없는 만큼 AI 자체를 논문 저자나 발명자로 인정하지 않는 것을 원칙으로 했다.

연구자가 지켜야 할 권고사항은 ▲사실관계 검증 ▲주체적 판단 ▲투명성 확보 ▲결과 신뢰성 관리 ▲정책·규정 준수 ▲보안 확보 ▲개인정보 보호 등 7가지다.

AI가 생성한 내용은 오류나 자료 누락 여부뿐 아니라 출처가 실제 존재하는지와 신뢰할 수 있는지도 연구자가 직접 확인해야 한다. AI 결과를 그대로 받아들이는 대신 논리적 타당성과 전문지식을 바탕으로 검토한 뒤 연구자의 관점을 반영해 다시 구성하도록 했다.

또 연구 과정에서 AI를 사용했다면 어떤 모델과 버전을 썼는지, 무엇을 위해 어느 범위까지 활용했는지도 공개하도록 권고했다. 정보 수집이나 데이터 추론·정리, 문법·오타 점검, 번역 등도 공개 대상에 포함된다.

AI를 활용한 경우에도 연구 성과가 어떤 과정을 거쳐 나왔는지 연구자가 논리적으로 설명할 수 있어야 한다.

보안과 개인정보 기준도 담겼다. 연구자는 기관이 허용한 보안 환경 안에서 AI 도구를 사용해야 하며 개인정보가 포함된 연구자료는 AI 서비스에 입력하지 않도록 주의해야 한다. 불가피하게 개인정보를 활용할 경우 사전에 비식별화 등 보안 조치를 거치도록 했다.

연구계획서 외부 AI에 넣지 말아야…은닉 프롬프트도 금지

국가R&D 과제 평가와 논문 심사에서 AI를 활용할 때의 기준도 별도로 제시됐다.

평가자는 연구계획서나 결과보고서, 논문 등 평가 대상 자료를 외부 AI 서비스에 입력하지 않아야 한다. 보안정보나 개인정보가 외부로 빠져나갈 수 있기 때문이다. AI를 보조적으로 쓰더라도 최종 평가는 평가자의 전문성과 판단을 바탕으로 이뤄져야 한다.

평가를 받는 연구자가 AI를 이용해 정상적인 심사 기준을 피하거나 결과를 왜곡하려는 행위도 금지했다. 사람이 알아보기 어려운 '은닉 프롬프트' 등을 연구자료에 넣어 AI 기반 평가를 조작하려는 시도가 대표적이다. 가이드는 이런 행위가 평가 신뢰성을 훼손하는 연구부정행위에 해당해 관련 법령에 따른 제재 대상이 될 수 있다고 명시했다.

과기정통부는 연구자가 스스로 준수 여부를 확인할 수 있는 '연구자 자가진단표'와 연구보고서 등에 AI 활용 내용을 표시할 수 있는 'AI 활용 여부 공개 서식'도 함께 제공한다.

공개 서식에는 사용한 AI 모델과 활용 내용·기간 등을 기재하고, 연구 결과의 최종 책임이 연구자에게 있다는 점을 확인하도록 했다.

홍순정 과기정통부 성과평가정책국장은 "AI는 연구의 효율성을 혁신적으로 높일 수 있는 유용한 도구지만 그에 대한 최종 책임은 언제나 연구자에게 있다"며 "이번 가이드가 연구현장에 책임 있는 AI 활용 문화를 정착시키고, 국가연구개발의 연구 진실성을 확보할 수 있는 계기가 되기를 기대한다"고 말했다.

과기정통부는 가이드와 해설서를 각 연구개발기관에 배포하고 누리집에도 공개한다. 향후 연구 현장의 의견을 지속적으로 수렴해 내용을 보완할 계획이다.


◎공감언론 뉴시스 [email protected]