과학계 파고든 AI…'써도 되나' 넘어 '어떻게 쓰고 누가 책임지나'

국가R&D AI 연구윤리 첫 기준…'AI=보조도구' 원칙 하 책임은 연구자에

노벨상 석학들도 인간의 질문·판단 강조…AI 활용은 연구 전 과정 확대

학계 "현장은 이미 보조도구 넘어"…공개·검증·보안 기준 보완 과제

[서울=뉴시스] '국가연구개발 AI 연구윤리 가이드'에는  AI의 역할은 연구 효율성을 높이는 도구로 제한하고, 최종 연구 결과물에 대한 권리와 책임은 연구자에게 귀속한다는 원칙이 담겼다. (사진=중소기업벤처부 제공) *재판매 및 DB 금지

[서울=뉴시스]윤현성 기자 = 인공지능(AI)이 문헌 검색과 번역을 넘어 가설 수립, 데이터 분석, 코딩, 논문 작성 등 과학 연구 전 과정으로 빠르게 파고들면서 과학계의 고민도 'AI를 써도 되느냐'에서 '어디까지 맡기고 누가 검증·책임질 것인가'로 옮겨가고 있다.

정부가 국가 연구개발(R&D)에서 AI를 활용할 때 지켜야 할 첫 연구윤리 기준을 내놓은 가운데, 같은 날 서울에 모인 노벨상 수상자와 석학들도 AI 시대에 인간 과학자에게 남는 질문과 판단, 책임의 중요성을 짚었다. AI 활용 자체를 막기보다 투명하게 드러내고 인간 연구자가 결과를 이해·검증하며 책임지는 방향으로 과학계의 논의가 본격화하는 모습이다.

"AI는 도구, 책임은 연구자"…국가R&D 첫 기준

과학기술정보통신부는 20일 공개한 '국가연구개발 AI 연구윤리 가이드'를 통해 명확한 기본 원칙을 세웠다. AI의 역할은 연구 효율성을 높이는 도구로 제한하고, 최종 연구 결과물에 대한 권리와 책임은 연구자에게 귀속한다는 것이다.

연구자는 AI가 생성한 정보의 오류와 누락, 출처의 존재·진위를 직접 확인해야 한다. AI의 결과를 그대로 받아들이는 대신 자신의 전문성을 바탕으로 타당성을 검토하고 연구 결과가 만들어진 과정도 설명할 수 있어야 한다.

이와 함께 사용한 AI 모델과 버전, 활용 목적과 범위 등을 공개하도록 권고하고 보안·개인정보 보호 의무도 제시했다.

국가R&D 과제 평가나 논문 심사에서는 평가 대상 자료를 외부 AI 서비스에 입력하지 않는 것이 원칙이다. 피평가자가 사람이 알아보기 어려운 '은닉 프롬프트' 등을 문서에 심어 AI 기반 심사를 왜곡하려는 행위도 금지했다.

이를 두고 이준상 연세대 기계공학부 교수는 "단순한 규제보다 AI 활용을 투명하게 공개하고, 핵심적인 분석과 판단은 연구자가 주도하며 그 결과에 책임지는 연구 문화를 정착시키는 것이 중요하다"고 평가했다.

이같은 문제의식은 이날 서울 코엑스에서 열린 '노벨프라이즈 다이얼로그 서울 2026'에서도 이어졌다. 올해 행사의 주제는 'AI가 바꾸는 과학의 미래'였다. 데이비드 맥밀런 프린스턴대 교수, 브라이언 슈미트 호주국립대 교수, 크레이그 멜로 매사추세츠대 교수 등 노벨상 수상자들도 AI가 과학자의 역할을 어떻게 바꿀지를 놓고 의견을 나눴다.

슈미트 교수는 AI가 연구를 수행하더라도 그 결과에 대한 책임까지 대신 질 수는 없다는 취지로 인간의 역할을 강조했다. 맥밀런 교수는 현재의 AI가 기존 지식을 활용하는 데 강점을 보이지만 아직 기존 지식 밖의 완전히 새로운 화학을 만들어내는 데는 한계가 있다고 진단했다.

멜로 교수 역시 AI 시대에도 과학을 움직이는 질문과 호기심이 어디에서 나오는지가 중요하다는 점을 짚었다.

"현장은 이미 '보조도구' 넘어"…정부 기준보다 앞선 AI 활용

다만 국내 학계에서는 정부가 제시한 'AI는 보조도구'라는 전제가 실제 연구 현장을 충분히 반영하지 못한다는 지적도 나온다.

AI가 이미 단순 번역·오타 교정뿐 아니라 연구 기획, 가설 수립, 방법론 선택, 데이터 분석과 이론 모델 도출, 논문 초안 작성과 수정 등에 광범위하게 쓰이고 있기 때문이다.

염한웅 IBS 원자제어저차원전자계연구단장·포스텍 교수는 "AI는 단순 데이터 정리를 넘어서 데이터 분석, 이론적인 모델 추출 등 훨씬 광범위하게 쓰이고 있다"며 "연구의 다른 단계, 기획, 가설 수립, 방법론 선택 등 연구의 전 과정에 활용되고 있는 현실을 무시한 내용"이라고 지적했다.

이민욱 KIST 책임연구원도 문법 교정이나 요약부터 문헌 고찰 초안, 코드 자동 생성까지 실제 연구 현장에는 '도구적 활용'과 '주체적 판단' 사이 회색지대가 존재한다고 짚었다. 기관 폐쇄망 AI와 최신 상용 모델 간 성능 격차가 큰 상황에서 사용 가능한 도구를 지나치게 제한할 경우 오히려 연구자들이 비공식적인 우회로를 찾게 될 가능성도 제기했다.

결국 향후 과학계의 AI 연구윤리는 'AI를 사용했는가' 자체보다 'AI가 연구에서 무엇을 했고, 인간 연구자가 무엇을 확인하고 판단했는가'를 얼마나 투명하게 설명할 수 있느냐가 핵심이 될 전망이다.

박한우 영남대 사회과학대 학장은 "중요한 것은 'AI를 썼는가'가 아니라 'AI가 무엇을 했고 인간이 무엇을 검증했는가'다"라고 강조했다.

연구자의 책임을 명확히 하는 동시에 안전하게 AI를 활용할 수 있는 보안형 모델과 연구용 AI 인프라, 구체적인 오·남용 사례 등 후속 기준을 함께 마련해야 한다는 주문도 나온다.


◎공감언론 뉴시스 [email protected]