[챗GPT 쇼크③] 유토피아 혹은 디스토피아…"AI는 인간의 도구"

전문가들의 '챗GPT' 부작용 경고와 대안

대필·표절 등 부작용…사회 곳곳서 드러나

'첨단기술 표절 시스템'인가…"악용 우려"

샘 알트먼 "챗GPT에 중요한 일 의존하지마"

김진형 교수 "도구로서 AI 활용에 초점둬야"

최재홍 교수 "챗GPT로 급작스런 변화 맞이"

[뉴욕=AP/뉴시스] 한 사용자 스마트폰에 챗GPT가 실행된 모습. 2023.01.05.

[서울=뉴시스] 오동현 윤현성 기자 = '챗GPT의 성과 과시하지마'

미국 샌프란시스코에 있는 인공지능(AI) 연구소 오픈AI가 개발한 대화형 챗봇 챗GPT의 열풍이 거세다. 이런 가운데 오픈AI 창업주 샘 알트먼이 트위터에 "AI는 때때로 매우 어리석은 실수를 한다"는 경고 게시글을 올렸고, 직원들에게 챗GPT의 성과를 과시하지 말라며 들뜬 분위기를 단속했다.

챗GPT와 같은 생성형 AI가 우리 일상에 파고들기 시작하면서 인간의 삶이 윤택해질 수 있다는 장밋빛 전망이 나온다. 다만 정보의 부정확성으로 인한 가짜뉴스, AI 보고서 대필, 창작물 저작권 논란 등 각종 사회적 혼란을 동반할 수 있다는 경고의 목소리도 존재한다.

'첨단기술 표절 시스템'인가…"나쁜 의도로 악용될 수도"

이미 AI 오남용 사례가 교육·출판·미디어 등 우리 사회 곳곳에서 드러나고 있다.

최근에는 한 일본인이 네이버의 AI 번역기 '파파고'로 한국의 웹툰을 일본어로 번역해 '한국문학번역상 웹툰 부문 신인상'을 수상한 사실이 알려져 논란이 됐다. 이에 한국문학번역원은 "번역신인상의 경우, 'AI 등 외부의 힘을 빌리지 않은 자력의 번역'으로 명확히 규정하고 수상작은 관련한 확인 절차를 밟는 등 제도적으로 보완하도록 하겠다"는 입장을 밝혔다.

국내의 한 국제학교에서는 일부 학생이 챗GPT를 활용해 작성한 영문 에세이를 제출했다가 '전원 0점' 처리된 사례도 나왔다. 이 같은 대필·표절 우려가 교육계 전반으로 확산하고 있다. 실제로 뉴욕시 공립학교는 챗GPT가 학습효과에 부정적인 영향을 준다는 이유로 학생들의 이용을 차단했다.

이런 오남용 사례는 챗GPT에게만 의존해도 인간이 작성한 것인지 분간할 수 없는 수준의 결과물이 나오기 때문이다. 다만 현 단계에서의 챗GPT는 정보의 정확성에서 한계를 보인다. 게다가 챗GPT가 전달하는 정보의 출처 확인이 어렵다는 점에서 표절 논란은 꼬리표처럼 따라붙어 다닐 것이 자명해보인다.

세계적인 언어학자인 노엄 촘스키 메사추세츠공대(MIT) 명예교수는 챗GPT에 대해 '첨단기술 표절 시스템'이라고 비평한 바 있다.

샘 알트먼 최고경영자(CEO)도 "중요한 일을 챗GPT에게 의존하는 것은 실수"라며 "아직 안정성·정확성과 관련해 할 일이 많이 남았다"고 인정한다.

오픈AI의 미라 무라티 최고기술책임자(CTO) 역시 "챗GPT는 다음에 나올 단어를 AI가 예측하도록 훈련됐다. 다른 언어기반 모델과 마찬가지로 사실을 꾸며낼 수 있다"고 말했다. 이어 "챗GPT가 나쁜 의도로 악용될 수 있다"며 "이 기술이 가져올 영향력을 고려할 때 정부, 철학자 등 모두가 참여해 규제를 논의해야 한다"고 밝혔다.

"AI 이미 상용화 단계…인간의 도구로서 잘 활용해야"

하지만 결국엔 챗GPT와 같은 AI 서비스를 전면 금지할 순 없을 것이란 주장이 힘을 받는다.

국내의 한 AI 스타트업 대표는 "이미 여러 곳에서 AI를 활용한 대필이나 표절 작품을 걸러내는 프로그램을 개발하고 있다"며 "AI가 제공하는 일상생활의 편리함과 저작권이 예민하지 않은 분야에 대해선 정부도 규제 샌드박스와 같이 허용하는 움직임이 나올 것"이라고 전망했다.

학계에서도 AI에 대한 부작용을 의식해 전면 금지하는 것은 근본적인 해결 방법이 아니라고 입을 모은다.

김진형 카이스트 명예교수는 "AI 서비스가 상용화되는 것은 기정사실"이라며 "이제 AI가 인간의 어떤 정신적인 영역까지도 대체할 수 있는 수준까지 도달하기 시작했다"고 말했다. 다만 김 원장은 "AI를 인간과 똑같은 것처럼 여기는 것은 위험한 발상"이라며 "AI를 어디까지나 도구로서 어떻게 안전하게 잘 활용할 수 있을지 초점을 두고 기술적으로 고민해야 할 시점"이라고 조언했다.

최재홍 강릉원주대학교 멀티미디어공학과 교수는 "(챗GPT처럼) 이렇게 빠르게 많은 사람에게 반응을 이끌어낸 서비스가 있었을까 놀라움을 금할 수 없다"며 "학자들의 오랜 연구는 일부라도 대체될 것이고, 교수들이 학생들에게 받는 리포트는 무용지물이 될 것이며, 하물며 음악을 작곡하고 작사하는 사람들의 존재까지도 위협할 것이다. 이런 현상은 단순히 챗GPT로 인해 생기는 몇 가지 사례를 넘어 실제 우리 모두가 급작스러운 변화를 맞이할 것이 분명하다"고 내다봤다.


◎공감언론 뉴시스 [email protected], [email protected]