"그럴듯한 가짜에 지쳤다"…김 대리가 AI 창을 닫은 이유

생성형 AI 열풍 수년 지났지만…실무 현장선 활용률 정체되는 'AI 권태기' 뚜렷

'할루시네이션'에 가짜 데이터 양산…실무자 일일이 검증하느라 피로감 호소

전문가 "AI 고도화될수록 인간의 검수 작업 늘어…말이 되는 말보다 진짜인 말 찾아야"

[서울=뉴시스] 김종민 기자 = 생성형 인공지능(AI)을 업무 현장에 도입한 기업들이 늘어났지만, 정작 실무자들 사이에서는 회의론이 고개를 들고 있다. AI가 그럴듯하게 꾸며낸 거짓 정보를 양산하면서 이를 검증하는 데 더 많은 시간과 비용이 소모된다는 지적이다.

국내 한 대기업 마케팅 부서의 김 대리는 최근 기획안 작성을 위해 생성형 AI 툴을 활용하려다 그만두었다. 시장 트렌드 분석 요청에 AI가 제시한 통계 수치와 전문가 인용구가 모두 존재하지 않는 가짜 데이터로 드러났기 때문이다. 김 대리는 "AI가 만든 가짜 정보를 골라내고 팩트를 일일이 검증하느라 퇴근 시간만 늦어졌다"며 "차라리 처음부터 직접 구글링을 하는 편이 속 편하다"고 토로했다.

3일 업계에 따르면, 생성형 AI 열풍 속에서 많은 기업이 앞다투어 관련 시스템을 업무에 도입했으나 최근 실무 현장에서는 AI 활용률이 정체되는 'AI 권태기' 현상이 나타나고 있다. 초기 투자와 기대와 달리 기술의 태생적 한계가 실제 업무 프로세스와 괴리를 보이며 직장인들의 피로감을 유발하는 양상이다.

가장 큰 원인은 고질적인 할루시네이션(정보 왜곡)이다. AI가 출력한 답변의 사실관계를 실무자가 전수 검토해야 하는 상황이 반복되면서 업무 경감 효과를 느끼기 어렵다는 불만이 나온다. 또 범용 AI의 결과물이 누구나 예측 가능한 천편일률적인 수준에 그쳐, 창의성과 맥락적 깊이가 필요한 핵심 비즈니스 영역에서는 단순 반복 업무 단계를 넘어서지 못하고 있다.

정보기술(IT) 업계는 이를 제어하기 위해 다각도의 보완책을 적용하고 있다. 대표적인 기법이 '인간 피드백 기반 강화학습(RLHF)'이다. 사람이 AI의 응답을 직접 모니터링하며 적절한 답변에는 보상을 주고 부적절한 답변에는 페널티를 부여해 인간의 대화 방식과 유사하도록 유도하는 방식이다. 하지만 RLHF는 문맥을 자연스럽게 다듬는 데 기여할 뿐 정보의 정확성을 완벽히 담보하지 못하며, 오히려 AI가 눈에 띄지 않게 교묘한 거짓말을 하도록 만드는 부작용을 낳기도 한다.

이에 따라 최근에는 외부의 검증된 정보망을 실시간으로 활용하는 '검색 증강 생성(RAG)' 기술이 대안으로 부각되고 있다. AI가 내장된 자체 데이터에만 의존해 답변을 지어내지 않도록, 외부 데이터베이스나 실시간 검색 결과를 바탕으로 확실한 근거를 식별해 문장을 도출하게 만드는 기술이다.

김덕진 세종사이버대 컴퓨터·AI공학과 교수(유튜브 채널 '김덕진의 AI디아' 운영)는 "AI가 고도화될수록 오히려 뒤에서 일을 검수하고 조정하고 데이터에 라벨을 붙이는 인간의 일이 더 많아진다"며 "RLHF도 사람이 수천, 수만 개의 응답을 일일이 평가해야 하고, RAG 역시 정확한 외부 데이터 구축과 검증이 필수적"이라고 분석했다. 이어 김 교수는 "가장 중요한 것은 AI의 말을 무조건 믿지 말고 항상 한 번 더 확인하는 습관"이라며 "요즘처럼 정보가 넘쳐나는 시대일수록 우리는 말이 되는 말보다 진짜인 말을 찾아야 한다"고 강조했다.


◎공감언론 뉴시스 [email protected]