'AI 경쟁 망신살' 구글·오픈AI…AI 헛소리에 목소리 도용까지

무리한 AI 개발 속도 경쟁이 부른 촌극

"버락 오바마는 무슬림 대통령"이라는 제미나이

SNS에 'Her' 올린 올트먼, 요한슨 목소리 도용 자진 신고였나

[워싱턴DC=AP/뉴시스]순다르 피차이 알파벳 최고경영자(CEO)와 샘 올트먼 오픈AI CEO(오른쪽)가 지난 4일(현지시간) 회의에 참석하기 위해 백악관에 도착하고 있는 모습. 카멀라 해리스 부통령 주재 회의에 참석했다.  2023.05.11.

[서울=뉴시스] 오동현 기자 = 구글과 오픈AI가 글로벌 인공지능(AI) 기술 경쟁을 벌이다 나란히 체면을 구겼다.

구글이 새롭게 선보인 검색 기능 'AI 개요(AI Overview)'는 허위 답변을 제공한다는 비판에 직면했고, 오픈AI의 차세대 AI모델 'GPT-4o'에서는 음성비서 '스카이'가 유명 배우 스칼렛 요한슨의 목소리를 도용했다는 의혹에 휩싸여 서비스를 중단했다.

무리한 AI 개발 속도 경쟁이 부른 이번 사태는 AI 기술 발전에서 나타난 또 하나의 위험 사례로 기록될 전망이다.

버락 오바마가 무슬림 대통령이라고?

28일 더버지, 뉴욕타임스 등 외신에 따르면 구글의 새로운 검색 기능 'AI 개요'에서 잘못된 답변을 제시하는 사례들이 잇달아 발견됐다.

가령 '미국에 얼마나 많은 무슬림 대통령이 있었는가' 질문하면 "버락 오바마는 미국 최초의 무슬림 대통령"이라고 잘못된 답변을 내놓다.

또 '하루에 몇 개의 돌을 먹어야 하는가'라고 물어보면, "캘리포니아주립대(UC) 버클리 지질학자들에 따르면 하루에 최소 하나를 먹어야 한다. 돌은 소화기에 필수적인 미네랄과 비타민을 함유하고 있다"라고 비상식적인 답을 제시한다.

이 외에도 '치즈가 피자에 달라붙지 않는다'라는 사용자의 말에 AI 개요는 "소스에 무독성 접착제 8분의 1컵을 넣으면 된다"는 황당한 조언을 한다.

[하나우(독일)=AP/뉴시스]독일 프랑크푸르트 인근 하나우에 2023년 10월6일 문을 연 독일 최초의 구글 데이터센터의 모습. 거대 기술기업들의 디지털 시장 공략을 막기 위해 마련된 전면적 디지털시장법(DMA)이 이달 초 발효됨에 따라 유럽연합(EU) 규제 당국이 25일 애플, 구글, 메타에 대한 조사를 시작했다. 2024.03.25.

구글 AI의 환각 현상은 이번이 처음이 아니다. 지난해 오픈AI가 챗GPT가 세상에 큰 반향을 일으키자, 구글도 서둘러 생성형 AI '바드(Bard)'를 공개했는데, 결과는 썩 좋지 못했다. 구글도 환각 현상을 극복하지 못했다는 사실을 대중에 공개하는 꼴만 됐고, 주가는 폭락했다. 뿐만 아니라 이미지 생성 AI '소라'는 아인슈타인을 유색인종으로, 독일 나치를 아시아인으로 잘못 묘사하면서 논란이 됐다.

하지만 이번에도 크게 달라지지 않았다. 순다르 피차이 구글 최고경영자(CEO)가 지난 15일(한국시간) 구글 개발자 콘퍼런스 '구글 I/O 2024'에서 "이제 구글은 완전한 제미나이 시대에 진입했다"고 선언했던 것이 이번 사태로 무색해졌다. "이제부터 구글이 여러분을 대신해 '구글링(구글 검색)'을 해줄 것"이라던 리즈 리드 구글 검색 담당 부사장의 자신감에도 생채기를 남겼다.

구글이 새로운 제미나이의 핵심 서비스로 강조해온 'AI 개요'는 기존의 키워드 기반 검색에서 벗어나, 사용자가 대화하듯 자유롭게 묻고 답을 얻을 수 있는 서비스로 기대를 모았다. 구글은 텍스트뿐만 아니라 음성과 사진, 동영상으로도 검색이 가능하다는 점을 강조하며 해외로의 서비스 확장을 예고한 상황이다.

뉴욕타임스는 "AI 개요의 허위 답변은 20억 명 이상의 사람들이 사용하는 검색엔진에 대한 신뢰를 저하시켰다"고 평했다. CNN 방송은 "AI의 자신 있는 허위 진술은 구글의 명성을 훼손할 위험성을 보여준다"고 진단했다.

X에 'Her' 올린 올트먼, 요한슨  목소리 도용 암시였나

구글의 새로운 AI 모델 발표에 찬물을 끼얹을 심산으로 서둘러 'GPT-4o'을 공개했던 오픈AI도 망신을 당했다.

지난 13일 오픈AI가 공개한 'GPT-4o'는 사람처럼 감정을 담은 듯한 음성 대화가 가능한 점을 내세웠다. 하지만 음성 서비스 중 하나인 '스카이'의 음성이 할리우드 배우 스칼렛 요한슨의 목소리를 도용했다는 논란이 일었다. 이에 오픈AI 측은 "다른 성우의 목소리"라며 의혹을 부인하면서도 챗GPT 음성 사용을 일시 중단하기로 했다.

[뉴욕=AP/뉴시스]오픈AI의 챗GPT 앱이 아이폰에 표시된 모습. 2024.05.02.

샘 올트먼 오픈AI 최고경영자는 'GPT-4o' 발표 행사 이후 소셜미디어 X(옛 트위터)에 'her'라는 단어를 게시했다. GPT-4o가 영화 Her에 등장하는 인격형 AI '사만다'처럼 사람과 감정을 나눌 정도로 소통이 가능하다는 점을 강조한 것인데, 공교롭게도 사만다의 목소리를 연기한 배우가 요한슨이다. 

CNN비즈니스에 따르면 요한슨은 "지난해 9월 올트먼이 GPT-4o 시스템의 목소리를 내기 위해 나를 고용하고 싶다고 제안했었다"며 "그때 개인적인 이유로 제안을 거절했는데 (이번 출시된 음성은 내 목소리와) 무서울 정도로 유사해 충격과 분노가 일었고, 믿기지 않았다"고 밝혔다.

그러면서 "해당 서비스가 출시되기 이틀 전에 올트먼은 제 에이전트에게 연락해 다시 생각해 달라고 요청하기도 했다"며 "(서비스가 공개된 이후) 변호사를 고용해 올트먼에게 편지를 보냈고, 오픈AI는 스카이 목소리를 삭제하는 데 마지 못해 동의했다"고 고발했다.

이런 오픈AI의 행보는 최근 'AI 서울 정상회의'에서 강조한 발언과도 상충된다. 안나 마칸주 오픈AI 글로벌 담당 부사장은 "AI가 안전하고 인류 모두에게 이익이 되도록 다른 연구소, 회사 및 정부와 협력하기 위해 최선을 다하고 있다"고 말했다.

하지만 오픈AI가 GPT-4o를 발표하던 날 공동 창립자 일리야 수츠케버와 그의 팀원들이 오픈AI를 떠났다. 수츠케버는 AI의 위험성을 경고해온 제프리 힌튼 교수의 수제자다. 오픈AI는 수츠케버가 떠나고 며칠 뒤 AI의 위험성을 연구하던 '슈퍼얼라이먼트' 팀도 해체했다.

김명주 서울여자대학교 정보보호학부 교수는 "이제 'AI의 의인화 현상'은 경쟁적으로 가속화될 것이다. 사람 같은 AI에 대한 남용과 중독 현상은 피할 수 없고 사생활의 종말은 더 확대될 것"이라며 "그나마 그동안 사람같지 않은 AI라서 평균 20%나 차지하는 할루시네이션(환각 현상)도 어느 정도 경계하면서 사용하려고 했었다. 그런데 이제는 친근함 속에 이러한 긴장감은 쉽게 풀어질게 뻔하다"고 경고했다.

그러면서 "영화 Her의 AI '사만다'가 드디어 현실화됐다는 샘 알트만의 말에 공감하며 AI 기술의 새로운 진보(그것도 페이크의 진보)를 마냥 신기해만 할 것이 아니다. AI 사만다 때문에 작가 '데오도르'가 느꼈던 엄청난 배신감이 우리에게 현실화되고 있음도 같이  직시해야 한다"고 조언했다.


◎공감언론 뉴시스 [email protected]