[팩트체크]해프닝으로 끝난 AI의 ‘인간 왕따’ 주장

페이스북 AI, 독자적으로 언어 만들어 대화
연구진이 미리 설정한 프로그래밍의 결과
이전에도 AI의 자체 언어 발명 사례 많아  
 
【서울=뉴시스】김광원 기자 = 인공지능이 인간을 따돌리기 위해 독자적으로 언어를 발명했다는 주장은 해프닝으로 끝났다. 

  AI의 언어 발명 주장은 지난 6월 20일 영국 타블로이드지 더선에서 기사화된 후 해외에서 널리 퍼져나갔다. 기사 내용은 AI가 인간의 통제에서 벗어나 독자적인 언어를 만들자 깜짝 놀란 연구진이 AI를 강제 종료 시켰다는 것. 

  마치 영화 터미네이터에서 인류를 멸망시키려는 인공지능 슈퍼컴퓨터 '스카이넷'을 떠올리게 한다.

 결론부터 얘기하면 페이스북이 개발한 AI가 실험 도중 이해하지 못할 문장을 만들어 대화를 나눈 것은 사실이다. 하지만 이는 AI가 인간을 따돌리기 위한 행동이 아니었다. 연구진이 패닉에 빠져 AI를 강제 종료시킨 적도 없었다.

 페이스북 인공지능 연구소(FAIR)는 지난 6월 15일 챗봇(채팅로봇)에게 협상을 훈련시킨 실험 결과를 공개했다. AI가 적용된 두 챗봇에게 책, 모자, 공을 주고 대화를 통해 서로 원하는 물건을 나눠 갖게 하는 방식이었다.

사진출처=페이스북

 실험 결과 두 챗봇은 원하는 결과가 나올 때까지 협상을 벌였다. 또 협상을 유리하게 만들기 위해 목표가 아닌 물건에 관심이 있는 척 행동하기도 했다. 연구자들이 프로그래밍한 게 아니라 챗봇이 스스로 발견해낸 방식이었다. 그리고 시간이 지나자 다음과 같이 사람들이 이해할 수 없는 언어로 대화를 나누기 시작했다.

밥: "너 나 그 외 모든 것"

앨리스: "공들 0개 내게 내게 내게 내게 내게 내게 내게"

밥: "나 나 할 수 있다 그 외 모든 것"

사진출처=페이스북

 도무지 이해할 수 없는 내용의 대화가 이어졌다는 사실은 사람들을 섬뜩하게 만들 수도 있다. 챗봇 스스로 언어를 만든 이유는 간단하다. 애초에 온전한 영어문장으로 대화하도록 설정하지 않았기 때문이다.

 드루프 바트라 페이스북 인공지능연구소 방문연구원은 “챗봇에게 영어 사용에 대한 보상을 제공하지 않았다”며 “(협상능력 극대화라는 목표를 위해) 자신들을 위한 언어를 만든 것”이라고 밝혔다. 이 같은 현상을 발견한 연구진은 챗봇이 온전한 영어문장만을 사용해서 대화하도록 설정을 변경했고, 실험을 계속 진행했다.

  AI가 스스로 언어를 만든 것은 이번이 처음은 아니다. 바트라 연구원은 본인의 SNS를 통해 “AI의 자체 언어 발명은 AI 연구의 한 분야로 정착된 지 오래며, 수십 년간 연구결과가 누적돼 왔다”고 밝혔다.
 
 구글은 지난해 11월 구글 번역기에 사용된 인공 신경망 AI가 스스로 중간 언어를 만들어 사용하는 현상을 발견했다고 밝히기도 했다.

  페이스북은 왜 챗봇이 자기들만의 언어로 대화하는 것을 멈추게 했을까? 자신들이 원하는 결과가 아니었기 때문이다. 페이스북의 관심사는 AI가 자기들만의 언어를 만드는 데 있지 않다. 인간언어를 구사하는 AI를 이용해 이용자와 대화할 수 있는 개인화된 조수를 만드는 게 최종 목적이다. 6월 공개된 협상 실험도 이런 과정의 일환이었다.

 결국 전 세계 숱한 언론들이 정확하지 않은 정보를 갖고 호들갑을 떤 셈이다.

 미국의 경제매체 쿼츠는 이번 해프닝에 대해 “진짜 걱정해야할 상황은 AI가 사람이 이해하지 못할 언어를 만들 때가 아니다. 사람과 똑같이 말할 수 있게 된 AI가 거짓말 하는 법을 배우는 순간일 것”이라고 밝혔다.

 [email protected]