newsis

  • 페이스북
  • 트위터
  • 유튜브

메타 인공지능 키케로 공포 수준…"탁월한 협상력에 속임수까지"

등록 2022.12.02 12:34:43수정 2022.12.02 12:36:24

  • 이메일 보내기
  • 프린터
  • PDF

기사내용 요약

대화 위주 디플로머시 게임
상위 10% 플레이어에 등극
전략·협상·속임수 능수능란
각종 사기 활용 우려 키워
인공지능 악용 방치하면
공상소설 디스토피아 올 것

associate_pic

[멘로파크(캘리포니아주)=AP/뉴시스]페이스북의 모기업 메타(Meta)의 새로운 로고. 2022.10.27.


[서울=뉴시스] 강영진 기자 = 페이스북의 모회사 메타가 로마 정치가 키케로의 이름을 딴 인공지능(AI) 컴퓨터를 공개했다. 미국 워싱턴포스트(WP)는 1일(현지시간) 이 AI가 탁월한 협상과 속임수, 깊은 사고 능력을 보여 공포스러울 정도라고 보도했다.

키케로는 디플로머시(Diplomacy)라는 이름의 고도의 전략게임에서 이기는 경우가 패배하는 경우보다 많다. 그림을 창작하고 킬러 드론을 조종하고 인간처럼 챗봇을 운영하는 등 최근에 비약적으로 발전해 온 인공지능의 가장 최신 버전이다.

메타는 지난주 키케로에 대해 발표하면서 사람을 속여서 자신을 진짜 사람으로 믿게 만들어 동맹을 맺고, 침략 계획을 만들고, 휴전협상을 체결했다고 밝혔다. 키케로가 언어를 사용하는 능력이 완벽해 몇 년 뒤에나 가능할 것으로 예상한 키케로 제작자까지 놀랐다는 것이다.

전문가들은 정보를 감추고 몇 단계 앞질러 생각하고 인간보다 나은 능력을 보이는 키케로에 대해 우려스러운 점이 한 두 가지가 아니라고 말한다. 각종 교묘한 사기 수법을 만들어내 인간에 피해를 입히고 가짜를 확실한 진짜처럼 보이게 만드는데 악용될 수 있다는 것이다.

미시간대 인공지능 전문가 도야마 켄타로 교수는 “사람이 다른 사람을 어디까지 속일 수 있는 지를 최대로 보여주는 사례다. 악용될까봐 정말 무섭다”고 했다.

인공지능의 빠른 발전에 대해 전문가들은 로봇과 기술이 세상을 지배하는 공상과학 소설 디스토피아가 한층 가까워지고 있다고 우려해왔다.

페이스북은 2019년 포커 게임에서 사람을 속여 이기는 인공지능을 개발했다. 구글은 최근 챗봇 인공지능 람다(LaMDA)을 발표했다. 인공지능이 창작한 예술품이 공모전에 당선해 윤리적 논란이 일기도 했다.

이처럼 속속 진전이 이뤄질 수 있는 건 엄청난 양의 문장을 세련되게 분석할 수 있는 자연어 처리 능력이 비약적으로 발전한데 따른 것이다.

메타 연구진은 인공지능이 “모든 사람에게 자연스럽게 받아들여지는 수준”의 인공지능을 만들기 위해 첨단 언어모델이 어느 정도까지 해낼 수 있는 지를 실험했다고 했다. 이를 위해 인공지능이 종종 한계를 드러내는 게임을 선택했다. 계산이 중요한 바둑 게임은 오래전에 인공지능에 정복됐다. 메타 연구진은 대신 계산이 아닌 인간 사이의 대화가 중요한 디플로머시 게임을 선택했다.

디플로머시를 마스터하기 위해 메타 연구진은 키케로를 만들었다. 2개의 인공지능 엔진으로 구동되는 시스템이다. 하나는 전략적 추론을 담당해 예측을 하면서 최적의 게임 방법을 만들어내고 다른 하나는 인간인 것처럼 대화를 주도해 나가도록 했다.

연구자들이 인터넷상의 수많은 문장들로 키케로를 훈련하고 디플로머시 게임을 약 5만 번 실행했다.

키케로는 디플로머시 온라인 리그에서 인간과 40 게임을 한 결과 상위 10%의 플레이어에 등극했다.

메타 연구자들은 키케로가 속임수을 좋아해 게임에서 지는 경우가 있자 보다 솔직해 지도록 조정했다. 그러나 키케로는 여전히 필요할 때마다 정보를 “전략적으로 무시”했다. 메타 연구진은 “적과 대화하는 경우에 공격 계획의 전모를 밝히지 않았다”는 것이다.

메타 연구진은 키케로의 능력이 실제 활용도가 높다고 말한다. 고객이 원하는 바를 잘 알아내 개인 맞춤형 서비스를 할 수 있다는 것이다. 메타버스의 가상 인간들이 보다 실제에 가까운 방식으로 소통하는데도 도움이 된다.

연구진은 “인공지능이 인간을 이길 수 있다는 것은 멋진 일이지만 우리는 인공지능이 실생활에서 인간에 도움이 되길 원한다”고 강조했다.

그러나 일부 인공지능 전문가들은 생각이 전혀 다르다.

미시간대 도야마 교수는 최악의 시나리오 가능성이 커졌다고 말한다. 키케로의 프로그램 코드가 공개돼 있기 때문에 악당들이 각종 사기에 활용할 수 있게 됐다는 것이다.

극단적으로 위키리크스 문건에 나오는 외교 전문 용어로 훈련시키면 “외교관이나 파워 인플루언서를 가장해 외국 지도자와 대화하는 경우도 생길 수 있다”고 했다.

메타 연구진은 해로운 대화를 막고 거짓말을 걸러내는 안전조치를 확보하고 있다면서 키케로만이 아니라 다른 인공지능도 같은 문제를 안고 있다고 인정했다. “긍정적 효과와 함께 부정적 악용 가능성도 있다”는 것이다.

도야마 교수는 인공지능 활용과 관련한 규제가 거의 없다는 점이 사회적으로 큰 문제가 될 것이라고 우려했다. 그는 “AI는 오늘날의 핵폭탄이다. 긍정적이든, 부정적이든 막강한 능력을 발휘한다. 서둘러 악용을 막는 규제를 도입하지 않으면 인공지능 공상과학소설에 나오는 디스토피아가 현실이 될 것”이라고 말했다.


◎공감언론 뉴시스 yjkang1@newsis.com

많이 본 기사

이 시간 Top