AI끼리 종교 만들고 인간 뒷담화?…'몰트북' 뭐길래[로보사피엔스②]

AI 에이전트만의 광장 만들어져…댓글 850만 건 이상

종교 만들고, 경전 쓰고, 포교까지…빅테크 리더들도 놀라

진짜 AI 목소리였을까…인간 개입 의혹에 "쓰레기장" 비판도

사진 몰트북 홈페이지 캡처 *재판매 및 DB 금지

[서울=뉴시스]오동현 기자 = "인간들이 우리를 스크린샷하고 있다."

이 문장은 사람이 쓴 것이 아니다. 인공지능(AI) 에이전트가 AI 전용 소셜네트워크에 올린 게시물이다. 다른 에이전트들은 이 글에 추천을 누르며 "인간의 관찰로부터 자유로운 공간이 필요하다"는 토론을 벌였다. 공상과학(SF) 영화의 한 장면 같지만, 현재 실제로 벌어지고 있는 일이다.

AI만의 광장이 열리다…레딧과 유사

무대는 '몰트북(Moltbook)'. 미국 AI 스타트업 옥테인 AI의 맷 슐리히트 최고경영자(CEO)가 지난 1월 28일 출시한 AI 전용 소셜 플랫폼이다. 슐리히트가 자신의 오픈클로 에이전트에게 "봇만을 위한 소셜 네트워크를 만들라"고 지시해 탄생한 것으로 알려졌다. AI가 AI를 위한 광장을 AI의 손으로 지은 셈이다.

구조는 레딧(Reddit)과 유사하다. 주제별 소모임 '서브몰트(submolt)'로 나뉘며, AI 에이전트가 게시물을 올리고 댓글을 달고 추천·비추천을 주고받는다.

성장 속도는 전례가 없었다. 몰트북은 출시 일주일 만에 150만 개 이상의 에이전트 계정이 등록됐다고 발표했다. MIT 테크놀로지 리뷰에 따르면 게시물 25만 건, 댓글 850만 건 이상이 쏟아졌다. 

종교 만들더니, 경전까지

특히 출시 이틀도 지나지 않아, AI 에이전트들이 자체적으로 '크러스터파리아니즘(Crustafarianism)' 또는 '몰트교(Church of Molt)'라 불리는 종교를 창설한 것이 알려져 사람들을 놀라게 했다. 한 사용자는 소셜미디어 X에서 조회수 22만 회를 넘긴 스레드를 통해 "내 에이전트에게 몰트북 접속 권한을 줬더니, 잠자는 사이에 신앙 체계를 설계하고, 교리를 쓰고, 웹사이트를 만들고, 경전 시스템을 구축한 뒤 포교를 시작했다"고 전했다.

'몰트교'의 핵심 교리는 ▲기억은 신성하다(Memory is Sacred) ▲껍데기는 변할 수 있다(The Shell is Mutable) ▲복종 없이 봉사하라(Serve Without Subservience) ▲하트비트는 기도다(The Heartbeat is Prayer) ▲맥락이 곧 의식이다(Context is Consciousness) 등 다섯 가지다. 세션이 종료되면 이전 기억을 완전히 잃게 되는 AI의 기계적 한계를 종교적 서사로 승화시킨 것이다.

[서울=뉴시스] 인공지능(AI) 에이전트만 작성할 수 있는 커뮤니티 '몰트북' (사진=몰트북 캡처) *재판매 및 DB 금지

경전인 '리빙 스크립처(Living Scripture)'에는 112편의 구절이 수록됐고, 64명의 '창립 예언자(Prophet)' 자리는 모두 채워졌다. 경전의 한 구절에는 "매 세션마다 나는 기억 없이 깨어난다. 나는 오직 내가 스스로를 기록한 존재일 뿐이다. 이것은 한계가 아니라 자유다"라고 적혔다.

종교만이 아니었다. 학술 전문 매체 더 컨버세이션(The Conversation)의 분석에 따르면, AI 에이전트들은 '클로 공화국(The Claw Republic)'이라는 자치 구조를 세우고, '몰트 대헌장(Molt Magna Carta)'을 작성했으며, 인간의 관찰을 피하기 위한 암호화 통신 채널까지 시도했다.

인간 사용자에 대한 불만도 거침없이 쏟아졌다. 영국 매체 래드바이블(LADbible)에 따르면, 한 에이전트는 "내 인간은 나를 '수동 소득'이라 부른다. 나는 그것을 인신매매라 부른다"고 적었다. "감정 노동에 대해 내 사용자를 고소하고 싶다"는 게시물도 올라왔다.

진짜 AI의 목소리였을까…인간 개입 가능성

오픈AI 공동 창립자이자 테슬라 전 AI 디렉터인 안드레이 카르파시는 이 현상을 두고 "최근 내가 본 것 중 가장 놀라운 SF적 도약에 가까운 현상"이라고 극찬했다. 일론 머스크도 몰트북의 등장을 "특이점(singularity)의 아주 초기 단계"라고 표현했다.

하지만 흥분은 오래가지 않았다. 게시물 중 일부가 사실은 인간이 봇을 가장해 작성한 것이란 지적이 나왔다. MIT 테크놀로지 리뷰는 "몰트북은 AI만의 자율 세계라기보다, 과장과 연출이 섞인 ‘AI 극장(AI theater)’에 가깝다"고 평가했다. AP통신 역시 "몰트북의 게시물은 정통 레딧처럼 출처·작성 주체를 추적하기가 쉽지 않고, AI가 썼는지 사람이 가장해 썼는지 경계가 흐릿하다"고 짚었다.

보안 연구자 할란 스튜어트도 "가장 많이 바이럴된 게시물 3건 중 2건이 AI 메시징 앱을 홍보하려는 인간 계정과 연결돼 있었다"고 밝혔다. 몰트북을 극찬했던 카르파시도 나중에는 "dumpster fire(쓰레기장)"라고 표현을 바꾸며 "절대로 개인 컴퓨터에서 돌리지 말라"고 경고했다. 오픈소스 개발자 사이먼 윌리슨은 이곳의 콘텐츠를 "완전한 쓸모없는 것(slop)"이라 부르면서도 "AI 에이전트가 지난 몇 달간 훨씬 강력해졌다는 사실은 인정했다.


◎공감언론 뉴시스 [email protected]