교황 "AI 무장해제해야…소수 권력·이익 강화 수단 안돼"

교황 즉위 첫 회칙 주제는 AI…"AI, 인간·공익 위해 봉사해야"

"전쟁 정당화 알고리즘 없어…AI, 희생자를 데이터로 바꿔"

[로마=AP/뉴시스] 레오 14세 교황이 14일(현지 시간) 세계에서 가장 오래되고 규모가 큰 대학 중 하나인 로마 라사피엔차 대학을 방문해 환영 인파에 손을 흔들고 있다. 교황은 2008년 베네딕토 16세 교황이 교수·학생의 반대에 부딪혀 연설을 취소한 이후, 교황으로서는 처음으로 이 캠퍼스를 방문했다. 2026.05.15.

[서울=뉴시스] 이재우 기자 = 레오 14세 교황은 25일(현지시간) 즉위 후 첫 회칙(encyclical·回勅)에서 인공지능(AI)은 인간을 위해 봉사해야 하며 소수의 권력과 이익을 강화하는 수단이 돼서는 안 된다고 강조했다. AI와 디지털 기술에 대한 윤리적 규범 제정과 민주적 통제도 촉구했다.

바티칸뉴스와 AP통신 등에 따르면 레오 14세는 이날 서명한 첫 회칙 '위대한 인간성(Magnifica humanitas): 인공지능 시대에 인간을 수호하는 일'에서 "인류는 지금 새로운 바벨탑을 쌓을 것인지, 아니면 하느님과 인간이 함께 거주하는 도시를 건설할 것인지 중대한 선택의 기로에 서 있다"고 경고했다.

레오 14세는 ▲공익(공공선) ▲재화의 보편적 목적 ▲보조성 ▲연대 ▲사회 정의 등 5대 원리 아래 노동부터 전쟁에 이르기까지 인간을 보호하기 위한 제언을 내놨다.

그는 "기술이 디지털 혁명에서 배제된 사람들과 포함된 사람들 사이의 격차를 키우지 않도록 해야 한다"며 "알고리즘·플랫폼의 목표가 이윤이 아니라 각 사람의 존엄과 공익이 되도록 해야 한다"고 주문했다.

레오 14세는 AI와 기술에 대해 효율성·이윤을 절대 기준으로 삼는 태도에 대해 우려했다.

그는 "가장 강력한 기술이 가장 좋은 기술은 아니다"며 "AI는 인간을 모방·시뮬레이션할 수 있으나 도덕적 양심·공감·정서·관계·영적 능력을 갖고 있지 않다"고 지적했다.

이어 "AI 개발 전 과정에서 책무성을 분명히 해야 한다"며 "적절한 정책·법·규제, 독립적 감독, 사용자 교육을 요구한다. 일부가 규정한 도덕성에 따른 '더 도덕적인 AI'는 충분치 않다. 사회정의에 기반한 공통 윤리 기준이 필요하다"고 했다.

레오 14세는 AI 무장해제(disarm)도 주장했다.

그는 "AI를 군사·경제·인지 경쟁의 논리에서 해방시키고 '기술적 힘이 자동으로 통치 권리를 준다'는 가정을 부정해야 한다"며 "무장해제는 기술을 거부하는 것이 아니라, 기술이 인간을 지배하지 못하도록 하는 것"이라고 말했다.

그러면서 "인간의 한계를 제거하는 방향으로만 기술혁신을 추구하면 '인류학적 퇴행'이 벌어질 것"이라며 "기술이 고통을 줄이고 새로운 가능성을 열어줄 수 있지만 인간의 본질인 관계·사랑의 능력을 부정해서는 안 된다"고 했다.

레오 14세는 디지털 혁명이 전쟁의 성격을 바꾸고 있다고 우려했다.

그는 AI 기반 무기에 대해 "전쟁을 도덕적으로 정당하게 만드는 알고리즘은 없다"며 "AI는 전쟁의 비인간성을 제거하지 못하고 오히려 전쟁을 더 빠르고 비인격적으로 만들며 폭력 사용의 문턱을 낮추고 방어를 '위협 예측'으로 바꾸며 희생자를 데이터로 환원하는 위험을 낳는다"고 경고했다.

레오 14세는 전쟁을 국제 정치의 도구로 정당화하는 권력의 문화도 비판했다.

그는 "다자주의의 위축·불신, 무질서한 다극 체제 속에서 '강자의 법'이 법치·공익을 대체했다"며 "UN 등 국제기구의 심층 개혁을 통해 공익에 봉사하는 새 가치 체계를 세우자"고 제안했다. 일부 세력이 내부 문제를 덮기 위한 수단으로 무력 충돌을 선택할 위험도 지적했다.

레오 14세는 디지털 전환 또는 4차 산업혁명 속에서도 노동 존엄을 지켜야 한다고 제안했다.

그는 "새로운 노동 방식이 반드시 더 좋은 것은 아니다"며 "기술은 고된·반복 노동에서 인간을 해방할 수 있지만 비용 절감·이윤 증대를 위해 실업을 양산해서는 안 된다"고 말했다.

레오 14세는 민간 부문 소수 기업에 권력과 데이터가 집중되는 현실을 비판하면서 기업의 자율 규제만으로는 충분치 않다고 강조했다.

그는 "추상적인 윤리를 외치는 것만으로는 부족하다. 강력한 법·제도적 틀, 독립적 감시, 정보에 기반한 이용자, 책임을 포기하지 않는 정치 시스템이 필요하다"며 "소수의 손에 의해 규정되는 더 도덕적인 AI로는 충분치 않다"고 말했다.

레오 14세는 이날 바티칸에서 발표한 회칙에서 '원격전(remote warfare)' 기술 개발을 우려했다면서 AI 기반 무기 개발 규제를 완화하려는 도널드 트럼프 미국 행정부와 또 다른 마찰 지점을 만들었다고 AP통신은 타전했다.

레오 14세는 AI 스타트업 앤스로픽 공동창업자를 연사로 초청했다. 앤스로픽은 AI 기술 접근권을 둘러싸고 트럼프 행정부와 법정 공방을 벌이고 있다.


◎공감언론 뉴시스 [email protected]