교황 레오 14세는 25일(현지시간) 바티칸에서 열린 인공지능에 관한 첫 회칙(回勅, Encyclical) 발표회에서 “인공지능(AI)이 인간의 존엄성과 미래에 미치는 영향”에 대해 강한 어조로 말했다.

레오 14세 교황(Pope Leo XIV)은 첫 번째 회칙으로 “인공지능 시대의 인간 존엄성 수호에 관하여(Magnifica humanitas : 마니피카 휴나미타스, 위대한 인류)”를 발표했다.

그는 AI 기술이 노동에서 전쟁에 이르기까지 모든 면에서 인류에 미치는 영향을 강조하며, AI 개발과 사용에 있어 ‘공익과 윤리적 책임’을 우선시해야 한다고 촉구했다.

이어 교황은 “AI가 전쟁 기술과 노동 시장에 미치는 부정적 영향”을 비판하며, 이를 규제하기 위한 “법적 틀과 투명성, 책임성”이 필요하다고 강력히 주장했다. 이 회칙은 가톨릭 사회 교리의 연장선상에서 ‘디지털 혁명 시대의 새로운 기준점’으로 평가받고 있다고 AP통신이 26일 보도했다.

교황은 “AI 기술이 인류의 미래에 큰 영향을 미친다며, 인공지능 기술에 대한 강력한 규제와 공익을 위한 개발을 촉구하고, AI 경쟁을 부추기는 권력 문화(culture of power)와 전쟁 기술(warfare tech.)의 발전을 비판하며, AI 시스템에 의한 치명적 결정은 용납될 수 없다고 주장했다.

그는 AI가 무기화되는 것을 막고, 인간의 존엄성과 공동선을 지키기 위한 법적 틀과 독립적 감독이 필요하다고 강조하고, 인공지능 기술이 노동 시장과 인간의 존엄성에 미칠 수 있는 부정적 영향에 대해 경고하며, ‘경제 질서’가 인간의 존엄성과 공동선에 종속되어야 한다고 거듭 주장했다.

교황은 바티칸이 실리콘 밸리와의 대화를 10년 동안 이어오고 있으며, 기술 기업들과 협력하여 AI 기술의 윤리적 사용을 촉진하려는 노력을 기울이고 있다면서, 가톨릭교회의 ‘사회 정의 전통’을 기반으로 ‘AI 시대’의 윤리적 문제를 다루며, 정의와 연대, 노동의 존엄성을 강조했다.

교황은 인간의 존엄성을 위협하는 AI 기술의 오용을 방지하기 위해 ‘정부와 개발자들’에게 윤리적, 영적 지침에 따라 행동할 것을 호소하고, 특히 ”AI가 전쟁의 참혹함을 정상화하는데 기여했다“고 비판하고, ”AI 무기‘(AI weapons)의 사용에 있어 투명성과 책임성을 강력히 요구했다.

특히 레오 14세는 ’인공지능 혁명‘을 19세기 ’산업혁명‘과 비교하며, 당시 노동자의 권리를 강조했던 "레룸 노바룸" 회칙을 언급하기도 했다.

* 인공지능(AI)은 ’이윤 추구‘가 아니라, ’공익‘을 위해야

교황 레오 14세는 15일, 인공지능 기술이 노동에서 전쟁에 이르기까지 모든 것에 영향을 미치는 만큼 인류를 보호하기 위한 포괄적인 선언문을 발표하며, 인공지능에 대한 강력한 규제와 개발자들이 ’이윤 추구‘가 아닌 ’공익‘을 위해 노력해야 한다고 촉구했다.

역사상 최초로 미국 시카고에서 태어난 레오 14세 교황이 선출된 지 며칠 만에 인공지능이 오늘날 인류가 직면한 가장 큰 도전 과제라고 발표한 이후, 레오 교황의 첫 번째 회칙인 “마니피카 휴마니타스"(위대한 인류-Magnificent Humanity)는 오랫동안 간절히 기다려온 작품이라고 AP통신은 평가했다.

회칙 본문에서 레오 교황은 인공지능 경쟁을 부추기는 ‘권력 문화’(culture of power), 특히 점점 더 정교해지는 ‘원격 전쟁(remote warfare)’ 기술 개발을 강력히 비판했다. 그는 돌이킬 수 없는 치명적인 결정을 인공지능 시스템에 맡기는 것은 ‘용납될 수 없다’고 선언하고, 인공지능 개발 규제 완화를 위해 적극적으로 노력해 온 트럼프 행정부와 미국 출신 교황 사이에 또 ​​다른 갈등의 불씨를 지폈다. 트럼프 대통령은 인공지능의 극적인 활성화를 위해 규제 철폐를 고수하고 있다.

* 죽음의 도구 AI에서 해방돼야

교황은 교황이 발표할 수 있는 가장 권위 있는 교리 문서 중 하나인 ‘회칙’의 특별 바티칸 발표회에서 ”인공지능은 이제 무장 해제되고, 그것을 지배, 배제, 죽음의 도구로 만드는 논리에서 해방되어야 한다“고 말했다.

기술 업계, 학계 및 가톨릭 윤리 전문가들은 이 문서가 인공지능 논쟁의 기준점이 되어 정책 입안자, 연구자 및 일반인 모두에게 참고 자료가 될 가능성이 높다고 말했다. 이 문서는 인공지능 기술이 거의 매일 같이 발전하면서, 인간의 일자리와 지능까지 대체할 수 있다는 우려가 커지는 가운데 나왔다.

마이크로소프트 AI 담당 임원이자 미국 가톨릭 대학교 AI 연구소 소장인 테일러 블랙(Taylor Black)은 이 회칙 문서가 “이러한 도구의 최전선에 있는 사람들에게 인간이란 무엇인가?”와 같은 질문을 던지게 할 것이라고 말했다.

* 교황, 인류 산업을 초청한 자리에서 인공지능 기업들 비판

* 도덕은 소수의 기준에 따라 결정되는 것이 아니다.

바티칸 출범식에는 현재 트럼프 행정부와 AI 기술 접근권을 놓고 법적인 공방을 벌이고 있는 미국의 앤트로픽(Anthropic)의 공동 창립자도 참석해 발언했다. 바티칸은 AI가 인간에게 미치는 영향에 대해 실리콘 밸리와 대화를 시작하려는 10년 간의 노력의 일환으로 앤트로픽을 참여시키기로 결정했다.

하지만 레오 교황은 자신의 글에서 민간 부문의 소수에게 권력과 데이터가 집중되는 것이 특히 어린이와 가장 취약한 계층에게 위험하다고 거듭 비판하며, 그들의 업무에 대한 외부 규제를 촉구했다.

그는 “추상적인 윤리를 언급하는 것만으로는 충분하지 않다. 견고한 법적 틀, 독립적인 감독, 정보에 밝은 사용자, 그리고 책임을 회피하지 않는 정치 시스템이 필요하다”며, “소수의 기준에 따라 도덕성이 결정된다면, 더 도덕적인 AI만으로는 부족하다”고 썼다.

레오는 인공지능 개발자들과 이를 규제할 책임이 있는 정치 지도자들에게 속도를 늦추고 자신들이 하고 있는 일을 되돌아보라고 호소했다. 그는 그들이 윤리적, 영적 지침을 바탕으로 자신의 이익이나 권력이 아닌 인류의 더 나은 미래를 위해 일하도록 선택해야 한다고 촉구했다.

인공지능 경쟁업체인 오픈에이아이(OpenAI : chatGPT)와 앤트로픽(Anthropic : Claude)은 각각 수천억 달러의 가치를 지닌 미국 비상장 기업으로, 이는 여러 국가의 GDP보다도 높은 수치이다. 두 회사 모두 거의 수조 달러 규모의 기업공개(IPO)를 앞두고 있다.

앤트로픽 공동 창립자 크리스토퍼 올라(Christopher Olah)는 레오 교황의 비판과 우려를 환영했다. 그는 인공지능이 인류에게 ‘잘 나아가기 위해서’는 이러한 외부 검증이 필수적이라며, 인공지능이 “대규모로 인간 노동력을 대체할 가능성”이 매우 크기 때문에, 이 기술이 인류에게 ‘잘 작동하기’를 바란다고 덧붙였다.

올라는 “전 세계의 종교 공동체, 시민 사회, 학자, 정부가 교황께서 하신 것처럼 이 문제를 심각하게 받아들이고, 면밀히 살펴보고, 더 나은 방향으로 나아가도록 이끌어야 한다.”면서 “우리는 어떤 유인책에도 굴복하지 않는 도덕적 목소리가 필요하다”고 강조했다.

* 전문가들 : 교황 회칙(마니피카 휴마니타스)이 기준점 될 것

수학 전공자인 교황은 체계적인 글을 통해 가톨릭교회의 ‘사회 교리’(social teaching) 역사를 추적하고, 정의, 연대, 노동의 존엄성, 자원의 보편적 목적과 같은 핵심 개념을 디지털 혁명에 적용했다.

노트르담 로스쿨 교수이자 메타 감독위원회 위원장인 파올로 카로차(Paolo Carozza)는 “이 문서가 우리 시대의 결정적인 문서, 심오하고 예언적인 문서가 될 것이라고 확신한다”면서 “레오 교황은 기술이 인간을 타락시키는 것이 아니라 인간에게 도움이 되는 세상을 건설하는 데 책임을 져야 한다는 명확하고 포괄적이며 일관된 목소리를 내고 있다”고 강조했다.

* 제국주의의 ‘전쟁의 정상화’(normalization of war) 막아야

이 회칙의 가장 설득력 있는 부분에서 레오 교황은 “인공지능이 전쟁의 참혹함에 대한 사람들의 무감각을 심화시켜 ‘전쟁의 정상화’(normalization of war)를 가속화했다”고 강력히 비판했다. 그는 구체적인 분쟁을 언급하지는 않았지만, “패권을 유지하려는 세력과 그 패권을 장악하려는 세력 간의 대립하는 제국주의”를 예로 들었다.

그는 인공지능 개발자들에게 투명성과 책임성을 요구하며, 인공지능 무기를 이용한 공격 명령의 의사결정 과정이 항상 공개되어야 한다고 주장했다. 나아가, 무력 사용을 정당화하는 구체적인 기준을 제시하는 가톨릭교회의 이른바 “정의로운 전쟁”(just war) 이론은 전쟁 기술의 발전으로 인해 이제 “시대에 뒤떨어졌다”고 선언했다.

* 이번 회칙, 교회의 사회 정의 전통에 따른 텍스트 : 21세기 ‘레룸 노바룸’

레오 14세 교황은 지난 5월 15일, 자신의 영웅이자 동명이인인 교황 레오 13세의 가장 중요한 교리 문서인 “레룸 노바룸”(Rerum Novarum, 새로운 것들에 관하여-Of New Things)이 발표된 지 135주년이 되는 날에 이 문서에 서명했다. 이 문서는 산업혁명이 진행되는 동안 노동자의 권리, 자본주의의 한계, 그리고 국가와 고용주가 노동자에게 져야 할 의무를 다루었다.

‘레룸 노바룸’은 1891년 교황 레오 13세가 발표한 노동 문제에 관한 회칙으로, 현대 가톨릭 사회 교리의 초석이 되는 문헌이다. ‘레룸 노바룸’은 라틴어로 ‘새로운 사태’라는 뜻으로, 19세기 말 산업 혁명 이후 발생한 노동자들의 비참한 처지와 자본가와의 갈등을 해결하기 위해 교황 레오 13세가 발표한 역사적인 문헌이다. 이는 가톨릭교회가 현대 사회 문제에 본격적으로 목소리를 내기 시작한 기점으로 평가받고 있다. 제공된 텍스트 속 가상의 '교황 레오 14세'가 인공지능(AI) 규제를 논하는 것은, 과거 레오 13세가 노동 문제를 다루었던 것처럼 새로운 기술적 변혁기에 인류의 존엄성을 지키려는 교회의 역할을 상징적으로 연결시킨 것으로 보인다는 게 전문가들의 견해이다.

이는 현대 가톨릭 사회사상의 토대가 되었으며, 현 교황은 즉위 초 인공지능 혁명과 관련하여 이 회칙을 인용했다. 교황은 인공지능 혁명이 100여 년 전 산업혁명이 제기했던 것과 동일한 실존적 질문을 던진다고 믿는다. 따라서 “마니피카 휴마니타스(Magnifica Humanitas)”는 교황들이 “레룸 노바룸(Rerum Novarum)”을 당대의 사회 문제에 맞춰 적용해 온 100년이 넘는 역사의 최신 장이 되었으며, 이러한 적용은 종종 인간의 번영을 위한 노동의 존엄성을 강조한다.

인공지능(AI)은 인류를 풍요롭게 하는 촉매제가 될 것인지, 아니면 인간의 지능을 둔화시키고 수백만 개의 고임금 일자리를 없애는 기술적 독소가 될 것인지에 대한 논쟁이 격화되는 가운데, 실존적 공포와 유토피아적 비전을 동시에 불러일으키고 있다.

레오 교황은 “더 큰 이윤 추구가 체계적으로 일자리를 희생시키는 선택을 정당화할 수는 없다. 왜냐하면 인간은 수단이 아니라 목적이며, 경제 질서는 인간의 존엄성과 공동선에 종속되어야 하기 때문”이라고 회칙4에 적었다.

* 교황, 최초로 ‘노예 제도 합법화한 과거’ 사과

레오 교황은 노동에서의 인간 존엄성 수호에 대한 관심을 확장하여, 유럽 군주들에게 ‘이교도’를 정복하고 노예로 삼을 수 있는 명시적인 권한을 부여함으로써 노예 제도를 합법화하는 데 교황청이 관여했던 역할에 대해 사상 최초로 교황으로서 사과했다.

* 실리콘 밸리와의 10년에 걸친 대화

바티칸 관계자들은 레오 교황의 회칙 작성에 누가 참여했는지 밝히기를 거부했다. 하지만 바티칸과 교회 관계자들은 10년 동안 실리콘 밸리의 기술 기업들과 대화를 이어왔다.

바티칸 출시 행사에 ‘앤트로픽’을 포함시킨 결정은 일부에서 비판을 받았다. 그들은 이것이 인공지능 기업인 앤트로픽에 대한 교황의 승인 표시라고 여겼는데, 앤트로픽은 현재 트럼프 행정부가 미군의 기술 무제한 사용을 허용하지 않았다는 이유로 모든 미국 기관에 앤트로픽의 기술 사용 중단을 명령한 것에 대해 소송을 제기한 상태이다. 앤트로픽이 미국 국방부(전쟁부)에서 빠지자 당초 공익 목적으로 설립했다는 ‘오픈 AI’가 그 자리에 들어갔다.

비영리 단체인 미래생명연구소(Future of Life Institute)의 미국 종교 담당 연락관인 브라이언 보이드(Brian Boyd)는 “앤트로픽의 공동 창립자인 올라가 명단에 포함된 것은 해당 분야에서 앤트로픽의 위상을 인정하는 것이며, 교황이 국가 원수를 알현하는 것과 유사한 맥락”이라며, “공식적인 지지를 의미하는 것은 아니라는 뜻”이라고 말했다.

그러면서 그는 “앤트로픽이 엄청난 위험과 책임을 떠맡은 거대 기업”이라며, “진정한 선의와 성실성, 그리고 대화에 대한 관심을 보여줬다”고 덧붙였다.