교황 프란치스코, AI에 대한 엄중한 경고와 함께 반지의 제왕 간달프의 명언 인용

레오 교황이 인공지능(AI)에 대한 경고와 함께 규제의 필요성을 역설하며, 그 과정에서 '반지의 제왕'에 등장하는 간달프의 말을 인용했다.

인류의 미래 안전에 관한 선언문인 Magnifica Humanitas(위대한 인류)의 일환으로, 교황은 각국 정부에 생성형 AI 기술 개발 속도를 늦추고 허위 정보 확산을 방지할 규제를 마련할 것을 촉구했다. 또한, 그는 전쟁에서 AI를 사용하는 것을 비판하며, 무기에 대한 인간의 통제력을 줄이는 것은 전쟁을 '정당화'하기 어렵게 만든다고 지적하고 AI 군비 경쟁에 대해 경고했다. AI를 오늘날 인류가 직면한 가장 큰 도전이라고 규정한 레오 교황은 해당 문서에서 되돌릴 수 없는 치명적인 결정을 AI 시스템에 맡기는 것은 "허용될 수 없다"고 밝혔다.

Magnifica Humanitas의 '우리 모두 각자의 역할을 할 수 있다'는 섹션에서 레오 교황은 자신의 주장을 강조하기 위해 간달프의 말을 빌렸다.

20세기 가톨릭 작가 J.R.R. 톨킨은 그의 소설 속 주인공의 입을 빌려 우리의 책임을 다음과 같이 묘사했습니다. "세상의 모든 흐름을 다스리는 것은 우리의 몫이 아니오. 다만 우리가 살아가는 시대에 도움을 주고, 우리가 아는 들판의 악을 뿌리 뽑아, 우리 뒤에 올 이들이 경작할 깨끗한 땅을 남겨두는 것이 우리의 몫이지."

이 인용구는 '반지의 제왕: 왕의 귀환'에서 유명한 마법사가 미나스 티리스 성문 앞에서 연합군 영주들에게 연설할 때 나오는 대사다. 당시 데네소르와 세오덴은 사망했고 파라미르는 치유의 집에서 회복 중이었으며, 아라곤이 그 말을 듣고 있었다. 전체 인용구는 다음과 같다.

"앞으로 닥쳐올 다른 악들도 있을 것이오. 사우론 자신도 그저 하수인이자 사절일 뿐이니까. 하지만 세상의 모든 흐름을 다스리는 것은 우리의 몫이 아니오. 다만 우리가 살아가는 시대에 도움을 주고, 우리가 아는 들판의 악을 뿌리 뽑아, 우리 뒤에 올 이들이 경작할 깨끗한 땅을 남겨두는 것이 우리의 몫이지. 그들이 어떤 날씨를 맞이할지는 우리가 결정할 일이 아니오."

문제는 서구 경제를 지배할 정도로 AI에 집착하는 세계의 기술 리더들이 레오 교황의 말에 귀를 기울일 것인가 하는 점이다. 월요일 바티칸에서 열린 해당 문서 발표 행사에는 Claude AI 도구를 제작하는 Anthropic의 공동 창립자 크리스 올라(Chris Olah)가 참석했다. 적어도 주요 관계자 중 한 명은 교황의 메시지를 경청했음을 알 수 있다.

레오 교황은 문서에서 "우리는 단순히 기계의 도덕화, 즉 AI를 인간의 가치에 맞추는 이른바 '정렬(alignment)'을 요구하는 것에 만족해서는 안 됩니다. 더 나아가 윤리적 프레임워크를 공개적으로 논의하고 이를 사회 정의라는 공동의 기준에 종속시킬 수 있는 용기가 필요합니다"라고 이어갔다.

"그렇지 않으면 AI를 통제하는 자들이 자신들만의 도덕적 비전을 강요하게 될 것이며, 그것이 이 시스템들의 보이지 않는 인프라가 될 것입니다. 소수에 의해 결정되는 도덕성이라면 더 도덕적인 AI라 할지라도 충분하지 않습니다. 모든 것이 가속화되는 상황에서 속도를 늦추고, 공동체가 여전히 참여하고 질문할 수 있는 기회를 보호할 수 있는 보다 적극적인 정치적 개입이 필요합니다."

이번 달, 사랑받는 '반지의 제왕' 영화 시리즈와 '호빗' 3부작의 전설적인 감독 피터 잭슨은 영화 제작에 미치는 AI의 영향에 대한 우려를 일축하며 다음과 같이 말했다. "저는 전혀 싫지 않습니다. 제게는 그저 특수 효과일 뿐이니까요." 그의 '반지의 제왕' 작업은 내년 개봉 예정인 영화 The Hunt for Gollum으로 이어진다.

사진: Alberto PIZZOLI / AFP.

Wesley는 IGN의 뉴스 디렉터입니다. 트위터 @wyp100에서 그를 팔로우하세요. [email protected] 또는 기밀 제보는 [email protected]로 연락할 수 있습니다.