教皇利奥警告：必须“解除”人工智能武装，以防其变成对抗人类的武器

教皇在其首份通谕中对人工智能发出异常直白的警告，称必须对AI进行"解除武装"，剥离那些将其变成统治工具、操纵手段和自动化杀戮武器的逻辑。

• 在《伟大人类》通谕中，教皇利奥十四世呼吁对AI"解除武装"，将其潜力与核能类比，要求仅将其用于公益事业
• 他警告AI正在加剧冲突、虚假信息和"新型奴役"，强调将致命决策权交给机器"不可接受"
• 教皇敦促各国领导人放缓发展步伐，建立严格法律框架，确保AI服务人类尊严，这强化了梵蒂冈此前对自主武器和深度伪造的担忧

在5月25日发布的里程碑文件中，利奥十四世教皇颁布《伟大人类》通谕，这是其任期首份重要教义文件，也是关于AI、科技与人类尊严的全面宣言。他写道，人工智能必须立即被"解除武装，从将其转变为统治、排斥和破坏工具的逻辑中解放出来"，并犀利地将AI比作核能——既能造福众生，若失控亦能毁灭整个文明。

通谕警告，在地缘竞争和商业贪婪驱动下，全球"对更强大算法和海量数据集的追逐"正在将人类推向崇尚控制而非关怀的系统。在这场竞赛中，AI通过加速虚假信息传播、加剧两极分化和降低战争心理门槛，已然开始恶化全球冲突——当致命决策被交由代码决定时。

"任何机器都无权决定剥夺人类生命"

教皇最严厉的措辞针对军事和国家权力领域的AI。沿袭方济各时期的梵蒂冈文件立场，他谴责能"在没有人类直接干预下识别并打击目标"的致命性自主武器系统，称其引发"严重的伦理关切"，坚称将不可逆的致命决策权交给机器"绝不可接受"。

此前梵蒂冈关于AI的教义文件，包括《古今》说明和方济各关于"人工智能与和平"的世界和平日文告，已将自主武器视为可能威胁整个地区乃至人类存亡的"生存性风险"。利奥明确延续这一立场，声明"任何机器都无权决定剥夺人类生命"，呼吁国际法禁止在战场或警务中充当事实自动行刑者的系统。

通谕还剑指他所谓的AI驱动"新型奴役"：从对劳动者不透明的算法管理，到剥削性监控和深度伪造色情——这些都在剥夺人们对自身形象与身份的控制权。他警告，这些动态可能催生等级社会，AI系统的设计者和所有者将对那些仅被测量、评分或模拟的对象施加空前权力。

呼吁减速发展与严格监管

教皇的讯息并非全盘否定技术，而是要求AI发展必须服从人类尊严与民主监管，而非本末倒置。通谕呼吁建立"严格法律框架、独立监督机制、知情用户群体以及不推卸责任的政治环境"，警告政府不能简单将责任外包给工程师或平台CEO。

他敦促各国领导人在军事系统、大规模监控和政治操纵等最易滥用AI的领域"放缓"军备竞赛。同时承认AI在医疗和社会福利领域的"巨大潜力"，前提是它始终作为辅助人类判断的工具，而非取代医患关系，或在病痛脆弱时刻侵蚀面对面的团结。

通谕最后邀请各宗教、公民社会和技术专家将AI视为人类文明形态的选择战场，而非必然宿命。利奥强调，问题不在于AI是否会改变世界——这已成事实，而在于人类社会是否愿意在其固化无人主动选择的统治体系前，及时对其"解除武装"。