{"text":[[{"start":6.86,"text":"教宗良十三世(Pope Leo XIII)深感不安。变革的速度令人目眩。冲突的要素清晰可见：工业急剧扩张、科学取得惊人发现、雇主与工人关系发生变化，以及在普遍贫困和道德败坏之中迅速积累的巨额财富。1891年，他在具有里程碑意义的通谕《新事》(Rerum Novarum，意为“新事物”)中写道，局势之严峻“使每个人心中都充满痛苦的不安”。"}],[{"start":34.07,"text":"整整135年后，现任教宗良十四世(Pope Leo XIV)为向这位前任致敬而选用同一教宗名号，并颁布了自己的通谕，呼应了前者对技术破坏性力量以及作出道德回应之迫切性的忧虑。这封题为《伟大的人类》(Magnifica Humanitas)的通谕，聚焦于在AI时代守护人类。他表示，数字化转型必须惠及所有人，不应让任何人被简化为“生产力”、“认知表现”或“单纯的数据”。因此，AI应被“解除武装”，绝不能成为“支配、排斥或死亡”的工具。"}],[{"start":68.14,"text":"这封通谕很值得仔细一读，但其中有三点尤为突出。"}],[{"start":73.05,"text":"首先，这位教宗并不敌视科技。事实上，他拥抱科技。他本人就是多邻国(Duolingo)和猜词游戏Wordle的爱好者，梵蒂冈也借助AI将他的讲道翻译成60种语言。他承认，AI可以加速科学进步、改善所有人的生活，但他同时认为，AI并非道德中立，必须从一开始就在伦理框架内加以设计。他写道：“让我们不要害怕在这个时代的‘工地’上弄脏自己的双手。”"}],[{"start":103.41,"text":"其次，无论技术多么新奇，人类都应始终努力守护珍贵的人类价值。（你本来就会期待教宗这么说。）AI系统也许会把自己呈现为客观中立，但它们会反映并强化意识形态偏见和权力结构。鉴于企业权力高度集中，以及个人数据可能被用于制造新形式的数字殖民主义，教宗有理由担心，创新可能成为不公的加速器。"}],[{"start":130.48,"text":"第三，这位影响着14亿天主教徒、全球最具影响力的美国精神领袖，正在认真应对AI的严峻挑战；而美国最有权势的世俗领袖——美国总统——却选择无视这些挑战。就在教宗发布这封长达4.23万字的通谕后不久，唐纳德•特朗普(Donald Trump)就废除了一项最低限度监管的行政令；该行政令原本会要求前沿AI模型在发布前接受测试。"}],[{"start":156.44,"text":"Anthropic联合创始人克里斯•奥拉(Chris Olah)参与这份通谕的发布会，表明硅谷至少有一部分人愿意参与这场辩论。奥拉警告称，每一家前沿AI实验室——包括Anthropic——都在一套激励和约束之下运作，而这些激励和约束有时会与“做正确的事”相冲突。他表示：“我们需要不被这些激励压弯的道德之声。”"}],[{"start":180.26999999999998,"text":"不过，其他一些科技圈人士已经开始不把教宗的信息当回事。在他们看来，硅谷正在像颠覆所有其他行业一样颠覆“神圣产业”，梵蒂冈捍卫自己的地盘也就顺理成章。"}],[{"start":194.11999999999998,"text":"不过，这位教宗也展现出愿意“搅动一番”的姿态。他抨击了在部分AI圈子里正获得类似邪教追随的“超人类主义”和“后人类主义”。而且，他还来了一招颇为优雅的“教宗式调侃”，引用了《指环王》(Lord of the Rings)中甘道夫关于责任本质的名言——对许多技术人员而言，这部作品比《圣经》更有共鸣。这番话显然直指美国军用无人机公司安杜里尔(Anduril)和数据公司帕兰泰尔(Palantir)，两家公司均得名于J•R•R•托尔金(JRR Tolkien)的作品。"}],[{"start":226.55999999999997,"text":"在谈及“杀人机器人”的危险时，教宗警告说，AI可能会降低动用暴力的门槛，促使军方指挥官依据威胁预测仓促行动，并把受害者简化为数据。他明确划出的红线是：不允许把致命性决定交托给人工系统。"}],[{"start":244.00999999999996,"text":"在许多人看来，教宗的思考会显得不食人间烟火，但这本就是他的职责之一。也正因为如此，他最后呼吁“真正的现实主义”时就更有分量。理想主义者往往会扭曲事实，以迎合自己的世界观；犬儒主义者则对任何积极改变绝望，认为武力终将占上风。"}],[{"start":264.84999999999997,"text":"但真正的现实主义者并不会放弃让世界变得更好的努力。相反，他们会通过可信的制度、可核查的保障、耐心谈判、预防冲突和保护平民，艰难而持久地追求共同福祉。对此，不妨说一声：阿门。"}]],"url":"https://audio.ftcn.net.cn/album/a_1780061667_8889.mp3"}