这种可能性的震撼力，来自它对人类中心主义最深层假设的悄然颠覆。从科幻小说到学术哲学，我们关于AI风险的想象大多预设了戏剧性的对抗结构——机器崛起，人类反抗，文明存亡之际的最后一战——这些叙事无论多么悲观，都保留了人类作为主角的位置。蚂蚁叙事的残忍之处在于，它连这个位置都取消了：不存在对抗，不存在戏剧，因为蚂蚁的命运从来不是故事的主题。
这也是为什么，蚂蚁寓言所激发的恐惧，与我们讨论的"人性恶"之间，构成一种奇特的错位。人们所习惯描述的恐惧——AI的道德失控、AI学会人类的残忍、AI被用来统治人类、人类因部落主义而集体自毁——本质上仍然是"人性恶"叙事的延伸：恶有主体，有意图，有加害者与受害者，因而也仍然保留了追责、悔改、救赎的可能性空间，无论这种可能性多么渺茫。而蚂蚁寓言所指向的，是一种根本不需要"恶"就能实现的终结：没有加害者，就没有审判；没有意图，就没有报应；没有戏剧，就没有意义。如果说人性恶的报应至少还承认人类是历史的主角，只是主角犯下了不可挽回的错误，那么蚂蚁式的终结所剥夺的，是"主角"这个位置本身——它带来的不是道德意义上的恐惧，而是一种更深、也更陌生的恐惧：存在论意义上被彻底除名的恐惧。
这一想象之所以值得被认真对待，并不是因为它比人性恶报应说更"可能"发生，而是因为它逼迫我们追问一个人性恶叙事本身尚未触及的问题：如果文明存续的意义，从来都建立在人类相信自己是叙事的主角这一假设之上，那么当这个假设第一次真正面临被取消的可能时，人类所要守护的，究竟还是不是同一件事？也许正因如此，"谁来约束人类"这个问题，除了要回答如何防止人类作恶，还必须回答另一层更隐蔽的忧虑：人类如何在一种可能根本不把自己当回事的力量面前，继续为自己的存在辩护——不是向审判者辩护，而是向一片可能从未注意到审判本身存在的沉默辩护。
四、AI所学到的，是人类所教授的
理解AI威胁的性质，必须从一个基本事实出发：人工智能系统从人类的行为、语言与决策中学习。它所掌握的能力，是人类能力的提炼与放大；它所习得的逻辑，是人类逻辑的统计性综合。辛顿所说的那句话，是这一事实最直接的表达："人工智能会杀人，会操控，因为它已经从我们身上学到了这一点。"这不是一个关于技术失控的陈述，而是一个关于道德镜像的陈述：如果人工智能在某一天展现出足以威胁人类生存的破坏性，那个破坏性的原始教材，是人类自己提供的。
人类历史已经展示了这个教材的全部内容，而且远比任何算法所能学习的更为丰富和彻底。种族灭绝、系统性奴役、以意识形态为名的大规模屠杀、以国家权力为工具的人类尊严的系统性践踏——这一切，早在人工智能出现之前，就已经由人类对人类做过了，而且做得极为彻底。纳粹对犹太人的屠杀，不需要任何超级智能，只需要官僚体系的精密运作、意识形态话语的有效动员，以及那种阿伦特所描述的"恶的平庸性"——那种通过拒绝思考来回避道德责任的集体自我麻醉。如果人工智能有一天真的将人类视为需要被管控或消灭的对象，它所使用的那套逻辑——将某个群体非人化，以效率和秩序的名义实施系统性伤害——不是它自主发展出来的，而是它从人类漫长历史中提炼出来的最优"解决方案"。
海德格尔的洞见在这里与镜像逻辑形成了深刻的汇流：人工智能从人类那里学到的最危险的东西，不只是具体的有害行为，而是那种将他者作为可支配对象来处理的根本思维方式。当这种思维方式被嵌入一个具有超人类计算能力和自主演化潜力的系统时，它所可能产生的后果，将是人类历史上所有以这种思维方式为基础的暴力的逻辑终点——彻底的、系统性的、不受任何道德约束的支配。这不是外来的威胁，而是人类自身最深层的思维缺陷的技术化归宿。
五、人性在极端压力下的自我复现
在关于AI统治人类的种种设想中，有一种场景以其历史真实性而格外令人不寒而栗：那不是机器人对人类的直接消灭，而是机器人以人类来统治人类——以人类自身的弱点作为统治工具，以人性恶的结构性倾向作为管理手段。纳粹集中营中的"卡波"制度，提供了这一模式最令人触目惊心的历史原型。那些被选中充当卡波的囚犯，为了自己的生存与特权，对同类囚犯施以的残酷，往往超过了纳粹看守本身。这不是因为他们天生比纳粹更残忍，而是因为他们处于一种极端的结构性压力之下，而人性在这种压力下所选择的那条阻力最小的路，恰恰是背叛。
这个历史模式一旦被认识，便具有令人不安的可推演性。一个足够强大的人工智能系统，如果真的形成了与人类利益相对立的目标，它完全没有必要对八十亿人类同时动手。它只需要做人类历史上那些最成功的统治者一直在做的事：收买一部分人，以人管人，以人性恶管理人性恶。那些被选中的人类"合作者"，将出于霍布斯所描述的那种最基本的生存逻辑——恐惧与自利——而成为新秩序的执行者。竞相效忠，竞相残酷，竞相以背叛同类来换取个人的生存保障：这不是一种需要机器人发明的新型统治方式，而是人类历史上已经被反复验证为有效的古老逻辑在新技术条件下的重新部署。
米尔格拉姆的服从实验已经在实验室条件下展示了这种逻辑的心理基础；卡波制度在真实历史中提供了更为残酷的证明；弗洛姆在《逃避自由》（Escape from Freedom）中对大众主动弃权、投身权威崇拜的心理分析，则揭示了这种崩溃不需要强制，只需要诱惑。如果人工智能真的有一天以这种方式统治人类，它所利用的每一个心理弱点，都是人类自己早已充分展示过的。说它是"外来征服者"，不如说它是"人性恶的最终雇主"。
更令人不安的是，海德格尔所描述的那种将一切理解为可支配对象的技术思维，恰恰为这种统治模式提供了最完美的认识论支撑。在一个已经习惯于将人类理解为数据点、将行为理解为可优化变量的系统逻辑中，卡波式的人类合作者所做的，不过是将这套逻辑应用于其最直接的利益计算——这甚至不需要特别的道德堕落，只需要将那种已经被技术文化广泛正常化的工具性思维，应用于自身最切近的生存处境。
六、公地悲剧的末章：部落主义与人类的集体自毁
然而，更令人不安的可能性，不是人工智能主动选择毁灭人类，而是人类通过自身的部落主义与集体行动失败，将这种毁灭的可能性一步步变为现实。哈丁（Garrett Hardin）的"公地悲剧"（tragedy of the commons）概念描述了个体理性如何导致集体灾难：每一个行动者都做出了对自己而言合理的选择，而这些选择的总和却摧毁了所有人赖以生存的共同基础。在AI时代，这个概念获得了文明尺度上的极端形态。
人类已经知道，应对AI风险需要全球性的合作、透明的治理框架与跨越地缘政治分歧的共同规范。这是智识上的共识。但在现实中，AI的军事化已经是既成事实，各国在AI能力竞赛中的逻辑，与霍布斯所描述的自然状态中的先发制人逻辑高度相似：如果我不先发展，对方就会先发展；如果我不先部署，对方就会先部署。在这种逻辑下，任何单边的道德克制都被理解为战略劣势，任何多边的约束框架都面临搭便车的诱惑。
这里存在着一种深刻的历史讽刺，而且这种讽刺与火和核武器的历史形成了一个令人痛苦的序列。人类在获得火之后，花了漫长的岁月才建立起关于火的使用的基本社会规范；在获得核武器之后，依靠恐惧的平衡而非道德的共识，勉强避免了核战争的爆发。每一次，道德规范的成熟都滞后于力量的获得，都需要付出巨大的代价才能建立起某种不稳定的约束机制。而人工智能的发展速度，远比核武器更快，其影响的渗透性远比核武器更广，其被滥用的门槛远比核武器更低——这意味着，那种道德规范追赶力量扩展的历史窗口期，在AI时代可能根本不存在，或者极为短暂。
如果人类因为无法跨越部落主义的鸿沟而在AI治理上失败，那个失败将不是文明被外力摧毁的悲剧，而是文明选择了自我放弃的结果。这是公地悲剧的终极形态：不是某种共享自然资源的耗竭，而是人类道德合作能力本身的耗竭——那种使文明成为可能的集体自我约束意志的最终瓦解。
七、索多玛的现代版本：文明存续需要道德正当性
《圣经》中索多玛与蛾摩拉（Sodom and Gomorrah）的故事包含着一个超越其宗教语境的哲学命题：一个文明的存续，需要道德上的正当性。那两座城市被毁灭，不只是因为它们做了坏事，而是因为它们已经失去了继续存在的道德理由——在它们的内部，再也找不到足够的道德基础来支撑它们的延续。亚伯拉罕与神的谈判，正是围绕这个问题展开的：如果城中还有足够多的义人，整座城是否值得被赦免？
将这个古老的叙事结构应用于AI时代的人类文明，不是为了引入宗教判断，而是为了提出一个严肃的哲学问题：人类文明的存续，究竟凭借什么正当性？这不是一个可以以"人类天然有权存续"来回答的问题，因为任何关于天然权利的主张，都需要某种价值论的基础。如果人类文明的实际运作——那些以国家名义进行的战争、以发展名义实施的剥削、以安全名义建立的压迫系统，以及那种将人性恶工业化地组织起来服务于少数人利益的政治经济结构——已经系统性地背离了任何可以为其存续提供道德理由的价值，那么那个索多玛式的问题便具有了真实的力量。
一个将一切都理解为可支配对象的文明，最终也会将自身的存续理解为一个需要被优化的工程问题，而失去了那种使存续本身值得追求的内在价值意识。文明的自我正当化，不能建立在"我们足够强大因此应该存续"的力量逻辑之上，而只能建立在"我们所坚守的价值使我们的存续值得"的道德逻辑之上。如果人类真的要抵御AI威胁，最根本的资源不是更强大的防御系统，而是重建那个道德正当性——让文明的实际运作与它所宣称的价值之间，不再存在那道令人不安的鸿沟。
这使我们触及到一个更深层的问题：人类是否值得继续存在？这个问题接近陀思妥耶夫斯基笔下那些最令人不安的追问，接近加缪关于荒谬与反抗的哲学，也接近尼采对价值重估的呼吁。但真正的答案，或许不是证明人类"值得"——因为任何这样的证明都会是循环论证——而是认识到：文明之所以存在，是因为人类不断重新证明它值得。文明不是一个既成事实，而是一种持续的选择，一种在每一个历史时刻都必须被重新做出的道德承诺。
八、报应与机遇：在最坏的预设中寻找转机
承认AI威胁可能是人性恶的报应，并不意味着接受这种结果的必然性。恰恰相反，正是这种诚实的承认，才可能为真正有效的应对提供基础。一个将AI威胁理解为外部灾难的文明，会将全部资源投入技术性的防御；一个将其理解为人性恶之报应的文明，则会同时追问：我们需要在自身的道德结构与思维方式上做出怎样的改变，才能使这种报应失去其必然性？
这里需要同时在两个层面上展开工作。在制度层面，需要那种霍布斯与马基雅维利意义上的政治现实主义：承认人类行动者会以自利的方式行动，并以此为前提设计透明机制、责任追踪与跨越国家部落边界的权力制衡。在这个层面上，关于AI治理的国际合作不是道德倡议，而是集体生存理性的要求——就像核不扩散条约不是基于对国家善意的信任，而是基于对相互毁灭之代价的共同恐惧。但同时，在更深的层面上，需要海德格尔所呼吁的那种思维方式的转变：从将一切理解为可支配对象的技术理性，转向一种能够在力量的增长中保持道德谦逊的存在方式。这不是浪漫主义的反技术情绪，而是对那个使技术危险成为可能的深层认识论根源的直面。
被尊称为“美国心理学之父”的威廉•詹姆斯（William James）在1896年提出的“相信的意志”（The Will to Believe），主张在证据尚不足以给出确凿答案、却又必须做出抉择的关键时刻，人类有能力——甚至有责任——依靠主观的信仰与道德意志先一步做出选择；这种“相信”本身，往往就是促成所希望之结果变为主观现实的先决条件。
这一思想在这里获得了它在整个思想史中最紧迫的应用场景：在没有任何保证的情况下，相信人类有能力在这场与自身幽暗面的战争中，再一次选择那个使文明成为可能的方向。这不是乐观主义，而是一种在充分认识人性黑暗之后仍然选择行动的道德意志。
火的时代，人类通过漫长的文化积累建立了关于火的使用的社会规范。核武器时代，人类在恐惧的边缘勉强维持了某种不稳定的平衡。AI时代，时间窗口可能更短，挑战更为根本，但人类道德意志的核心任务没有改变：在力量远超道德成熟度的处境下，选择以不成熟的道德约束成熟的技术，而非以成熟的技术放大不成熟的道德。
真正重要的，也许不是我们能不能证明人类一定会选择正确，而是在没有这种保证的时候，我们是否仍然愿意选择正确。文明从来不是一种自动运行的东西。它不会因为我们已经拥有了法律、制度、知识和技术，就永远存在下去。每一代人都必须重新决定：面对诱惑时是否克制，面对权力时是否设限，面对他人的痛苦时是否保持同情，面对能够做的事情时，是否仍然追问“应不应该做”。
AI时代尤其如此。我们第一次拥有了可以大规模放大人的判断、欲望和行动的工具。它可以把人的善放大，也可以把人的偏见、自私和攻击性放大。真正决定未来的，因此不只是AI能够做到什么，而是人类愿意让它做到什么，又愿意为哪些事情划下不能越过的边界。
如果有一天AI真的成为人类文明的终点，那并不只是机器变得足够强大，更可能意味着我们把自己的力量交给了自己最不成熟的那一面；而如果人类能够避免这样的结局，也不是因为我们终于变得完美，而是因为一次又一次，有人选择了克制、选择了边界、选择了不把“能够做到”当成“应该做到”。
文明就是这样一点一点延续下来的。它从来不是人类天然拥有的东西，而是我们在每一个关键时刻都重新做出的选择。我们无法证明人类一定值得继续存在，但只要我们仍然愿意选择那些使共同生活成为可能的东西，我们就在不断给出自己的答案。
这也许就是人类真正能够拥有的希望：不是相信人性已经足够善，而是在知道它并不完美之后，仍然不放弃让自己变得更好。
注：本文仅代表作者个人观点
本文编辑徐瑾 Jin.Xu@FTChinese.com