{"text":[[{"start":8.08,"text":"人工智能爱好者驳斥了这项技术会导致大规模失业的说法。他们说，过去曾有很多人的工作是驾驭马车、制作马鞭。汽车让这些工作消失，并没有导致人们排起长队领救济；恰恰相反。"}],[{"start":24.759999999999998,"text":"悲观主义者则反驳说，就人工智能而言，我们不是马车夫，而是马。乐观主义者的反驳——马从役畜变成奢侈品后，生活水平提高了——毫无安慰。看看20世纪上半叶马匹数量的减少就知道了。"}],[{"start":41.48,"text":"无论人工智能最终对失业率产生何种影响，这种争论凸显了一个观点：人工智能与以往所有技术都截然不同，它更加复杂，潜力更大，风险也更大——对劳动力、网络安全、国防、心理健康等等都是如此。因此，掌握人工智能的人肩负着特殊的责任。人工智能行业的每个人都认同这一点。OpenAI的“模型规范”(Model Spec)指南以及Anthropic首席执行官达里奥•阿莫迪(Dario Amodei)的相关论文都阐述了这一点，并提供了人工智能公司可以允许其模型做什么的指南。"}],[{"start":76.38,"text":"但人工智能公司及其模型将首先遵循一条规则：在法律允许的范围内，它们会寻求为股东实现收益最大化。当利润法则与公司的内部原则发生冲突时，利润总是会胜出。"}],[{"start":90.88,"text":"无需为此遗憾。这正是我们企业资本主义体系旨在创造的结果。它通过鼓励冒险和创新，使我们获得了自由和繁荣。而且，在大多数情况下，利润动机和公共利益完美契合。但随着我们迈入新的技术时代，旧的资本主义规则依然适用。企业只有在被迫的情况下才会管理其造成的经济外部性或为之买单。"}],[{"start":117.41999999999999,"text":"人工智能吸引的资金数额令人震惊。大型科技公司“超大规模云服务商”计划仅今年就向人工智能领域投资超过6000亿美元。人工智能初创公司在2025年第一季度筹集了730亿美元。OpenAI今年3月在一轮融资中就筹集了1220亿美元。这些资金来自那些追求高回报、并且深知该行业很快需要更多资金来购买算力的人。这必然使过于谨慎的高管被边缘化，并引发一场军备竞赛，在这场竞赛中，优先考虑安全性将导致技术被淘汰。"}],[{"start":155.04,"text":"阿莫迪认为，构建不会“自主威胁人类”的人工智能系统，与领先于可能利用此类系统对付我们的威权国家（或者说真是国家么？）之间存在着一种矛盾。"}],[{"start":166.23,"text":"然而，在这种矛盾显现之前，人工智能公司的首席执行官们必须平衡安全性和竞争力。如果阿莫迪或OpenAI的萨姆•奥尔特曼(Sam Altman)以令投资者不满的方式实现了这种平衡，他们将被解雇。该行业对营收增长预期极其敏感。近日，《华尔街日报》(Wall Street Journal)报道称，OpenAI未能达到内部营收和用户目标。该报道震动了整个纳斯达克(Nasdaq)，OpenAI迅速发表声明，称其为“标题党”。"}],[{"start":196.38,"text":"当阿莫迪说他“日夜专注于如何引导我们摆脱人工智能的负面影响，走向积极影响”时，我相信他是真诚的。但我也确信，从人工智能盈利与安全之间的冲突会有什么结果来看，他的话不过是噪音。相关的激励机制并不关心他专注于什么。"}],[{"start":216.88,"text":"这个简单的观察结果——人工智能带来的某些风险只能由公民而非企业来管控——引发了关于如何监管人工智能的难题。找到答案注定会很棘手。一些人工智能公司担忧的意外后果将成为现实。"}],[{"start":232.94,"text":"良好的监管应该是什么样的？抛开马的经历不谈，它不应试图保护特定职业类别，因为这只会是付报酬让人们从事无效率的工作。它应该针对具体的危害——无论是身体上的、数字上的、心理上的还是经济上的——制定相应的监管工具，而不是采取一刀切的方式。在责任方面，它应该认真借鉴其他有用但本质上危险的产品（例如爆炸物）的处理方式，并重新思考适用于非人类主体的代理法。它应该强调责任，而不是公司的警告义务。投资者的利益必须与安全息息相关。"}],[{"start":270.47,"text":"然而，关键在于，首先要驳斥任何认为该产品与众不同，过于复杂以至于公民无法拥有发言权的说法。人工智能是新生事物，而资本主义可不是。"}],[{"start":283.03000000000003,"text":"译者/何黎"}]],"url":"https://audio.ftcn.net.cn/album/a_1778212260_8304.mp3"}