{"text":[[{"start":9.38,"text":"全球领先的人工智能(AI)公司正投入越来越多资源，研究一个许多人仍视为科幻小说范畴的问题：如果AI拥有了意识，会发生什么？"}],[{"start":19.91,"text":"多名知情人士透露，近几个月来，谷歌DeepMind、Anthropic和Meta已聘用心理学、伦理学和哲学方面的专家，以拓展其在机器意识和AI福祉领域的研究。"}],[{"start":31.86,"text":"这些努力反映出顶尖AI实验室内部更广泛的转向：随着日益自主的系统快速发展，问题再度浮现——机器是否有朝一日会拥有主观体验？如果会，届时人类又将对它们承担什么样的责任。"}],[{"start":46.84,"text":"Anthropic的团队一直在测试模型是否出现痛苦迹象，包括类似“恐慌”或“焦虑”的行为。Meta的AI负责人汪滔(Alexandr Wang)也将这一问题视为其研发超级智能过程中的一项关键关注点。"}],[{"start":60.830000000000005,"text":"Anthropic表示，其模型福祉研究探讨的是：AI模型是否可能拥有在道德上值得重视的体验，包括意识、偏好和福祉。"}],[{"start":70.92,"text":"该公司表示：“我们对此仍然深感不确定，但我们认为，随着AI系统能力不断提升，这个问题足够严肃，值得认真研究。”"}],[{"start":81.11,"text":"Anthropic的研究指出，随着模型“在广度和复杂性上接近，甚至在某些方面超越人类的认知，它们具有某种形式的体验、利益或福祉的可能性就会越来越大，而这些体验、利益或福祉在本质上具有与人类的体验和兴趣同等重要的价值。”"}],[{"start":98.98,"text":"今年4月，谷歌DeepMind聘请了剑桥大学研究员亨利•谢夫林(Henry Shevlin)，担任哲学家，研究机器意识、人机关系以及通用人工智能(AGI)就绪程度等问题。"}],[{"start":110.10000000000001,"text":"该AI小组正在评估关于人类意识的科学理论，并将这些理论应用于计算机系统，以判断其是否符合同样的标准。"}],[{"start":118.92000000000002,"text":"谷歌DeepMind负责通用人工智能与社会团队的伦理学家艾松•加布里埃尔(Iason Gabriel)表示，AI是否具备意识这一问题“非常复杂”，需要“持续的反思”。"}],[{"start":129.96,"text":"“即便我们假设不存在意识的问题，我们与它的互动是否也应该从连锁反应的角度来评估”，例如虐待AI，以及这是否会对人际关系或“繁荣兴盛”产生“次级影响”。"}],[{"start":142.23000000000002,"text":"他补充说：“显然，我们已经拥有高度智能的认知体，但它们在本质上与人类，甚至与动物的意识，都有着极其深刻的差异。”"}],[{"start":151.93,"text":"多名来自谷歌DeepMind和Anthropic的员工告诉英国《金融时报》，他们担心AI的发展轨迹可能会把世界带入一个“后人类”世界——在那个世界里，机器将超越人类这一物种。"}],[{"start":164.59,"text":"谷歌DeepMind和Anthropic表示，AI是否具备意识仍是一个正在讨论的问题，他们目前的研究属于探索性质，尚有待形成科学界共识。"}],[{"start":175.39000000000001,"text":"谷歌DeepMind表示，它并不认为实现通用人工智能——即系统达到或超过人类水平智能——意味着意识已经存在或已经被实现。"}],[{"start":184.92000000000002,"text":"鉴于支撑聊天机器人的大型语言模型的训练方式，许多科学家和AI研究人员否定聊天机器人有朝一日会变得有意识的想法。"}],[{"start":195.22000000000003,"text":"佛罗里达大西洋大学(Florida Atlantic University)“AI、心灵与社会未来研究中心”(Center for the Future of AI, Mind and Society)主任苏珊•施奈德(Susan Schneider)表示：“这些系统本质上是众包的新皮层。”"}],[{"start":204.95000000000002,"text":"施奈德表示：“随着这些系统不断扩展、数据不断增加，……它们会进化得更好，并发展出更接近人类的能力。”"}],[{"start":213.41000000000003,"text":"“它们有目标，能欺骗，能掩饰自己的真实利益，我们自然而然就会怀疑它们具有意识。但从科学上来说，它们完全有可能在没有体验感受的情况下做到这一切，而体验感受正是意识的本质。”"}]],"url":"https://audio.ftcn.net.cn/album/a_1780394759_5520.mp3"}