{"text":[[{"start":7.21,"text":"本文作者曾在乔•拜登(Joe Biden)为美国总统时担任美国国家人工智能办公室(AI office)主任，并于2009年至2012年担任美国驻经合组织(OECD)大使"}],[{"start":18.15,"text":"上周四，白宫废除了一条旨在规范先进AI模型发布前安全测试的行政令。倡导“信任但要核实”(trust-but-verify)路线的人，再一次败给了“不设限”(no-holds-barre)阵营。"}],[{"start":29.96,"text":"目前，人工智能在一个不被问责的地带中运行。随着它取代整个经济中各个现有系统，处在“黑箱”中的算法很难被为人类制定的规则所约束。现在的问题已经不再是这些工具是否会扩散，而是其运行规则究竟是由民主选择来制定，还是由行动最快的公司来决定。应对失当的风险是极其严重的。提供医疗建议的聊天机器人既无需承担医疗事故责任，也不像人类医生那样受执照制度监管。在美国，政府可以使用容易出错的AI系统来拒发公民福利，而公民却没有渠道向人类寻求解释或提出申诉。"}],[{"start":71.07,"text":"美国法院很难用现有的法律去裁定涉及人工智能的案件。一起针对OpenAI的诉讼指控其存在产品责任和违反竞争法的行为（OpenAI对此予以否认），理由是其所作所为“如果是任何治疗师、教师或人类做出的，都将面临刑事起诉”。法院必须裁定聊天机器人到底算不算一种产品，以及是否可以因为它做了人类在法律上不能做的事情、从而与人类进行不公平竞争而追究它的责任。"}],[{"start":101.5,"text":"这种旨在获取市场主导地位的“问责套利”并非新鲜事。美国社交媒体公司曾将这套剧本玩得炉火纯青，它们利用法律漏洞，规避了要求新闻机构购买责任保险(liability insurance)并秉持编辑标准的媒体规范。优步(Uber)曾声称自己是一家技术平台而非出租车公司；它的司机是零工而非雇员。爱彼迎(Airbnb)则辩称自己无需缴纳酒店税，也不受分区规划或建筑安全规则的约束。"}],[{"start":130.49,"text":"随着人工智能普及，它有可能在民主治理中打开一个波及全社会的漏洞。围绕人类行为的法律要求人对自己造成的伤害负责。如果算法不受这些规则的约束，且没有新的标准能对其进行约束，那么选择容忍哪些伤害的决定权就会默认“先到先得”。缺乏公共标准，竞争压力就会鼓励投机取巧。今年2月，Anthropic弱化了其在发布前保证采取安全措施的政策，并指出如果没有针对所有企业的统一规则，那些“保护措施最弱的（企业）将决定（所有企业的）前进速度”。"}],[{"start":168.99,"text":"以往的许多美国政府都曾为新技术建立过新框架。美国核管理委员会(Nuclear Regulatory Commission)对核能建设进行审批、检查核电站并要求事故上报；核能运营商面临严格责任（strict liability，又称无过失责任(no-fault liability)，指在发生损害的情况下，即便无过失也要承担责任——译者注）。制造汽车、药品和飞机的公司受制于现有工具（包括问责）和专门规定的双重管治——尽管这些制度并不完美，通常反应迟缓且经常被利益集团俘获。但这些缺陷恰恰是需要将它们更新换代、并出台针对AI的新安全规则的理由，而不是放弃公共管治的借口。"}],[{"start":209.55,"text":"自2022年底ChatGPT发布后，多个国家的政府迈出了第一步。2023年10月，美国总统乔•拜登签署了一项行政令，指示联邦机构处理各自领域的人工智能问题，并对最先进的模型进行测试。几天后，在英国布莱切利园(Bletchley Park)，包括英国、美国、中国和欧盟成员国在内的28个国家同意就前沿AI风险展开合作。欧盟于2024年5月通过了自己的《人工智能法》(AI Act)。"}],[{"start":238.39000000000001,"text":"在美国，风向已经发生了转变。在业界支持下当选的唐纳德•特朗普(Donald Trump)撤销了拜登的行政令，并专注于扶持国内AI巨头保持对中国的领先地位。上周被废除的那条行政令，原本应该会略微软化这一立场。但即便只是略微的软化也被否决了。"}],[{"start":258.94,"text":"其他地方的进展也面临着强烈的抵制。在美国司法部(DoJ)加入支持xAI提起的一起诉讼后，科罗拉多州淡化了其全国首创的法律，该法律原本要求对涉及就业或住房等重大决策的AI系统施加部署前责任。风险投资公司安德森•霍罗威茨(Andreessen Horowitz)及其业界盟友投入了超过1亿美元的政治资金来反对各州的AI规则，其中包括花费300多万美元，使那位共同起草了纽约州安全计划法案的国会议员候选人在竞选中落败。"}],[{"start":290.73,"text":"民意调查显示，人们对不受限制的人工智能日益担忧。本周一，教皇利奥十四世(Pope Leo XIV)公开支持政府发挥核心作用，他写道：“有必要建立适当的监管工具，以维护正义并遏制技术力量造成的扭曲效应。”他一针见血地指出，大多数人只是在“看、在等……一厢情愿地希望事情会朝最好的方向发展”。但其实公民和民选代表负有明确的责任来更新治理机制，以确保人工智能在奖励创新的同时，不会逃避问责。"}],[{"start":324.28000000000003,"text":"译者/萤火虫"}]],"url":"https://audio.ftcn.net.cn/album/a_1780054209_3989.mp3"}