{"text":[[{"start":8.85,"text":"作者是西班牙对外银行(BBVA)董事长"}],[{"start":12.36,"text":"数以百万计的人开始发现，个人AI智能体能为他们做些什么。这些助手可以代为预订、审核并支付账单、提交保险理赔申请，还能处理无数其他耗时或复杂的任务。在金融领域，它们有望让每个人都获得支持和个性化建议——而直到现在，这些服务只有富人才能负担得起。"}],[{"start":34.730000000000004,"text":"遗憾的是，公司尚未做好应对个人AI智能体的准备。很少有公司为AI智能体提供专门的渠道，让它们访问公司的服务。这意味着，AI智能体别无选择，只能“伪装”成用户，用用户的密码登录，从后门进入。"}],[{"start":53.150000000000006,"text":"公司可以识别出其中一些智能体，许多公司会将其拦截，但仍有一些漏网，之后便能像真正的用户一样自由操作。这会让用户面临各种风险，从凭证遭到泄露（分享密码绝非明智之举），到未经授权的访问或智能体的恶意行为。另一方面，公司可能会面临越来越多的纠纷：客户拒绝承认其智能体可能代为采取的行动。"}],[{"start":79.18,"text":"为了防范这些风险而将智能体拒之门外，显然不是解决之道。包括西班牙对外银行在内的许多公司都会推出自己的AI智能体，但客户也必须能够自由选择与任何智能体合作，并决定智能体可以访问哪些第三方服务（及相应数据）。解决之道是让智能体凭借自己的“智能体身份”获得访问权限，而不是冒充用户。"}],[{"start":104.36000000000001,"text":"在金融领域，其中一些要求已经成为法律。根据欧洲的支付规则，访问客户账户或代客户付款的企业必须注册或取得牌照，并向银行表明身份；银行则必须为它们提供安全接口。自2019年以来，欧洲银行监管机构已明确表示，这些企业不得再冒充客户登录。提供这类服务的智能体也不例外。"}],[{"start":130.09,"text":"但这些规则只涵盖了智能体行为的一部分。包括金融业在内的各个行业都需要建立“了解你的智能体”框架：任何服务都应清楚自己正在与哪个智能体交互、谁对该智能体负责，以及该智能体获准执行哪些操作。"}],[{"start":146.63,"text":"客户应直接登录服务提供商的平台，并在那里授予权限。权限必须非常具体：AI智能体可以查询余额、支付水电等公用事业账单，但不能添加新的收款人或申请贷款。客户必须随时能够撤销这些权限，而且每项操作都应留下记录。"}],[{"start":166.85,"text":"业界已经在制定相关标准。西班牙对外银行是首家加入“个人智能体协议”(Personal Agent Protocol)的欧洲银行。该倡议也称“poppy”，由企业级AI初创公司Sierra和Meta牵头。制定一套共同标准，远胜于各家公司各自为政、另立标准，但监管部门仍亟须采取行动。"}],[{"start":188.56,"text":"需要采取哪些措施？欧洲《人工智能法案》(AI Act)要求人工智能系统向人们表明自身身份。该法案还应要求智能体向其访问的服务表明身份，并在过渡期后禁止冒充他人。作为回报，银行、公用事业企业、在线平台和社交网络等大型服务提供商，应被要求以公平条件，为身份已获确认的智能体提供标准化接入渠道。"}],[{"start":215.16,"text":"我们还需要建立一套识别合法智能体的机制，而不是让每家公司自行决定信任哪些智能体。每个智能体都应持有可验证的凭证，并以欧洲跨行业数字身份框架eIDAS为基础。如果智能体从事受监管活动，其提供方也应持有相应牌照。"}],[{"start":235.26,"text":"最后，责任必须明确划分，并与控制权相匹配。客户应对其授予的权限和向智能体发出的指令负责；服务提供商应对超出这些权限范围的行为承担责任，智能体提供商则应对超出这些指令范围的行为承担责任。若提供商自身的系统遭到入侵，所有提供商都应承担相应责任。客户应事先清楚出现问题时该向谁寻求解决，也不应承担超出其控制范围的损失。"}],[{"start":265.77,"text":"这些规则和标准完全可以、也应当从一开始就适用于各个行业，以充分保护AI智能体所服务的消费者。同样，统一的规则和标准也应跨境适用，使在一个司法管辖区值得信赖的智能体，在另一个司法管辖区也值得信赖。"}],[{"start":283.18,"text":"个人AI智能体初步取得的成功表明，它们将长期存在。与其封堵它们，或任由它们在暗处运作，我们不如敞开大门。"}]],"url":"https://audio.ftcn.net.cn/album/a_1794583057_4076.mp3"}