伦敦劳合社的保险公司推出了一款产品，为公司因人工智能工具故障造成的损失提供保险，随着企业担心聊天机器人会造成代价高昂的“幻觉”或错误，保险业正寻求从中获利。
由Y Combinator支持的初创公司Armilla开发的这类保单，将承担企业在因人工智能工具表现不佳而被客户或其他第三方起诉时产生的诉讼费用。
该保险将由劳合社的几家保险公司承保，承保范围包括损害赔偿和法律费用等。
企业急于采用人工智能来提高效率，但包括客服机器人在内的一些工具却面临着令人尴尬且代价高昂的错误。例如，由于人工智能语言模型存在缺陷，导致其产生“幻觉”或胡编乱造。
今年1月，Virgin Money就其AI聊天机器人因客户使用“virgin”一词而训斥对方的行为致歉；而快递公司DPD则在去年关闭了部分客服机器人功能，此前该机器人曾对客户爆粗口，并称其母公司是“全世界最差的快递服务公司”。
去年，一个仲裁庭裁定加拿大航空(Air Canada)必须兑现其客户服务聊天机器人编造的折扣。
Armilla表示，如果加拿大航空的聊天机器人被认定为表现不如预期，那么因低价售票造成的损失将由其保险政策承担。
Armilla首席执行官Karthik Ramakrishnan表示，这款新产品有望鼓励更多公司采用人工智能，因为目前许多公司由于担心聊天机器人等工具会出现故障而望而却步。
一些保险公司已经将人工智能相关损失纳入了一般技术错误和遗漏保单，但这些保单的赔付限额通常较低。诺德(Lockton)的保险经纪人普雷特•吉尔(Preet Gill)说，一份承保高达500万美元损失的普通保单可能会规定人工智能相关责任的赔偿限额为2.5万美元。诺德为客户提供Armilla的产品。
人工智能语言模型是动态的，这意味着它们会随着时间的推移而“学习”。诺德的保险经纪人洛根•佩恩(Logan Payne)说，这种适应过程造成的错误损失通常不在典型的技术错误和疏漏保单的承保范围内。
根据Armilla的保单，人工智能工具本身的错误不足以触发赔付。相反，如果保险公司判定人工智能的表现低于最初的预期，那么保险就会生效。
Armilla公司表示，例如如果某款聊天机器人最初能以95%的准确率向客户或员工提供正确信息，但之后下降到仅有85%的准确率，该公司的保险产品就可能对此类情况进行赔付。
Ramakrishnan表示：“我们会评估AI模型，对其性能退化的概率有充分了解，并在模型出现退化时进行补偿。”
Chaucer是劳合社旗下为Armilla提供承保服务的保险公司，其合作负责人汤姆•格雷厄姆表示，该公司不会为他们认为过于容易出故障的人工智能系统提供保单。“我们会有所取舍，就像其他保险公司一样，”他说道。