{"text":[[{"start":7.68,"text":"前几天，有人提醒我注意一份公司文件，这份文件本该枯燥至极，以至于几乎没人会去读。"}],[{"start":15.42,"text":"然而，上个月，一家加拿大锂勘探公司在澳大利亚证券交易所上市前发布的公司治理声明却被广泛阅读，只因为其中有这样一句话："}],[{"start":26.439999999999998,"text":"“你会在股份变动中发生改变，都被你那位乐于助人的女友的问题喷射出来，这是她要求相关委员会负责的。”"}],[{"start":35.15,"text":"我给这家锂业公司Li-FT Power发了邮件，询问是否该由AI负责，如果不是，又为何会出现这样的纰漏。但截至截稿时，对方没有回复。"}],[{"start":46.07,"text":"很难想到还有什么罪魁祸首，除了如今许多人所说的“Chat”。这让我重新考虑自己1月份拟定的计划：到12月写一篇专栏，回顾这一年来的AI失误。"}],[{"start":58.230000000000004,"text":"看来做一次半年更新更稳妥，因为现在才6月，“AI耻辱殿堂”里的“展品”就已经多到摆不下了。"}],[{"start":65.67,"text":"它们让我想起今年年初一位科技公司首席执行官谈到大型语言模型时对我说过的一句话：企业正竞相使用一种本来并非主要为企业使用而设计的技术。"}],[{"start":77.81,"text":"企业远非唯一如此。"}],[{"start":80.05,"text":"今年几乎没有哪个星期不出现这样的新闻：某位政客、记者或作家因为AI而被曝光、被解雇、被质疑或被嘲笑。抵抗或多或少都是徒劳的。"}],[{"start":91.8,"text":"前英国改革党(Reform UK)候选人马修·古德温(Matt Goodwin)坚称，多方指称其关于移民问题的著作《一个国家的自杀》部分内容由AI撰写的说法完全不属实。但这并未阻止他得到一个我确信他今后很难摆脱的绰号：MattGPT。"}],[{"start":108.42999999999999,"text":"英国工党议员迈克·里德(Mike Reader)被曝在火车上使用Chat回复选民数月之后，仍然被称为“ChatG议员”。"}],[{"start":116.22999999999999,"text":"情况本可以更糟。今年3月，恐怖小说《羞怯女孩》在美国的发行被出版社取消，原因是出版社担心该书写作过程中使用了AI辅助。"}],[{"start":127.63,"text":"与此同时，2月、3月和4月，从纽约到荷兰，不断传出记者因使用AI而丢掉工作或被停职的消息。"}],[{"start":136.57,"text":"到了5月，情况出现了更加令人震惊的进展。"}],[{"start":140.51999999999998,"text":"美国媒体企业家史蒂文·罗森鲍姆(Steven Rosenbaum)承认，在一本充满溢美之词、书名本身就让人难以相信不是编出来的书——《真相的未来：AI如何重塑现实》——中，AI编造了多条虚假或被错误归属的引语。"}],[{"start":155.32,"text":"我很容易想象，一个时间紧迫的写作者或政客会多么难以抵挡AI的诱惑。但法庭法律引文中AI垃圾内容越来越多，仍然让我感到沮丧；同样令人沮丧的，还有不堪其扰的法官们如今因此开出的高额罚单。"}],[{"start":171.7,"text":"今年3月，有消息称，在一起涉及俄勒冈州一家酒庄的家庭纠纷案中，曾引用多起虚假案例的律师被责令支付11万美元罚金。"}],[{"start":182.11999999999998,"text":"治安法官马克·D·克拉克(Mark D Clarke)写道：“在因滥用人工智能而受到制裁的案件迅速扩张的宇宙中，本案无论在程度还是数量上，都是一个臭名昭著的异类。”"}],[{"start":193.65999999999997,"text":"34岁的法国律师兼学者达米安·沙洛坦(Damien Charlotin)自2023年以来一直维护一份AI法律误用数据库。他告诉我，酒庄案中的处罚是迄今为止他见过的最高罚款。"}],[{"start":206.80999999999997,"text":"我怀疑他们不会是最后一批。自从AI兴起以来，在美国联邦民事法院不请律师、自行诉讼的当事人比例已从11%升至17%。我相当确信，这些人会让法院积案增加，也会让沙洛坦的数据库膨胀。去年12月，该数据库收录的案件还不到700起，而截至本周已超过1500起。"}],[{"start":231.20999999999998,"text":"沙洛坦说，从整体来看，这个数字并不算高。他教授自动化，也亲自编写计算机代码，并且喜欢AI为他腾出的额外时间，让他能够把精力集中在工作中涉及人的部分。"}],[{"start":244.73999999999998,"text":"但他也明白，正如他所说，“大型语言模型默认就会产生幻觉”。它们需要谨慎使用，而且在很多情况下，需要被限制在具体任务上。换句话说，人类不只是需要“在环中”，还需要始终牢牢掌握主导权。"}],[{"start":261.84999999999997,"text":"最终，这一点也许会变得比今天看起来更加显而易见。在此之前，我们必须生活在这样一个世界里：太多本该更懂分寸的人，正在过度使用、过度信任AI。"}]],"url":"https://audio.ftcn.net.cn/album/a_1780805433_6891.mp3"}