难辨真假的互联网世界如何重建信任 - FT中文网
登录×
电子邮件/用户名
密码
记住我
请输入邮箱和密码进行绑定操作:
请输入手机号码,通过短信验证(目前仅支持中国大陆地区的手机号):
请您阅读我们的用户注册协议隐私权保护政策,点击下方按钮即视为您接受。
人工智能

难辨真假的互联网世界如何重建信任

威尔士:推荐算法和生成式AI模型决定数十亿用户能够看到什么,我们这一时代的挑战不是信息稀缺,而是真实性稀缺。
00:00

{"text":[[{"start":8.06,"text":"本文作者是维基百科(Wikipedia)联合创始人、著有《信任的七条法则》(The Seven Rules of Trust)一书"}],[{"start":13.920000000000002,"text":"我在2001年创办维基百科时,互联网的先驱们曾经为互联网承载的愿景——让世界获得真相和连接——而振奋。"}],[{"start":23.300000000000004,"text":"20年后,这种乐观已变成怀疑。我们刷着我们不再信任的新闻推送,与不知是否为真人的机器人互动,准备迎接一个又一个利用人工智能(AI)伪造的图像虚构出来的丑闻。"}],[{"start":36.18000000000001,"text":"在互联网继续向前发展之前,它必须记起自己最初是如何赢得信任的。"}],[{"start":41.940000000000005,"text":"Web 1.0与当今主流平台之间的决定性差异,不在于技术先进与否,而在于道德架构。早期的在线社区在流程和目的上是透明的。它们公开展示信息是如何被创建、修正和分享的。可见性带来了可问责性。人们能够看到系统如何运作,并参与修正其错误。信任并非来自完美(当时的网上同样充斥着大量喷子、口水战和有毒内容),而是来自开放。"}],[{"start":73.13000000000001,"text":"当今的数字生态颠覆了这一逻辑。推荐算法和生成式人工智能(GAI)模型决定数十亿用户能够看到什么,但它们的运作机制却始终不透明。当平台坚持宣称其系统过于复杂而无法解释时,就等于要求用户以无条件的信任来代替理解。"}],[{"start":92.39000000000001,"text":"人工智能加剧了这一问题。大型语言模型(LLM)可以生成流畅的段落和逼真的深度伪造。曾经承诺让知识民主化的工具,如今却让知识变得难辨真假。如果一切都可以被捏造,真相与幻象的分别就视乎何者更有说服力。"}],[{"start":111.13000000000001,"text":"在当前环境下重建信任,不仅需要事实核查或内容审核,更需要结构性透明。所有信息中介平台都应实现信息溯源的可见性:数据从何而来、如何被处理、存在哪些不确定性。可以将其视为信息的营养标签。没有结构性透明,公民无法作出有依据的判断,而民主也将无法运作。"}],[{"start":134.92000000000002,"text":"独立性同样重要。随着人工智能公司争夺主导地位,将商业、政治或文化偏见嵌入训练数据的诱惑将是巨大的。必须建立防护机制,确保那些运作公共知识的实体对公众负责,而不仅仅是对投资者负责。"}],[{"start":152.57000000000002,"text":"我们还必须重振文明风气。早期最优秀的一些网络空间都遵循着一套重视理性辩论而非人身攻击的准则。它们并不完美,但能够自我修正,因为参与者感到自己对这项集体事业负有责任。当今的社交平台却在利用愤怒情绪变现。重建信任,就要设计能奖励善意讨论的系统——通过可见性算法、基于社区的内容审核,或设置迫使人们在转发前反思的阻力机制。"}],[{"start":182.91000000000003,"text":"政府可以发挥作用,但仅靠监管本身无法重建信任。它必须在实践中得到践行。平台不仅应披露算法如何工作,也应披露其失效的情形。人工智能开发者应公布数据集来源和错误率。"}],[{"start":199.72000000000003,"text":"我们这一时代的挑战不是信息稀缺,而是真实性稀缺。早期互联网之所以在一些重要的方面取得成功,关键在于人们能够追溯到内容背后的真实个体——即便对方使用化名。新一代互联网必须恢复这种可追溯的链条。"}],[{"start":217.08000000000004,"text":"我们正进入一个机器可以模仿任何声音、创造任何图像的时代。如果我们希望真相能在这种冲击中存活,我们必须将透明性、独立性和同理心嵌入数字架构本身。互联网的早期阶段已经证明这是可以做到的。问题在于我们是否仍然有意愿再做一次。"}],[{"start":237.13000000000005,"text":"译者/何黎"}]],"url":"https://audio.ftcn.net.cn/album/a_1764835893_8311.mp3"}

版权声明:本文版权归FT中文网所有,未经允许任何单位或个人不得转载,复制或以任何其他方式使用本文全部或部分,侵权必究。

电力短缺的古巴加深对中国太阳能技术的依赖

太阳能技术进口激增,在该国几乎遭遇全面石油封锁之际带来了一些缓解。

为何这次石油冲击与以往不同

各国政府和央行已无政策弹药来遏制这场经济冲击。

让科技去探索选民真正的诉求

对动机与情感强度的新洞见,或可让民主运作得更好。

Maga会继续支持特朗普对伊朗的战争吗?

在佐治亚州小镇的街头,总统的基本盘力挺这场战争,而摇摆选民却举棋不定。

马拉多纳理论下,市场是否已收得过紧

欧洲方面在3月释放的鹰派信号已起到收紧货币政策的效果。

中国微短剧出海美国,用熟悉套路争夺手机用户

在中国炙手可热的一种类型中,爱恋与幻想题材占据主导,而该类型正尝试迎合西方观众的口味。
设置字号×
最小
较小
默认
较大
最大
分享×