{"text":[[{"start":11.91,"text":"字节跳动(ByteDance)正在训练一种AI模型，其规模可能接近Anthropic最先进的Mythos系统。随着中国公司继续缩小与美国顶尖实验室之间的差距，字节跳动也在推进相关研发。"}],[{"start":26.65,"text":"据三名知情人士透露，这家中国科技巨头目前正处于训练一款参数规模最高达10万亿的模型的早期阶段，其规模是迄今发布的最大的中国模型——月之暗面(Moonshot)的Kimi K3——的三倍。"}],[{"start":40.46,"text":"其中一人表示，字节跳动的模型目前正处于预训练阶段——这一阶段通常需要三至六个月——如果一切顺利，之后还将进行微调并发布。模型的确切规模要到后续阶段才能确定。"}],[{"start":54.93,"text":"Anthropic没有披露其模型的规模，但业内估计，其最先进的Mythos 5约有8万亿参数，Fable 5约有5万亿参数。参数数量决定了模型存储信息的基础容量或记忆上限，但模型的实际能力还取决于数据质量和训练方法等其他因素。"}],[{"start":73.89,"text":"字节跳动训练全球最大AI模型之一的努力，展现出中国实验室不仅要在AI最前沿追赶美国同行、还力争实现超越的雄心。"}],[{"start":84.91,"text":"仅在过去几周，来自月之暗面和阿里巴巴(Alibaba)的中国模型就在基准测试中表现强劲，在某些领域仅落后于Anthropic的Fable 5。Anthropic最先进的模型Mythos 5因引起安全方面的担忧在6月一度被禁用，目前仅向获批准的机构提供。"}],[{"start":104,"text":"业内人士表示，多家中国实验室正在训练规模与Fable 5相当的模型，而字节跳动目前正最积极地推动开发规模最大的模型。"}],[{"start":114.77,"text":"短视频平台TikTok的母公司字节跳动在AI开发方面一直保持低调，因为与许多中国同行不同，其模型大多属于闭源模型。字节跳动最新的SeeDance模型跻身全球最先进的视频生成模型之列，而其面向消费者的旗舰模型豆包(Doubao)是中国最受欢迎的同类模型，月活跃用户达3.24亿。"}],[{"start":138.26,"text":"过去三年，字节跳动在AI领域的投资力度超过其他任何一家中国科技巨头，持续扩建数据中心网络并招聘研究人员。该公司进一步加大了对云业务火山引擎(Volcano Engine)的投入；火山引擎向企业销售AI解决方案。字节跳动还有志于开发定制化AI芯片。"}],[{"start":159.56,"text":"其模型开发团队Seed由前谷歌(Google)DeepMind科学家吴永辉领衔，在中国和海外约有2000名成员。团队包括核心研究人员、基础设施工程师、数据标注团队和翻译人员。"}],[{"start":173.9,"text":"其中一名知情人士称，该公司的模型开发还采用了一种更为独立的方法，不涉及从其他实验室的现有模型中“蒸馏”知识。该公司采用这种方法已一年多，一些人认为，这导致其开发速度落后于竞争对手。"}],[{"start":190.87,"text":"模型蒸馏是指通过训练较小的模型模仿较大型“教师模型”的知识和输出，将复杂的大型AI模型压缩成更小、更快速模型的过程。"}],[{"start":201.55,"text":"由创始人张一鸣领导的字节跳动管理层认为，只有自主研发才能打造出超越竞争对手的模型。"}],[{"start":209.63000000000002,"text":"据该人士透露，两周前，张一鸣在一次内部会议上重申了这一立场。他当时告诉Seed团队，从长远来看，应以实现“世界领先的模型能力”为目标，不必过分担心短期内落后。"}],[{"start":224.05,"text":"中国媒体《晚点》(LatePost)和The Information最先报道了张一鸣在近期内部会议上的发言。"}],[{"start":230.75,"text":"字节跳动未回应置评请求。"}]],"url":"https://audio.ftcn.net.cn/album/a_1786083683_6189.mp3"}