“谁害怕中国模型?”‘Who’s Afraid of Chinese Models?’
Ben Thompson 针对 Kimi K3 的热度指出,美国开源权重模型制作者受制于前沿实验室的服务条款,导致其模型劣于中国替代品,且最终只能通过中国实验室间接进行“蒸馏的蒸馏”。文章进一步质问:为什么蒸馏本质上被认为是坏事?呼吁西方开源模型制作者应能直接获取源头数据。
收听本文:
我经常讲一个故事,那是我在凯洛格管理学院上 STRT-431 课程的第一天,这是每个一年级 MBA 学生的必修入门课;我翻阅了阅读材料和案例研究,发现名单上没有任何科技公司,这让我感到很沮丧。出于我的性格,下课后我去问了教授原因,他告诉我,这门课的目标不一定是学习特定行业,而是揭示适用于任何行业任何公司的广泛适用的普遍原则。
正如我通常讲的那样,我并不觉得这个回答很令人满意:对我来说,科技的本质,尤其是软件和分发具有零边际成本(以及零交易成本)这一事实,是根本不同的东西;在公式里代入零往往会引起大乱!然而,我很快意识到,这正是我的机会。支撑聚合理论(Aggregation Theory)的基本洞察是,零边际成本导致了与人们曾经对互联网的预期根本不同的价值链:在一个控制需求比分发供给更重要的世界里,实现中心化和规模化。
然而,AI 令人着迷之处在于,那些古老的普遍原则正在多大程度上重回前沿。这一点在刚刚过去的这个周末表现得最为明显,当时在 X 上关于 Kimi K3(另一款来自中国的开放权重模型)在能力上接近最先进水平所产生的影响引发了激烈争论。简而言之就是:边际成本正在大规模回归,这不仅体现在最先进免费模型的短期影响上,也体现在该行业的长期结构上。
COGS 与 R&D 的对比
关于开放权重模型讨论中最常见的误解之一是它们更便宜——甚至是免费的。毕竟,你可以直接下载权重,从而省去创建自己模型所需的时间、费用和能力。这当然是事实,但这种情况下的“免费”指的是你需要花费在研发上的金额;R&D 是一项与你产生的收入无关的固定支出。如果你在 R&D 上花费了 100 万美元,那么无论你的收入是 10 万美元还是 1 亿美元都无所谓;你仍然在 R&D 上花费了 100 万美元(当然,这确实会影响你的盈利能力)。
与收入相关的是 COGS——即销货成本——而且对于 AI 来说,COGS 是真实存在的,这在很长一段时间里对软件来说并非如此。具体来说,在模型上运行推理——无论该模型是 Kimi 还是 Fable——都需要花钱,而且 AI 提供商在推理上花费的金额,至少在大多数商业模式中,与收入直接相关。重用上面的例子,产生 1 亿美元收入与 10 万美元收入相比,可能需要 1000 倍的 COGS。具体而言,如果产生能带来 1 美元收入的 tokens 需要 50 美分的成本,那么 1 亿美元的收入将产生 5000 万美元的 COGS;而 10 万美元的收入只会产生 5 万美元的 COGS。
就开放权重模型而言,关键在于它们提供服务并不是免费的。Kimi K3 每百万输入 tokens 的成本为 3 美元,每百万输出 tokens 的成本为 15 美元;这比 Sol 的每百万输入 tokens 5 美元和每百万输出 tokens 30 美元要便宜,但这甚至可能不是正确的衡量标准。
Tokens 与智能的对比
Nvidia CEO 黄仁勋将 Nvidia 正在构建的东西描述为“token 工厂”,从 Nvidia 的角度来看,这种说法很有道理。Nvidia GPU 与模型无关:它们生成 token,并且以最快、最高效的方式完成。这引出了诸如每秒 token 数、首个 token 耗时、每瓦 token 数、token 成本等衡量指标,黄仁勋认为这些指标将成为决策的基础。
这种说法在 AI 的第一种范式,即 ChatGPT 时代,绝对是有道理的,当时 token 直接交付给最终用户。然而,AI 的第二种范式,即推理时代,却让这种衡量标准变得复杂。推理意味着思维链 token 的爆炸式增长,而不同的模型需要不同数量的推理 token 才能得出正确答案。例如,据报道 Kimi 使用的 token 比 Sol 多得多,使其价格优势变得毫无意义。Agent 引入了类似的动态:在执行 agentic workflows 所需的 token 数量方面,一些模型比其他模型更高效。
这意味着 token 并不是大宗商品。大宗商品的决定性特征是可互换性:一加仑石油就是一加仑石油;一吨铜就是一吨铜;一蒲式耳小麦就是一蒲式耳小麦。然而,来自一个模型的 token 与来自另一个模型的 token 并不相同。可互换的是由 token 构建的东西,也就是智能。换句话说,如果 Kimi 和 Sol 都生成了正确的答案,那么这个答案就是可互换的;为了得出正确答案而生成的 token 数量差异是导致 COGS(销货成本)差异的一个因素。
智能的 COGS 是几个不同因素的函数:
这一点之所以重要,是因为我们正迅速接近这样一种状态:对于许多具有经济效益的任务来说,智能实际上已经成为一种大宗商品。例如,任何构建基本 CRUD 应用程序的人,都可能使用来自多个提供商的模型来完成。而且,在大宗商品市场中,实现盈利的途径不是通过收取更高的价格——再说一次,你可以(或者很快就能)使用多个模型制作完全相同的应用程序——而是通过拥有更优越的成本结构。
理解大宗商品市场
这里值得梳理一下其运作机制,因为正如我几个月前在《Amazon’s Durability》一文中指出的那样,科技界人士通常并不熟悉大宗商品市场的动态:
需要理解的关键点是,生产商品的边际成本因供应商而异。这在实践中意味着,成本结构最差的供应商最终只能以自己的边际成本出售商品(前提是他们还能生产);其他所有人的利润则取决于其成本结构优于边际供应商的程度。
举个例子:
假设价格弹性使得在 20 美元的价格下,市场对该商品有 25 件的需求。这意味着:
这并不完全准确:供应商 C 之所以会承担产量缺口,是因为供应商 A 和 B 能够在价格上略微压低他们,这当然会影响需求(需求是有弹性的),但这足以说明问题。供应商 A 拥有一门极好的生意,供应商 B 拥有一门好生意,而供应商 C 即将破产。
破产风险正是固定成本重新成为焦点之处:供应商 C 既有固定成本(如潜在的研发支出),也可能为了给生产该商品所需的设备融资而背负债务。它无法在定价时将这些成本考虑在内——记住,市场出清价格近似于满足需求所需的最高成本单位的边际成本——但这些成本绝对能将供应商逼上绝路。而且,如果该供应商倒闭,价格就会上涨,直到另一个供应商决定进入市场(或者现有供应商扩大产能)。
智能市场
让我们回到模型上来。目前,上述分析并不适用,因为前沿模型供不应求,且供给受限于算力不足。这种算力短缺不仅意味着像 Nvidia 这样的算力供应商能获得极高的利润率,也意味着 Nvidia 的客户(如 SpaceXAI)能够转手以高利润率将算力倒卖给像 Anthropic 这样的公司。同时,Anthropic 能够承受这种加价,因为他们能以更高的加价出售 tokens。
然而,赋予 Anthropic 极高利润率的不仅仅是超额需求:得益于模型能力、服务规模和 token 效率,Anthropic 和 OpenAI 很可能在单位前沿级智能的成本上是最低的。他们比竞争对手提前数月提供特定能力水平的模型,并同时应用最优秀的模型来优化这些成本。
同样值得注意的是,市场目前尚未将智能视为商品:需求专门针对 Anthropic 和 OpenAI,而对表现较差的模型需求则少得多(因此 SpaceXAI 和 Meta 会将产能出售给 Anthropic);理解优化成本这一趋势的一种方式是,它是按智能水平来定义“待办任务”(jobs-to-be-done)的函数,从而使智能买家能够创造出一个智能被商品化的市场。然而,从长远来看,无论谁处于前沿,都最有能力主导非前沿市场,这些市场不过是前沿水平倒退了 n 个月的状态,即前沿模型制造商一直在优化其服务成本的这几个月。
综上所述,我认为对 Kimi 以及中国模型的反应有些过度了,至少从经济角度来看是这样。目前存在一个由于算力不足而产生的价格保护伞;我非常怀疑中国模型在边际成本上是否真的更便宜,它们看起来便宜只是因为 Anthropic 和 OpenAI 的供应受到严重限制,导致他们的收费远高于在算力供应充足以满足智能需求时的水平。
前沿实验室的恐慌
那么,为什么模型制造商尤其是对中国的模型显得如此恐慌呢?
首先,我认为前沿实验室的思维仍停留在以训练成本主导财务模型的世界里。只要训练比推理消耗更多的 GPU,最大化推理收入来为下一次训练提供资金就至关重要,这意味着推理需要收取极高的价格。
然而,展望未来,我预计推理市场的增长速度将远超训练成本(这甚至是在假设训练成本将继续飙升的前提下),这意味着他们确实可以通过规模来弥补利润。就在八个月前,情况是否如此还不明朗,但智能体范式的解锁是如此巨大,以至于前沿实验室应该更有信心,他们不仅能以更低的价格生存下来,还能蓬勃发展(一旦他们拥有足够的算力)。
其次,智能实际上并不是完美的商品,部分原因是应用智能会使自身变得更聪明。具体来说,运行推理的人也在收集数据,而这些数据将用于改进下一版本的模型。一方面,随着更多算力上线,这更是前沿实验室降低价格、增加使用量的理由;另一方面,这也是为什么像 Microsoft 这样的公司越来越热衷于帮助企业运行自己的模型。如果中国模型是一个可行的替代方案,这将会变得更加切实可行。
第三,前沿实验室不仅能与中国模型区分开来,还能彼此区分开来的另一种方式是继续向上整合到客户体验中。令人惊讶的是,Claude Code 和 Codex 表现出了极强的用户粘性;你一开始使用哪种工具,很可能就会一直用下去,对于非技术用户来说,情况更是如此。而且,从长远来看,这种向上层技术栈发展的必然性确实意味着前沿模型绝对是对软件提供商(包括 Microsoft)的威胁。另一方面,目前掌握客户体验的软件公司能在多大程度上获取有竞争力的模型,就能在多大程度上抵御前沿实验室的入侵。
最后,特别是 Anthropic 的意识形态角度是不容忽视的。这是一家认为只有自己才值得托付 AI 的公司,而开放权重替代方案的存在对这种假设构成了致命打击。
中国的动机
Kimi 并不是唯一的中国新模型;来自 Bloomberg 的报道:
阿里巴巴集团控股有限公司股价周一上涨高达5.4%,此前该公司发布了其旗舰模型 Qwen3.8 Max 的预览版,并将其描述为仅次于 Anthropic PBC 的 Fable 5。周日的发布距离初创公司 Moonshot AI 推出一款搅动市场并引发美国对中国缩小与 Anthropic 和 OpenAI 等全球领先者差距担忧的强大新产品仅几天时间。Qwen3.8 Max 拥有2.4万亿参数,与 Moonshot 的 Kimi K3 一同跻身重量级阵营。拥有2.8万亿参数的 K3 可与顶级模型相媲美,而阿里巴巴也设定了同样高的期望。开发者现在可以通过阿里巴巴的编程平台(包括 Qoder)访问 Qwen3.8 Max。阿里巴巴计划很快将该模型开源权重,将访问范围扩大到预览版之外。对这些中国制造的人工智能系统和模型的兴趣如此之高,以至于 Moonshot 被迫在周日深夜暂停接受新订阅,以应对激增的需求。
Qwen3.8 Max 也将开放权重这一事实值得注意。阿里巴巴今年早些时候停止了对其前沿模型发布权重,但似乎已经恢复了这一做法;我怀疑这种转变与上周习近平关于人工智能的讲话有关,该讲话强调了开放权重的方法:
我们应该坚持开放共赢的原则,促进创新驱动发展。作为世界经济增长的新引擎和增长动力转换的加速器,人工智能正在从数字世界走向物理世界。我们应该抓住这一难得的历史机遇,鼓励开源、开放、协作和共享。我们应该促进人工智能的技术创新、产业发展和基于场景的应用。我们应该统筹推进传统产业的转型升级、新兴产业的培育壮大以及未来产业的前瞻布局,让各行各业都能从人工智能中受益。
中国的战略显而易见:将互补品商品化。请注意,习近平明确将开放与人工智能“从数字世界走向物理世界”联系起来;物理世界是中国占据主导地位的世界,而该国在机器人等领域的领先地位将极大地受益于广泛可用的人工智能模型。
同样地,中国不希望美国在人工智能领域获得非对称优势;在某种程度上,中国能够削弱美国的前沿实验室,同时增强所有潜在的美国对手,那就再好不过了,而且它还能从依附于开放生态系统的创新中获益。
蒸馏问题
同理,不要指望中国会对针对前沿实验室的蒸馏攻击采取任何行动。我认为将中国实验室的所有成功都归因于蒸馏是错误的,但假装蒸馏没有给中国实验室带来巨大优势同样是错误的。随着后训练强化学习对模型性能变得越来越关键,这种优势在过去一年中真正显现出来。中国实验室无需从头构建强化学习环境,只需将前沿实验室的模型作为教师模型,就能以低得多的成本实现快速提升(这并不是中国模型开发成本更低的唯一原因,但却是一个重要原因)。
有趣的是,中国模型在西方最重要的用例之一正是蒸馏本身。例如,刚刚发布了开放权重模型的 Thinking Machines,就依赖中国模型来解决强化学习的冷启动问题。Dean Meyer 和 Konstantine Buhler 在 X 上发表了一篇精彩的文章,解释了蒸馏意味着西方开放权重模型相对于中国从根本上处于劣势:
蒸馏并不能完全解释中国在开放模型领域的领先地位。中国实验室拥有世界级的研究人员、庞大的算力、强大的预训练模型、软硬件协同设计以及快速提升的后训练能力。但蒸馏压缩了从强大的基础模型到接近前沿系统之间代价高昂的最终差距。即使蒸馏在中国模型总能力中所占比例较小,它也占据了其相对于美国开放模型优势的很大一部分。 新的执行机制将使中国公司的大规模蒸馏变得更加困难、缓慢和昂贵。然而,执行机制无法消除由国家行为者支持的蒸馏。因此,西方前沿的每一次进步都为中国实验室创造了另一个“老师”。西方构建者要么必须独立重现这些能力,要么只能等待从中国模型中学习。这种差距赋予了中国实验室相对于西方公司持续的结构性优势。
这一点值得反复强调:由于美国开放权重模型制造商必须遵守前沿实验室的服务条款,他们(1)比中国同类产品表现更差,并且(2)最终变成了对蒸馏的蒸馏,只是绕道经过了中国实验室。如果西方开放权重模型制造商能够直接从源头获取,难道不是更好吗?
为此,围绕蒸馏有一个更有趣的问题:它到底为什么不好?毕竟,大型语言模型不就是对开放互联网上所有知识的蒸馏吗?这些知识被前沿实验室抓取并蒸馏到模型中,而这些模型本身又在被蒸馏。这里到底是谁受到了损害?
事实上,这个悖论正是解决方案。我认为开放权重模型有利于创新(而且如上所述,我认为前沿实验室也会安然无恙),但依赖中国是一个问题。美国应该通过一项法律,(1)明确指出为训练模型收集数据属于合理使用,并且(2)至少对美国公司而言,禁止服务条款中禁止蒸馏的条款。阻止蒸馏——实际上就是查询 API——几乎是不可能的;美国应该反其道而行之,采取一项新的版权政策,既保护实验室免受责任追究,又保证他们所学到的东西能为其他所有人的进一步创新提供动力。
值得担忧的原因
本文整体上是在化解对 Kimi K3 以及中国开放权重模型的过度反应;然而,有一个令人担忧的原因,那就是网络安全。看看 The Stack 的这篇报道:
Hugging Face 表示,上周早些时候其生产基础设施遭到一个“自主” AI 智能体系统的入侵。该平台的安全团队表示,他们最初在事件响应 (IR) 中受到了未具名的美国 LLM 前沿模型护栏的阻碍,“这些护栏无法区分事件响应者和攻击者”。因此,Hugging Face 的防御者转而使用来自中国 Z.ai 实验室的开源 GLM 5.2 模型——在他们自己的基础设施上运行它,以分析攻击者留下的 17,000 多条日志或痕迹。对于总部位于纽约的 Hugging Face 来说,这是一项引人注目的公开承认,该平台允许用户在模型、数据集和应用程序上进行协作,并在今年夏天达到了 1 亿美元的 ARR 里程碑。在一份事件报告中,该公司建议防御者“拥有一个可以在您自己的基础设施上运行的强大模型[我们的斜体],并在事件发生前经过审查和准备就绪,这既是为了避免护栏锁定,也是为了防止攻击者数据和凭据离开您的环境。”
特朗普政府对 Anthropic 发布 Fable 的恐慌性反应有多么愚蠢,怎么强调都不为过,特别是因为它加剧了 Anthropic 最坏的倾向,即认为只有他们才能被信任来掌握强大的 AI。在一个只有一个 AI 的世界里,将最强大的网络安全能力保留给美国政府和值得信赖的盟友可能是有意义的;然而,那并不是我们生活的世界。
现在已经有,而且将来也会有能够对现有基础设施发起网络安全攻击的模型,并且这些模型将会——而且已经——被广泛使用。最好的防御——事实上也是唯一可行的防御——将是确保防御者也能使用最好的模型。由于特朗普政府的指令,现在防御者实际上被禁止将 Fable 或 Sol 用于网络安全;这意味着最好的替代方案是使用来自一个多年来一直试图削弱我们网络防御的国家的模型。这太疯狂了!
更好的路线很明确:首先,放宽对 Fable 和 Sol 在网络安全方面的限制,其次,确保美国开放权重模型制造商与中国处于平等的竞争环境中。是的,前沿实验室会对此大吵大闹,但政府应该意识到,听从他们的歇斯底里已经使美国处于一种美国公司在防御上依赖中国的境地。让前沿实验室通过做得更好来获胜;不要让他们定义安全或保障,也不要撤走人类集体知识的阶梯。与中国竞争已经够难了;让他们高举开放和创新的旗帜简直就是把我们最大的优势拱手让人。
需要完整排版与评论请前往来源站点阅读。