关于“AI 重大问题”征文比赛的获奖文章The Winning Essays for the Big Questions About AI

两个月前，我提出了一些关于 AI 的重大问题。本次比赛我们收到了 600 篇投稿。以下是 3 位获奖者的简介，随后附上这 3 篇完整的文章。感谢所有参与者！

第一名 - Jassi Pannu

Jassi Pannu 是约翰斯·霍普金斯大学的助理教授，主要研究生物安全和流行病防备。她是 Blueprint Biosecurity 的董事会成员。

Jassi 回答了关于 OpenAI Foundation 应该做什么的问题。她极具说服力地论证了我们可以生活在一个没有疾病的世界，并就如何向该项目投入数百亿美元提出了非常具体且深思熟虑的想法。

第二名 - Ege Erdil

Ege Erdil 是 Mechanize 的联合创始人，这家初创公司致力于为前沿编程智能体构建环境和评估机制。他曾是 Epoch AI 的研究员。

Ege 回答了关于处于 AI 供应链之外的国家应该采取什么措施，以避免在变革性增长中被彻底边缘化。

他指出，这些国家应集中精力实施那些在促进增长和提高生产力方面已经卓有成效的政策。这些策略（强有力的产权保护、较低的资本税和开放的监管体制）在未来将变得更加重要，因为在那样的环境下，实施这些策略所能拉动的增长差距将远超当今可能的水平。

我喜欢 Ege 文章的地方在于，从某种意义上说，他给出了非常常识性的建议（这与许多其他申请人提出的脑洞大开的计划形成鲜明对比——有一份申请甚至建议中等国家通过威胁用核武器摧毁中国和美国的晶圆厂和数据中心来进行敲诈勒索）。但实际上，正是这种更加脚踏实地且历久弥新的建议，让人感觉最为反常规。而且它也更有可能奏效。

第三名 - Michael Li

Michael Li 是哈佛大学肯尼迪学院的公共政策硕士候选人。他撰写了《Ceteris Paribus》——一个探讨新兴科技、经济学与政策交叉领域的博客。

Michael 探讨了实验室将如何真正实现盈利。他的文章之所以入选，是因为他在 AI 实验室与香港地铁（MTR）的商业模式之间建立了一种独特的类比——即使你的主要产品消耗了巨额的资本支出（CapEx）且无法直接收回成本，也许你可以通过买断所有互补资产来弥补亏损。就香港地铁而言，这些互补资产就是周边的房地产——我不知道这对于 AI 实验室来说会是什么样子，但这确实是一个值得深思的有趣类比。

我会以国家级规模的行动来运营该基金会，以终结空气传播。

AI 带来的最大社会福祉（治愈疾病）和最致命的尾部风险（ engineered pandemics，即人造流行病）都与生物学息息相关。通过彻底遏制空气传播病原体的传播，我们将释放每年超过 1 万亿美元的全球 GDP（通过终结季节性流感等疾病、日益与病毒感染相关的慢性病、生产力损失、医疗保健成本等来实现），并将发生灾难性流行病的可能性彻底清零。

双重回报原则：大多数“让 AI 发展顺利”的干预措施是对抗不良后果（尤其是尾部风险）的保险。我的元层级论点是，将资金转化为影响力的最佳方式，是找到那些在两种情境下都能产生巨大回报的干预措施：不仅在日常世界中带来福祉的阶跃式提升，而且在紧急情况下大幅降低尾部风险。我在下文描述的生物韧性干预措施就是最好的例子。

面向生物学的 AI 处于通向治愈疾病的关键路径上，但破坏性能力将提早显现。

使用 AI 自动化并扩展生物研究过程的每一个步骤，包括管理该过程本身（我将其称为“自主生物学发现”），将使人类更接近一个无疾病的世界。在超过40亿年的时间里，生命一直在极其微小的一组可行、相连且适应度为正的路径上进行随机游走。用于自主发现的多组件 AI 反馈回路（包括生物基础模型和大规模的系统性湿实验室实验）将使我们能够探索更多可能的生物设计空间。虽然我们最感兴趣的是预测和设计多细胞系统，但操纵更简单病原体的破坏性能力很可能会先出现。这带来的挑战是，AI 赋能的攻击（引发疫情）将比防御容易得多，因为防御仍将受到物理世界部署的限制；我认为这使得已经嵌入我们基础设施中的预先部署的防御技术占据优势。

利用物理基础设施，我们有一条明确的路径来终结空气传播。

然而，无论你对上述观点有何看法，仅凭日常益处就足以证明终结空气传播是极其合理的。呼吸道感染会导致急性疾病和生产力损失，并且越来越多地被发现与痴呆症、心血管疾病等相关；甚至“正常”的儿童呼吸道感染也被证实与长期的神经发育结果有关。

在评估了多种方法之后，我认为通过一种特定的、未被充分重视的方法，终结空气传播比大多数人所意识到的更为可行。我现在正坐在一栋大楼里，它为我提供无病原体的水，保持我的食物冷藏且无病原体，帮我加热食物以消除病原体，并排走污水。我们在周围已经部署了各种技术，从而创造了一个告别霍乱、伤寒和痢疾的世界。

现有一种被动的、不依赖特定病原体（对任何病原体均有效）的物理基础设施技术，能够让我们的建筑完全免受呼吸道病原体的侵害，例如发射对人类安全但对病菌致命的特定波长灯具（称为 far-UVC）。几十年来，研究人员一直推测这些技术能够大规模发挥作用；我们尚未部署它们的原因主要并非技术层面的。请参考以下这个类比案例。

我们现在生活在一个已经消灭天花的世界里。这是人类最伟大的成就之一。我们花了多长时间才做到这一点？1796年，詹纳证明了疫苗接种可以预防天花。171年后的1967年，D.A. Henderson 发起了最终成功消灭天花的运动。在这段时间里，人类发现了电磁学、热力学和广义相对论，距离登月也仅剩两年。天花在短短10年内（在技术进步有限的情况下）就被消灭了。消灭天花、普及清洁水和巴氏杀菌牛奶方面的延误，并非由于缺乏技术进步；它们主要是由缺乏政治意愿所加剧的市场与协调失灵。这就是为什么这个问题如此具有“慈善属性”。

终结空气传播的 4 个步骤

总计：10年内投入约 400 亿至 600 亿美元用于终结空气传播的物理基础设施；OAIF 剩余的资金将用于符合双重回报原则的其他干预措施。到第 10 年，OECD 国家的每所小学和主要交通枢纽都将默认运行被动病原体减少基础设施。季节性流感死亡率降低 60%。呼吸道病原体引发大流行规模传播的概率降低一个数量级。

我认为，很少有国家（无论是否处于 AI 供应链中）能超越这样一个良好的基准：“什么都不做，并无视要求采取激进措施的民粹主义压力”。

这是因为人们在技术上天生保守，并且讨厌导致失业的经济动荡。AI 对人类劳动力的全面自动化将带来快速的技术和经济进步，从而导致所有人类失去工作。因此，默认的预期应该是，AI 自动化时代的政策制定将是极其不理智且适得其反的。

抵制这种政治压力对于即使是最运转良好的政府来说也已经够难了。指望那些过往表现不佳的政府（如印度和尼日利亚）做得更好是不切实际的。

AI 时代的良好政策是什么样的？

在给出了这个基本但平淡无奇的答案之后，我现在将详细说明我真正认为在 AI 自动化时代对于良好政策制定至关重要的因素，尽管在实践中这不太可能对政策决策的方式产生多大影响。

如今，一个国家的经济产出取决于其自然资源的禀赋、拥有的物质和人力资本数量，以及有效利用这些资源的效率。AI 带来的主要转变将是人力资本将从这个等式中消失。如果一个国家想在劳动力全面自动化后的世界中表现出色，它们就需要更多的自然资源、更多的资本，或者更有效地利用这些投入的能力，即更高的全要素生产率。

虽然产出的资本弹性将主导任何其他生产要素，但一个国家最终能拥有多少资本本身是内生的。资本比劳动力更容易跨境流动，它很可能会流向与之互补的要素（即全要素生产率和自然资源）丰富的地方。

因此，我认为 AI 时代良好政策的支柱包括尽可能朝着以下方向发展：

这些建议听起来有些极端，因为人类出于本能更喜欢有利于劳动力而非资本的政策。在我们当今资本产出份额仅占 30% 左右的世界里，这已经引发了问题；但在劳动力被淘汰、资本产出份额大幅提高的未来世界里，它很可能会成为一个致命的障碍。

如果一个目前状况不佳的国家成功做到了这些，它们将吸引极其庞大的外部投资，并在 AI 实现全球经济自动化的几十年里发生蜕变。它们以前没有 AI 实验室或估值达万亿美元的晶圆厂公司，这一事实将变得无关紧要，因为正是这些公司此时正在将其护城河（即人力资本和组织知识）自动化并淘汰。

这会发生吗？

可能不会。正如我所说，相关国家的机能严重失调，无法采取这些激进的改革；而目前处于 AI 供应链中的国家（如美国和中国）在我列出的这些指标上，表现已经优于其他国家。

然而，对于处于 AI 供应链之外的国家来说，仍然有一线希望：现有主导者可能会搞砸。这并非完全不可能，因为工业时代的政策质量与 AI 时代的政策质量不会有太强的相关性，就像世界上最好的采集经济并不是最好的农业经济，而最好的农业经济也并不是最好的工业经济一样。

具体来说，现有主导者可能会将关键行业的 AI 自动化定为非法、放缓数据中心的建设、剥夺资本持有者的权益、对在医疗和法律等关键行业部署 AI 智能体施加严格的安全标准等等。在即将到来的一段极度非理性时期，他们可能会犯下的错误几乎没有底线。如果一个平庸的国家能够坚持住，不犯下任何大错，那么在度过这个时期后，它们的相对处境可能会比开始时好得多。

一家地铁公司解开了 AI 的商业模式

有这么一个行业，其经济学特征如下：在赚到第一块钱之前，需要数十亿美元的先期资本投入。核心服务的定价接近边际成本。为用户创造了巨大的价值，但建设者几乎无法从中获取收益。面临着不断投资下一代基础设施的巨大压力。我说的不是 AI 实验室，而是香港的 Mass Transit Railway。

在讨论 AI 的商业属性时，许多人都会借用铁路来作类比。大多数人得出的结论是，其经验教训在于，对于具有公共物品属性的通用技术，其商业可行性需要国家的补贴。

我想对此提出质疑，因为香港的港铁（MTR）实际上已经解决了这个问题。它是全球极少数能在商业上实现自给自足、公开上市、派发股息且无政府运营补贴的大众捷运系统之一。

两者的财务结构本质上是相同的。

港铁的核心铁路业务从未实现过自我扩张式的资金供给。在2018年（即疫情前业绩最好的一年），其客运业务的息税前利润（EBIT）为20亿港元。而预计2024至2026年的资本支出高达879亿港元，且几乎全部与铁路相关。按其巅峰期的盈利水平计算，三年的铁路利润总和也只能覆盖这笔支出的8%。铁路从未通过票价收回成本，它的设计初衷也并非如此。

通过政府的票价调整机制，港铁的票价保持在大众可承受的范围内。你无法通过公共交通定价来收回全部建设成本，因为那样票价将变得难以承受，从而违背了公共交通的初衷。每条铁路线或许能覆盖其运营成本，但票价收入永远不足以延伸到为下一条线路提供资金。AI API的定价从另一个方向面临着同样的制约。模型蒸馏和开源替代方案使API价格每年大约下降10倍，任何定价高于边际成本的实验室都会将市场份额输给竞争对手。每个模型在推理阶段或许能实现运营盈利，但这种利润永远不足以支撑下一次模型训练的投入。

全球范围内的标准解决方案是提供补贴。伦敦地铁（London Underground）需要伦敦交通局（TfL）数十亿美元的拨款。中国国家高铁背负着万亿美元的债务，且94%的路线处于亏损状态。AI也正走在同样的轨迹上：《芯片法案》（CHIPS Act）、星门（Stargate）、主权财富基金投资以及五角大楼的合同。其最终的默认归宿都是依赖补贴的准公共基础设施。

但港铁找到了另一条出路。

铁路加物业

1979年建设港铁时，其设计者就明白，单靠票价永远无法收回建设成本。因此，他们围绕一个不同的前提构建了公司的架构：铁路线会使周边土地升值。所以，要拥有这些土地。

港铁在车站上方及毗邻区域开发住宅大楼、办公楼和购物中心，从而捕获由其自身基础设施创造的土地增值。房地产利润交叉补贴了铁路运营，并为下一条线路的建设提供了资金。如今，港铁拥有13个购物中心，管理着47个车站上盖开发项目，房地产业务创造了其大部分实际利润。不要试图通过铁路服务本身来获取价值。而应去拥有那些因铁路服务而升值的资产。

AI领域的类似之处

“实验室什么时候能赚钱？”与“铁路什么时候能通过票价收回成本？”具有相同的逻辑结构。答案是都不能，而且这本身就是个错误的问题。

一家生物技术初创公司使用前沿模型筛选药物化合物，使临床试验的时间缩短了两年。一家物流公司利用它来优化路线规划，节省了4000万美元的燃料成本。一个独立开发者在周末就发布了产品，而这在过去需要一个五人团队耗费三个月的时间。在上述每种情况下，模型提供商只能通过API费用获取千分之几的收益。提供商无法收取更高的费用，因为还有另外四家实验室和十几个开源替代方案能提供相当的能力。剩余的价值都流向了用户和更广泛的经济体。这就是通用目的技术的作用。蒸汽机、电力和TCP/IP并没有为它们的创造者带来任何直接收入。

港铁带来的启示：不要再试图让票价覆盖建设成本。去寻找你的“物业”。

四个候选方案，按防御性排序

政府授予的部署权排在首位。政府授予某家实验室对国家健康档案、税务系统或国防物流的独占部署权限。该实验室由此积累起领域数据、集成深度和合规资质，这些需要数年才能复制。这正是港铁（MTR）自身的运作机制：由国家授予开发权，其正当性源于自然垄断属性。

其次是积累的强化学习奖励数据。数十亿交互信号用于训练下一代模型。与模型权重（会通过蒸馏而贬值）不同，强化学习数据几乎不可复制，且能跨代复利增长。它不直接转化为收入，但它是土地储备——持续升值，尚未开发。

第三是前沿部署式集成。与其将模型访问权卖给一家攫取生产力红利的咨询公司，不如端到端地掌控服务交付。就像 Palantir 将工程师嵌入政府机构内部，而不是授权软件。实验室不向律师事务所收取 API 费用。实验室本身就成为法律研究服务，按交付成果而非按 token 定价。随着领域数据和机构知识的积累，转换成本不断叠加。这就是 MTR 的购物中心：捕获轨道带来的客流，而非向乘客收取更高的车费。

第四是国家数据集的数据托管权。政府掌握着大量未被充分利用的数据（病历档案、纳税申报）。被指定为托管方的前沿实验室获得独占权限，可以基于这些数据训练模型并构建产品。这种稀缺性是真实的，其逻辑与 MTR 的土地如出一辙。你不会希望五家竞争实验室同时访问五千万份病历，就像你不会希望五个开发商在同一块地上建房一样。但这会形成公私数据垄断，需要审慎的治理：明确使用边界、收益回馈公众、独立监督以及对滥用的实质惩戒。

视角重构

最终存活的实验室不会是那些让 API 盈利的实验室。而是那些识别出车站上方的物业，并现在就开始建设的实验室。API 就是轨道。它永远不会足够盈利。钱在于围绕它而升值的东西。

随之而来的政策问题是：政府不应补贴训练算力，而应设计制度机制（部署权框架、数据托管结构、生产力度量标准），让实验室能够捕获其基础设施所创造的红利。

还有一个最终的讽刺。AI 政策讨论被中美框架所主导。美国自由市场实验室对抗中国国有资本扶持的龙头企业。但最相关的制度模式可能两者都不是。它可能是香港的模式：一个有45年历史的公私合营混合体，商业化运营，通过制度设计而非意识形态实现自负盈亏。让前沿 AI 可持续发展的模式或许已经存在。只不过它运行的是火车。

暂无帖子