Nilay Patel：警惕‘软件大脑’思维Nilay Patel: ‘Beware Software Brain’

今天，在《解码器》节目中，我想提出一个想法。过去几周，随着我们报道人工智能并在此节目中展开讨论，这个想法一直在我的脑海中盘旋。我称之为“软件大脑”——这是一种将一切纳入算法、数据库和循环（即软件）的世界观。

软件大脑非常强大。它是一种思维方式，正是这种思维塑造了我们现代世界。2011年，软件大脑的化身马克·安德森（Marc Andreessen）在《华尔街日报》发表了一篇评论文章《为什么软件正在吞噬世界》，正式提出了这一概念。但如今，人工智能正以前所未有的方式加速了这种软件思维模式的发展，我认为这有助于解释科技行业对这项技术极度兴奋与普通人日益增长的厌恶感之间巨大的鸿沟。

事实上，相关民调数据非常明确，我认为可以说，很多人实际上讨厌人工智能，尤其是Z世代，随着他们不断接触AI，这种厌恶情绪愈发强烈。NBC新闻的一项民调显示，AI的支持率甚至低于ICE（移民海关执法局），仅略高于伊朗战争和民主党整体形象。值得注意的是，近三分之二的受访者表示上个月使用过ChatGPT或Copilot。奎尼皮亚克大学最新民调发现，超过一半美国人认为AI弊大于利，而80%以上的人对这项技术感到担忧（其中绝大多数人非常担忧）。仅有35%的人对此感到兴奋。

多项民调一致显示，Z世代使用AI最频繁，对其负面情绪也最强烈。盖洛普最新民调发现，仅18%的Z世代对AI抱有希望，较去年本就糟糕的27%进一步下滑。与此同时，愤怒情绪却在上升：31%的Z世代受访者表示对AI感到愤怒，较去年的22%显著增加。

显然，我在《解码器》中采访过许多科技公司高管和政策制定者，我可以肯定地说，他们都清楚AI并不受欢迎，并且能真切感受到这种情绪在现实生活中的体现。微软CEO萨蒂亚·纳德拉（Satya Nadella）就曾谈到，科技行业需要为在AI领域的投资争取社会认可：

萨蒂亚·纳德拉：归根结底，我认为我们这个行业——我所属的行业——必须赢得社会对我们消耗能源的认可，因为我们正在为世界做好事。

我认为可以肯定地说，科技行业和AI至今尚未赢得任何社会许可。两党议员都反对数据中心扩建项目。支持建设数据中心的当地政客接连落选。最令人心寒的是，政治暴力已成为美国日常生活的一部分，那些支持数据中心的政客住宅遭到枪击，OpenAI CEO山姆·奥尔特曼（Sam Altman）的住所也曾遭遇燃烧瓶袭击。

我必须再次在节目中强调这一点，令人难过的是，我也预料到会有评论者持不同意见。但必须指出，这种暴力行为是不可接受的。如果你想真正有效地反对AI，并让这种反对持续下去，就应该用市场中的金钱、网络上的注意力以及手中的选票大声发声。你应当积极参与民主监管和政治进程。任何其他方式都将被忽视，并陷入恶性循环。而这种忽视已经发生。

我也认为，我们的政治家和科技高管们有责任确保我们的政治进程让人感觉是赋权的，而不是无助的——这是一种他们共同极大助长的虚无主义。这种暴力正是源于那种无助和虚无感，而社会上最有权势的人应该正视这一点，尤其是当他们四处宣扬AI将取代所有工作时。我这么说绝非夸张——以下是Anthropic CEO Dario Amodei的原话：他认为AI会取代所有工作：

Dario Amodei：像金融、咨询、科技等行业中的初级岗位——也就是初级的白领工作——我担心这些工作首先会被AI增强，但很快就会被AI系统取代。我们或许确实会面临一场严重的就业危机，因为这类初级白领工作的招聘管道正在收缩甚至枯竭。

当我看到这类视频片段时，我感受到的是科技行业与普通民众在AI认知上的真正鸿沟——也就是“软件脑”的局限。正如我之前所说，科技圈的人都明白普通人有多讨厌AI。但他们没意识到的是，为什么。他们认为这只是个营销问题。OpenAI刚刚花了2亿美元做TBPN播客，就是因为他们觉得这能帮人们更喜欢AI。Sam Altman也明确说过：

Sam Altman：哦，他们真是天才的营销者，我真的很想要更好的营销。最近有人跟我说，如果AI是一个政治人物，那它将是历史上最不受欢迎的政治候选人。考虑到AI能做到的神奇事情，我觉得AI的营销确实需要做得更好。

感觉就是得有人把话说清楚，那我就来说吧。AI并没有营销问题。人们每天都在亲身体验这些工具！ChatGPT每周有9亿用户，正朝着十亿迈进，每个人都在Google搜索里见过AI概览，也在信息流里看到了大量由AI生成的内容。

你不可能靠广告让人们对自己的亲身经历做出反应。这就是拥有“软件脑”的科技人士看待世界的方式与普通人真实生活之间的根本脱节。

图片：The Verge

那么什么是“软件脑”呢？我目前最简单的定义是：当你把整个世界看作一系列可以用结构化编程语言控制的数据库时，你就有了软件脑。就像我之前说的，这是一种强大的思维方式。我们的生活中有太多东西都运行在数据库之上，许多重要公司也是围绕维护这些数据库并提供访问而建立的。

Zillow是房子的数据库。Uber是车和乘客的数据库。YouTube是视频的数据库。《The Verge》的网站是新闻故事的数据库。你可以一直列举下去。一旦你把世界看作一堆数据库，你就会觉得只要掌控了数据，就能掌控一切。

但这并不总是行得通。举个实例：埃隆·马斯克和DOGE团队进入政府后，第一件事就是接管了大量数据库。他们很快遇到了一个不可否认的事实——这些数据库并非现实本身，而DOGE最终也以滑稽的方式宣告失败。原来，软件思维是有局限的——政府不是软件，人也不是计算机，他们不会生活在可以被 neatly captured（整洁地捕捉）进数据库的自动化循环中。

任何真正管理过数据库的人都知道这一点。到某个节点，数据库就会与现实脱节。这时我们通常只能调整数据库，而不是去改变世界。但AI行业已经完全忽视了这一点，因为AI依赖数据而生。毕竟它只是软件。于是要求变成了：越来越多人的生活要符合数据库的设定，而不是反过来让数据库适应生活。

让我再举一个我经常思考的例子，尤其是在AI作为商业工具越来越有实际用途的背景下。人们常说AI将取代律师和法律体系。AI行业很喜欢鼓吹“不再需要律师”，这已经让很多人陷入各种麻烦。但我理解这种说法。我和律师打交道的日子不少。我本人曾是律师，妻子现在仍是律师，最好的朋友中也有律师。

Verge 订阅用户别忘了，你们享有独家无广告版《Decoder》播客的访问权限，无论你在哪里收听。点击这里。还不是订阅者？可以在此注册。

我在工作中也整天和技术人员打交道。久而久之我发现，软件思维与律师思维之间的重叠非常、非常深——甚至可以说是诱人地深刻。如果说软件思维的核心是用结构化代码语言来驱动现实世界的变化，那么律师思维的核心就是用成文法和引证构成的法律语言来实现同样的效果。更不用说它还能赋予你影响社会的权力了。

两者还有很多共通之处。软件开发和法学都高度依赖先例。我国有成体系的判例法，被反复引用以解决纠纷；同样，软件工程师也会不断调用代码库来搭建产品基础。相似性不止于表面：归根结底，律师和工程师都在努力运用形式化、结构化的语言，引导复杂系统按可预测甚至有利的方式运行。

（顺便说一句，我可不是第一个提出这个观点的人。劳伦斯·莱西格早在2000年就写过一本叫《Code and Other Laws of Cyberspace》的书，时至今日依然和二十五年前一样发人深省。）

法律与代码之间这种令人着迷的相似性，常常让人误入歧途。人们总试图像对一台听话的计算机下达指令那样，向整个社会发号施令。这样的例子有大有小——我最喜欢的是那些转发给朋友的Facebook帖子，坚称马克·扎克伯格无权发布他人照片。说真的，我看着这些内容，会想如果法律真的能像代码一样运作，会不会更清晰可控呢？

但法律实际上并不是代码，社会和法律机构也不是计算机。我不得不反复提醒 Decoder 和 The Verge 上那些相当技术背景的朋友们：法律并非确定性的。你根本无法仅凭案件事实和成文法就准确预测判决结果——尽管法律体系的正式性让人误以为它像计算机一样运作，具有可预测性。

然而归根结底，正是这种模糊性构成了我们整个法律体系的核心。正是这种模糊性让律师成为律师。说真的，也正是这种模糊性让人讨厌律师——因为总能找到辩词，也总能钻法律的空子。正因如此，检察官最终可能变成辩护律师，而我们的监管机构也往往最终为大企业服务。

在这里，你可以清晰地看到软件思维与律师思维之间的明显冲突。这个看起来像计算机的东西，实际上根本不像计算机。许多人甚至主张法律应该更像计算机，系统应当可验证、一致，只要输入正确的指令，就能得出客观正确的结果。

前密歇根州最高法院首席大法官布里奇特·麦科马克（Bridget McCormack）几个月前在 Decoder 节目中表示，她正在推广一个完全自动化的 AI 仲裁系统。她的论点是：人们认为传统法律体系如此不公，因此只要感觉被倾听，他们宁愿接受自动化系统给出的较差结果，也觉得更公平。而 AI 能做到的，恰恰就是全天候安静地倾听。

我不知道这些观点是否正确或可行，但我了解软件思维——那种认为我们可以强迫现实世界像计算机一样运行，然后由 AI 发出指令的纯粹软件逻辑。

这种现象在其他行业同样普遍存在。你不会聘请大型咨询公司来真正深入你的业务并提升效率，而是让他们制作幻灯片，向董事会和股东证明裁员是合理的。大型咨询公司很擅长此道，现在它们正用 AI 生成这些幻灯片，裁员已经开始了。

任何看起来像代码重复调用数据库的业务流程都面临被取代的风险。这就是为什么 Anthropic 一直专注于企业级客户，也是 OpenAI 如今转向企业应用的原因。将 AI 引入企业确实有价值，因为现代商业大部分已经是软件驱动：不断收集数据、分析数据并采取行动。企业还掌控自己的数据，并能要求所有数据库协同工作。

长期以来，软件思维主导了商业世界。AI 只是让越来越多的人能够以前所未有的规模编写软件，让各类企业都能用软件自动化其大量业务流程。AI 无处不在：广告营销最前沿的领域就是自动化，而不是创意。

但并非所有事情都是商业，并非所有事情都是循环！人类经验无法被完全装入数据库——这正是软件思维的极限所在。这也是人们憎恨 AI 的原因——它把人扁平化了。

普通人根本不会把写代码看作一种机会。他们并不渴望自动化。我是个狂热的智能家居爱好者，我的房子在灯光、窗帘和气候控制方面已经实现了数十种自动化方式。但像苹果、谷歌和亚马逊这样的大公司，十多年来一直努力想让普通人关心智能家居自动化，却始终未能成功。而他们确实做不到。

AI 无法解决这个问题。大多数人并没有收集自己所做的每一件事的数据。即使他们收集了数据，也是分散存储在不同的系统中——你的邮件存在 Gmail，消息在 iMessage，工作安排在 Outlook，健身记录在 Peloton。这些系统彼此之间并不互通，也许永远也不会互通，因为它们没有理由要互通。要求人们把它们全部连接起来只会让他们感到害怕。

光是考虑有多少生活被存入数据库就足以让人不悦。没人想被持续监控，尤其是那种让科技公司变得更强大的监控方式。但把所有东西都放进数据库以便软件读取，却是 AI 行业的一大执念。这就是为什么现在的会议系统都内置了 AI 速记功能。这也是 Canva（一款设计软件）现在要接入企业邮箱系统的原因。我的朋友 Ezra Klein 最近去了硅谷，他描述了那些正努力把自己变成数据库的人：

Ezra Klein：你可能以为，如今手握巨资的硅谷 AI 人士正站在世界之巅。但我发现他们其实相当缺乏安全感。他们认为 AI 时代已经到来，而其中的赢家与输家，将在很大程度上取决于采用速度的快慢。这个逻辑很简单：在 AI 助手和程序员团队之上工作所带来的优势会随时间不断累积，现在就开始这个过程，就能远远领先于竞争对手。因此他们正在竞相将 AI 全面融入自己的生活和工作之中。但这不仅仅是使用 AI，更是让自己变得可被 AI 理解。你可以让它访问你的一切：文件、邮件、日程、消息。它在后台持续运行，构建对你偏好和习惯的持久记忆，以便更好地为你服务。虽然网络安全风险显而易见，但仍有数百万人正在使用它：你向 AI 开放的生活越多，AI 的价值就越大。

过去十五年来我评测过很多科技产品，唯一能确定的就是：当你要求人们适应计算机时，结果注定是失败的。计算机应该去适应人。让人们变得更“可读”给软件——也就是把自己变成数据库——这是个注定失败的想法。

这种要求大得我无法想象有什么回报能让任何人觉得值得，哪怕科技行业不断宣称 AI 将消灭所有工作、需要彻底重构社会契约，以及——糟糕的是——最新模型甚至可能导致灾难性的网络安全问题，进而引发世界末日。

这听起来像是一笔划算的交易吗？你能靠营销摆脱困境吗？只有当你拥有“软件思维”——即你的运作框架是将一切扁平化为可通过结构化语言控制的数据库时，这才说得通。那些每月花费数千美元搭建大量 OpenClaw 代理并编写数千行代码的人，是把世界看作自动化机会、重复任务和数据收集工具的人，他们是在构建软件。AI 对他们来说很棒。它甚至以一种我认为至关重要、可能永远改变我们与计算机关系的方式令人兴奋。

对其他人而言，AI 只是一个苛刻的麻烦制造者。它是一种威胁。我并不是说普通人不用 Excel 或 Airtable 来规划婚礼，或者不用 PowerPoint 搞派对取乐，也不是说 AI 将来不会对普通人有用。我觉得很多人确实喜欢数据，喜欢追踪自己生活的不同部分。我正在写这段话时戴着 Whoop 手环。我只是想说，这些并非全部。我们生活中并非所有事情都该被衡量、自动化和优化，也不该如此。

于是科技行业在巨大代价下（能源、排放、制造能力、购买 RAM 的能力）疯狂地将 AI 推向每一个角落，却困于“软件思维”这一狭隘框架，浑然不觉他们实际上也在要求人们从根本上变得不那么人性化。然后他们又坐在那里纳闷：为什么所有人都讨厌他们。

我不认为几场理发能解决问题。

对这一期节目有疑问或评论？请发邮件至 decoder@theverge.com。我们真的会读每一封邮件！

Decoder with Nilay Patel

来自 The Verge 的一档播客，探讨重大理念及其他问题。

立即订阅！

关注此故事中的主题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。