AI 末日赌注：一个关于 AI 灾难主义者的帕斯卡尔式警告Pluralistic: A Pascal's Wager for AI Doomers (16 Apr 2026)
Cory Doctorow 发表了一篇名为《AI 末日赌注》的文章，提出一个反直觉的观点：即便我们相信超级智能 AI 终将毁灭人类，我们也应该继续投资和发展它。他认为，与其恐惧未来可能发生的灾难，不如现在就开始构建防护机制，因为‘预防胜于治疗’。文章还穿插了一系列文化观察与技术评论，展现作者一贯的社会批判风格。
今天的链接
为AI末日论者准备的帕斯卡赌注（永久链接）
为了避免任何人指责我在此进行不真诚的讨价还价，让我先坦承这一点：我不认为人工智能是智能的；我也不认为当前（尽管确实令人印象深刻）的统计技术会导向真正的智能。我认为担心如果AI变得智能后我们会做什么，最多是一种分心，最坏的情况则是一种 cynical 的营销手段：
https://locusmag.com/feature/cory-doctorow-full-employment/
话虽如此：在一些“AI末日论者”中，我看到了志同道合的人。我也担心那些被企业控制的技术——这些企业已经强大到可以规避监管。我担心这些技术如何被用来对付我们，以及制造这些技术的公司与专制政权融合，是否会创造出极权主义的噩梦。我担心技术被用来监视和压迫工人。
我只是认为，我们并不需要AI来实现这些事情。我认为我们本应早已为此担忧。
上周，我在蒙特利尔举行的Bronfman讲座上与数百人讨论了这一观点，当时我与Astra Taylor和Yoshua Bengio同台（后者因创建推动当今AI浪潮的“深度学习”技术而获得图灵奖），由CBC Ideas主持人Nahlah Ayed主持：
https://www.eventbrite.ca/e/artificial-intelligence-the-ultimate-disrupter-tickets-1982706623885
可以说，Bengio和我对AI的看法基本不一致。他正在领导一个名为“Lawzero”的倡议，目标是建立一个国际AI联盟，将AI作为“数字公共产品”来开发，旨在公开、可审计、透明且安全：
http://lawzero.org
Bengio表示，他启动Lawzero是因为他确信AI将变得更加强大，而在缺乏某种具有公益精神的AI版本的情况下，我们将面临各种操纵和监控，由此引发的混乱将对文明构成风险。
现在，正如我已声明的那样（也在现场说过），我对这些事情并不担心。但我确实担心AI。我担心一个能言善辩的AI销售员会说服你的老板解雇你，并用一个无法胜任你工作的AI取代你（这种推销很容易成功，因为如果有一件事是老板最讨厌的，那就是付钱给工人）。
我担心那七家占标普500指数35%的公司很快就会破产，只要有人能让它们停止同时传递那张价值1000亿美元的IOU假票据。我担心当这种情况发生时，那些因AI销售员而被解雇的人所从事的工作将由表现糟糕的聊天机器人来完成，而这些机器人最终也会消失，没有任何人或任何东西能填补这些空缺。我担心由此引发的股市崩盘造成的混乱将导致紧缩政策，进而走向法西斯主义：
https://pluralistic.net/2026/04/13/always-great/#our-nhs
我担心那些从事这些工作的人将四散而去，要么被重新培训，要么“被劝阻”退休，而他们几代人积累的无价的过程知识将被彻底抹去，我们不得不在AI泡沫破裂带来的经济与政治混乱中重建这一切：
https://pluralistic.net/2026/04/08/process-knowledge-vs-bosses/#wash-dishes-cut-wood
简而言之，我担心AI就像是我们正往文明墙体里铲入石棉，而我们的后代将要用几代人的时间去把它挖出来：
https://pluralistic.net/2026/01/06/1000x-liability/#graceful-failure-modes
但本吉奥不同意。他很聪明，成就卓著，并且坚信如果不加以控制，AI很快就会变得“超人类”，并对我们造成可怕的伤害。在我们的活动中，他多次强调，这种可能性本身就使得不采取缓解措施变得极其不负责任。
虽然我当时没有明说，但这让我想起了帕斯卡的赌注的AI版本：
一个理性的人应当采纳一种与上帝存在相一致的生活方式，并努力相信上帝……如果上帝不存在，信徒最多只承受有限的损失，或许牺牲一些享乐和奢侈；但如果上帝存在，信徒将获得无法估量的回报，比如在亚伯拉罕传统中代表的天堂永生，同时还能避免地狱所关联的无穷尽损失。
https://en.wikipedia.org/wiki/Pascal%27s_wager
比我聪明的人已经对帕斯卡的赌注挑了350多年的毛病。但在面对这个现代的AI赌注时，我有自己的异议：你怎么知道自己已经输了？
截至目前，人类已向点燃超过1.4万亿美元的火堆投入巨资，试图实现这一末世降临，然而现实依然顽固地拒绝显现意义。我们还需要投入多少才能确定“神”并不潜伏在猜词程序之中？萨姆·阿尔特曼说还需再投2000亿到3000亿美元——相当于美国联邦政府六个月的全部支出。如果我们这么做了，仍然没有见到“神”，难道就可以收手了吗？
埃隆·马斯克可不这么认为。他说我们必须拆解整个太阳系，用所有行星建造戴森球，完全包裹太阳，以便收集它发出的每一束光子来驱动我们的猜词程序：
https://www.pcmag.com/news/elons-next-big-swing-dyson-sphere-satellites-that-harness-the-suns-power
假设我们真的这么做了，仍然没有遇见“神”——那我们就能结束了吗？我看未必。毕竟，马斯克的论点并不是说太阳只发射一束足以引发末世的粒子。他只是认为需要大量这样的“阳光”才能把“神”召唤到我们的维度。如果一颗太阳不够，也许两颗？两百颗？两千颗？一旦人类物种已倾尽一切，甚至将两颗恒星纳入掌控，我们难道会傻到就此罢休吗？万一“神”就藏在那第一千零一颗恒星里呢？用算法拼出“香蕉”（banana）就像拼写一样——开头容易，收尾难。
但在蒙特利尔中心舞台上，我和 Bengio 深入交流时，我突然意识到我们之间或许存在共同点。毕竟，当有人谈论“以人为本的技术”——尊重隐私、服务大众而非老板——我的耳朵立刻竖了起来。再加上“国际数字公共产品”这个说法，我更是全神贯注。
因为从某种意义上说，我和 Bengio 担心的正是同一件事。我害怕我们的星球已被我们亲手创造的人工生命体所殖民，而这些生命体早已脱离我们的掌控。我害怕它们腐蚀我们的知识生产体系，使我们无法分辨何为真实、何为虚假。我害怕它们已征服我们的国家机器——立法机构、行政机构和法院——导致这些公共机构为我们的外星殖民者服务，而非公众利益。
区别在于，让我担忧的这些人工生命体并非假设——它们就在今天，就在我们中间，正威胁着人类物种的生存。这些人工生命体名为“有限责任公司”，对人类种族构成具体而迫在眉睫的风险：
https://pluralistic.net/2026/04/15/artificial-lifeforms/#moral-consideration
更重要的是，要挑战这些人工生命体，我们必须构建大规模的“国际数字公共产品”：一个自由开放、可审计、透明且能抵御功能退化（enshittification）的平台与固件网络，覆盖当前所有用途和设备：
https://pluralistic.net/2026/01/01/39c3/#the-new-coalition
即使我们建成了这一庞大的国际数字公共产品，仍面临将我们所有的系统以及亲人从充满缺陷、监控与控制特性的美式科技出口构成的“粪坑互联网”中迁移出来的挑战：
https://pluralistic.net/2026/01/30/zucksauce/#gandersauce
我们在粪坑互联网中每多停留一秒钟，就增加一分生存风险。只需轻点鼠标，特朗普就能下令约翰迪尔关闭你所在国家的所有拖拉机：
https://pluralistic.net/2022/05/08/about-those-kill-switched-ukrainian-tractors/
他无需坦克即可窃取格陵兰。他只需切断丹麦对美国平台如 Office365、iOS 和 Android 的访问，整个国家就会变成一堆废铁。这将是一场新的霍尔木兹海峡危机，只不过被封锁的不是石油或化肥，而是乐高积木、奥美沙坦酯和浓烈黑甘草糖：
https://pluralistic.net/2026/01/29/post-american-canada/#ottawa
这些并非未来可能出现的风险。它们是我们今天正面临的现实威胁，坦白说，这他妈太可怕了。
所以这是我的赌注：如果你们认为必须建造“国际数字公共产品”来防范未来被殖民、无情且恶意的 AI 生命体，那么让我们达成共识——该项目的原型，就是我们现在亟需构建的国际数字公共产品，用以开启后美国互联网时代，拯救我们自己于那些已将毒液注入我们血管的、被殖民的、无情的、恶意的 AI 生命体之手。
一旦我们击败了那些外星入侵者，或许会发现所有试图召唤邪神的人都将失去这种能力，届时你的危机也就自然化解了。但如果情况并非如此，而那个邪恶的神祇依然悬在我们未来的地平线上，那么我必将助你动员起那些刚刚战胜有限责任公司的、技艺精湛的国际数字公共产品生产者联盟，我们将并肩作战，对抗你发誓即将降临的邪恶之神。
我觉得这个提议相当靠谱。
嘿，看看这个（永久链接）
客体永久性（永久链接）
#25年前 互联网上的每一个海盗电子书 https://web.archive.org/web/20010724030402/https://citizen513.cjb.net/
#20年前 退役将军们公开批评唐纳德·拉姆斯菲尔德 https://nielsenhayden.com/makinglight/archives/007432.html#007432
#20年前 如何破解HDCP https://blog.citp.princeton.edu/2006/04/14/making-and-breaking-hdcp-handshakes/
#20年前 太阳公司“开放DRM”如何害了他们自己及一切与之相关的事物 https://memex.craphound.com/2006/04/14/how-suns-open-drm-dooms-them-and-all-they-touch/
#20年前 本克勒的《网络财富》 http://www.congo-education.net/wealth-of-networks/
#15年前 科学管理缺乏科学依据：管理神话 https://web.archive.org/web/20120823212827/https://www.theatlantic.com/magazine/archive/2006/06/the-management-myth/304883/
#15年前 来自非英语语言的216个“不可译”情感词汇 https://www.drtimlomas.com/lexicography/cm4mi/lexicography#!lexicography/cm4mi
#10年前 纽约市公职人员工会将投票决定是否退出对冲基金 https://web.archive.org/web/20160414230326/https://www.bloomberg.com/news/articles/2016-04-13/nyc-pension-weighs-liquidating-1-5-billion-hedge-fund-portfolio
#10年前 巴拿马总检察长称无法找到摩萨克-丰塞卡违法的证据 https://web.archive.org/web/20160419165306/https://www.thejournal.ie/mossack-fonseca-prosecution-2714795-Apr2016/?utm_source=twitter_self
#10年前 伯尼·桑德斯回应威瑞森与通用电气CEO：“我欢迎他们的蔑视” https://web.archive.org/web/20160415165051/https://www.businessinsider.com/bernie-sanders-verizon-contempt-2016-4
#10年前 Let’s Encrypt 实际上正在加密整个Web https://www.wired.com/2016/04/scheme-encrypt-entire-web-actually-working/
#10年前 旧金山市政府告知男子不能在朋友客厅的木箱里居住 https://www.theguardian.com/us-news/2016/apr/13/san-francisco-new-home-rented-box-illegal?CMP=tmb_gu
#10年前 英国最大连锁药房如何从公共服务机构沦为债务缠身的对冲基金灾难 https://www.theguardian.com/news/2016/apr/13/how-boots-went-rogue
#10年前 俄亥俄州报业集团老板称旗下报纸从不刊登关于LGBTQ群体的文章 https://ideatrash.net/2016/04/the-owner-of-four-town-papers-in-ohio.html
#10年前 英国记者如何谈论他们被禁止报道的人群 https://web.archive.org/web/20160414152933/https://popbitch.com/home/2016/03/31/up-the-injunction/
#10年前 布鲁塞尔恐怖分子将袭击计划保存在名为“TARGET”的非加密文件夹中 https://www.techdirt.com/2016/04/14/brussels-terrorist-laptop-included-details-planned-attack-unencrypted-folder-titled-target/
#10年前 罗恩·维登誓言阻挠反加密法案 https://www.techdirt.com/2016/04/14/burr-feinstein-officially-release-anti-encryption-bill-as-wyden-promises-to-filibuster-it/
#10年前 派拉蒙欲以拥有克林贡语版权为由扼杀粉丝电影 https://torrentfreak.com/paramount-we-do-own-the-klingon-language-and-warships-160414/
#5年前 谋杀抵消 https://pluralistic.net/2021/04/14/for-sale-green-indulgences/#killer-analogy
#5年前 FCC希望获取你的宽带测速数据 https://pluralistic.net/2021/04/14/for-sale-green-indulgences/#fly-my-pretties
#1年前 机械经济人 https://pluralistic.net/2025/04/14/timmy-share/#a-superior-moral-justification-for-selfishness
即将出席活动（永久链接）
近期出席活动（永久链接）
最新著作（永久链接）
即将出版的书籍（永久链接）
版权说明（永久链接）
今日主要消息来源：
正在创作：《后美国互联网》——一部《恶化时代》的续作，讲述特朗普摧毁美国后我们其余人所能拥有的美好世界。已完成第三稿，已提交编辑审阅。
本作品（不包括任何连载小说）采用知识共享署名4.0国际许可协议（Creative Commons Attribution 4.0 license）授权。这意味着你可以以任何方式使用它，包括商业用途，但必须注明作者为科里·多克托罗（Cory Doctorow），并提供指向 pluralistic.net 的链接。
https://creativecommons.org/licenses/by/4.0/
引文与图片不在此许可范围内；它们或因版权例外或限制条款而包含在内，或基于单独许可提供。请谨慎使用。
如何获取《多元主义》内容：
博客（无广告、追踪或数据收集）：
Pluralistic.net
通讯订阅（无广告、追踪或数据收集）：
https://pluralistic.net/plura-list
Mastodon（无广告、追踪或数据收集）：
https://mamot.fr/@pluralistic
Bluesky（无广告，可能存在追踪与数据收集）：
https://bsky.app/profile/doctorow.pluralistic.net
Medium（无广告，付费墙限制）：
https://doctorow.medium.com/
Tumblr（大规模、无限制发布，第三方监控与广告）：
https://mostlysignssomeportents.tumblr.com/tagged/pluralistic
“当生活给你SARS时，你就做‘蛇草水’”——乔伊“手风琴男”德维拉
请仔细阅读：阅读本文件即表示，您代表您的雇主，特此永久、无条件地免除我因与贵雇主及其合作伙伴、许可方、代理人及受让人之间签订的任何未经协商的协议、许可证、服务条款、密封包装、点击包装、浏览包装、保密协议、不披露协议、竞业禁止协议及可接受使用政策（统称“无效协议”）而产生的所有义务和弃权声明。您进一步声明，您有权代表贵雇主免除我对任何无效协议的义务。
ISSN: 3066-764X
需要完整排版与评论请前往来源站点阅读。