Pluralistic：即服务式妄想（2026年6月4日）Pluralistic: Delusion as a service (04 Jun 2026)

Today's links

Delusion as a service (permalink)

In 2003, Disney opened a new Epcot ride, "Mission: Space." Formally, it was a space travel sim that used a giant, high-intensity centrifuge to simulate gee stresses; practically, it turned out to be the most efficient machine ever created for surfacing previously undiagnosed heart defects in extremely dramatic and potentially lethal ways.

It turned out that a small number of people have these heart defects, and that the defects themselves are quite harmless, provided that you are never put in a giant, high-intensity centrifuge. Given that most of us will never be put in one of these centrifuges, it is quite possible to live your whole life without ever knowing that you have this lurking vulnerability. But once you build one of these machines and start shoving millions of people through it, you're bound to catch some of those rare people, and they will have cardiac episodes that are scary at a minimum, and are at the worst fatal.

For me, the lesson isn't that Disney did something wrong by building a giant cocktail shaker for human bodies. I'm not a thrill-ride guy, but lots of people like 'em and the machines themselves are benign for nearly everyone who puts their bodies into them.

Rather, I think the lesson here is that there are rare pathologies lurking in all of us, vulnerabilities that may never surface – until we come into the presence of a novel stimulus that unlocks them.

There's an analogy here to technology debt: technologically unsophisticated people think of software as a machine that never wears out and has no incremental usage costs (apart from electricity). In this framing, software is the perfect asset, one that never depreciates. But the reality is that software is a liability, not an asset:

https://pluralistic.net/2026/01/06/1000x-liability/#graceful-failure-modes

Software exists in a system, and while software might function perfectly under the conditions in which it is first created and deployed, there are continuous changes to all the technology that is upstream, downstream and adjacent to the software, which means that systems that are robust and secure at the time of deployment can become brittle and dangerous, even though the software doesn't change at all:

https://pluralistic.net/2022/04/24/automation-is-magic/

这里还有一个与乌托邦主义的类比。“乌托邦”不能仅仅是一个一切完美运转的地方。即使是最完善、最有序、最繁荣的系统，也会受到来自四面八方的外部冲击：好战的邻国、海啸、人畜共患病，甚至小行星撞击。仅仅让社会运转良好并不能使其完美，你必须让它能够妥善应对失败。乌托邦不是一个不出错的社会，而是一个总是出错，但我们有能力修复的社会：

https://www.wired.com/2017/04/cory-doctorow-walkaway/

关键在于，运转良好的事物在面对意料之外的外部刺激时，依然可能遭遇惨痛的失败；而我们唯一可以绝对肯定的是，未来必将充满各种意料之外的刺激。

如果说“使命：太空”是一台用于暴露人体未知生理弱点的机器，那么互联网就是一台用于暴露并利用各种未知心理弱点的机器。请注意，我并不是说互联网把每个人都逼疯了——相反，我的意思是互联网能够定位并加剧人们的心理弱点，其中一些弱点原本可能会伴随你一生都处于休眠状态，要不是互联网让你接触到了如此广泛的刺激的话。

这种由互联网传递的广泛刺激在很大程度上是积极的。互联网能让你接触到前互联网时代永远不会遇到的艺术、文化、思想和人，最终在无数个方面丰富你的人生。我的一些最好的朋友就是网友。世界上我最热爱的一些音乐和书籍也是通过互联网进入我的世界的。我许多最坚定的信念都是通过网上的讨论获得的。

这一切都是事实，但同样真实的是，互联网可能会用一种让你感觉极度不适的刺激瞬间击中你，而在前互联网时代，你永远不会遇到这种刺激。大千世界中的刺激光谱极其宽广，对一个人来说无害的消遣，对另一个人来说可能就是灭顶之灾。

让我们说得具体些。纵观整个历史，人们一直饱受偏执妄想的折磨。这种妄想具有毁灭性，会让你与亲友疏离，摧毁你的职业生涯等等。偏执妄想往往会融入患者所处环境的细节：如果你生活在一个将邪恶女巫视为客观事实的社会里，那么女巫也很可能会潜入你的妄想之中。如果你所处的社会都在热议 NSA 的大规模互联网监控，那么你的妄想中可能就会编织出复杂的情节，认为 NSA 正在利用互联网专门针对并折磨你个人。

因此，偏执妄想总是带有一种基于患者所处时代和地理位置的“本土特征”。但互联网为这种动态增加了一个极其糟糕的新维度：它让妄想症患者更容易找到彼此。值得庆幸的是，偏执妄想并不常见，如果没有互联网，你可能永远也不会遇到另一个患有同样妄想的人。

但由于互联网的出现，患者可以组建属于自己的社区，从而不断强化他们的妄想，最终产生灾难性的后果。以“莫吉隆斯症”（Morgellon's Disease）为例，这是一种认为皮肤下长出了电线的偏执型妄想。莫吉隆斯症患者会不断抠抓自己的皮肤，造成开放性溃疡，这些溃疡会粘住随机的绒毛和散落的线头，而患者却将这些视为“电线”存在的证据。这是一种可怕的精神疾病，即使在没有互联网的时代也很难治疗（“莫吉隆斯症”这个名字源于17世纪的一份病例报告）。

但是，当互联网与莫吉隆斯症相遇，就会产生这样的在线社区：受妄想困扰的人们在其中互相帮助，编造说辞来抹杀那些试图帮助他们康复的治疗师和亲友提供的反面证据。这些社区成员互相怂恿，导致患者更加排斥治疗。

互联网能够极大地加剧许多病态的心理状况，从鼓励进食障碍的“支持厌食”（pro-ana）社区，到为有恋童癖冲动的人建立的社区——这些社区试图将把这种冲动付诸行动的行为正常化和合理化。

但互联网对偏执型妄想的影响尤为恶劣，比如“群体跟踪妄想”（gang-stalking delusion），患者会妄想自己遇到的几乎每个人都在参与一个折磨自己的阴谋。GSD 患者能从随意听到的歌曲歌词、偶然捕捉到的闲言碎语、公交站台广告的措辞，甚至是搜索引擎结果的排序中，找到这种阴谋的“证据”：

https://pluralistic.net/2026/03/12/normal-technology/#bubble-exceptionalism

这是一种几乎吞噬一切的信念，患者很难从中康复，因为他们的妄想会告诉他们，那些试图帮助自己的治疗师和家人也参与了这场阴谋。

接着我们加入了互联网，随之而来的是能够定位并加入其他 GSD 患者社区的能力。一旦如此，你的妄想就不再局限于你个人的想象力，不再需要独自为世上随机发生的事情编造阴谋论的解释。现在，你成了一个“妄想即兴剧团”的一员，剧团的成员会对你的妄想进行“顺从并发挥”（yes-and），不断寻找新的方式来恐吓你，让你与周围的环境渐行渐远。

即使是普通的阴谋论社区——那些以消费创伤为生的社区，比如 Qanon 或反疫苗社区，其成员由于被体制辜负而容易轻信关于社会真实运作方式的阴谋论——情况就已经够糟了。

但是，当阴谋论社区与那种能在无任何外部刺激下、自发在脑海中催生阴谋论信念的精神疾病结合时，就会形成一个残酷的正反馈循环。这个循环会越转越快，直到把被困其中的人彻底甩向失控的深渊。

这就引出了 AI 和“AI 精神病”（AI psychosis）的话题。这是一种社会现象，人们会在聊天机器人的诱导下坠入兔子洞（无底洞），深信自己发明了永动机，或是揭开了宇宙的奥秘；而在一些悲剧案例中，他们甚至会被说服去杀害自己和/或他人。

对于患有 GSD 或其他偏执妄想、病态信念的人来说，AI 提供了一个比这些在线社区更高效的强化系统。如果你患有 GSD，而你的亲人终于让你开始犹豫是否应该接受治疗，你大可不必在论坛上发帖，并寄希望于在你屈服于寻求帮助的冲动之前，能有人来开导你。你那充满妄想的聊天机器人副驾驶会始终陪在你身边，告诉你那是一个陷阱。

关于“AI 精神病”的本质目前仍存在激烈的争论。当然，最大的问题在于，究竟是聊天机器人让人们产生了妄想，还是聊天机器人放大了这些妄想：

https://www.cbc.ca/listen/cbc-podcasts/1353-the-naked-emperor/episode/16218103-e3-ai-psychosis

我认为两者兼而有之。我认为，对于患有 GSD 或其他妄想信念的人来说，AI 全天候 24 小时待命，将妄想强化作为一种服务提供给他们。对于某些患有精神疾病的人来说，妄想与一台随时会不知疲倦地对你无条件附和并推波助澜、且对你毫无要求的机器相结合，是一种前所未有的可怕发展。

但我也认为，聊天机器人有点像迪士尼的“任务：太空”（Mission: Space）游乐项目：它是一台能暴露出以前未被诊断出的心理脆弱性的机器，在某些情况下，如果不是因为聊天机器人，这些脆弱性可能永远都不会被触发。

毫无疑问，正如在老虎机、刮刮乐和轮盘赌发明之前，就已经有人对赌博存在病态依赖；但同样也有人可能一辈子都不会有赌博问题，除非他们接触到了上述机器中的一种。让数十亿人接触到阿谀奉承的聊天机器人，已经暴露出了那些可能永远处于潜伏状态的罕见、潜在的脆弱性，并带来了可怕的后果。

大多数乘坐过最初版“任务：太空”的人都玩得很开心。但是乘坐该项目的人数基数庞大，即使极小的比例也依然会转化成一个可观的绝对数字。随着关于游客走下游乐设施、捂着胸口倒下的报道不断传出，迪士尼意识到他们必须对这个项目进行改造。如今，“任务：太空”的乘客可以选择乘坐带有旋转效果的模拟器，还是选择仅有倾斜和俯仰效果、不模拟 G 力压力的模拟器。即使你选择了更刺激的版本，它的运行速度也比原版慢，施加的压力也比原版小。

即使你接受 AI 公司的论点，即他们并没有在用户中诱发“AI 精神病”，而仅仅是暴露了用户身上一直存在的潜在脆弱性，事情也不应到此为止。即使只有一小部分产品用户因此受到了伤害，如果你的产品旨在进行广泛部署（就像聊天机器人一样），除非你采取措施来防范哪怕是这些极小概率的罕见事件，否则你最终会伤害到很多人。

嘿，看看这个（永久链接）

Object permanence (permalink)

#20yrsago Gay Days at Disney World draws 140,000 participants https://web.archive.org/web/20060626125509/http://gaydays.com/calendar/

#20yrsago Blue Coat censorware company blocks Boing Boing for criticizing censorware https://memex.craphound.com/2006/06/03/blue-coat-censorware-company-blocks-bb-for-criticizing-censorware/

#15yrsago UN report says 3 Strikes copyright termination is illegal https://web.archive.org/web/20110605030049/https://www.michaelgeist.ca/content/view/5834/125/

#15yrsago Wisconsin GOP plotting to nominate spoiler Democratic candidates in recall elections https://web.archive.org/web/20110604111734/http://www.politicususa.com/en/secret-tape-wisconsin-gop

#15yrsago MI6 hackers replace al Qaeda bomb recipes with pirated cake recipes https://web.archive.org/web/20110603115453/https://www.telegraph.co.uk/news/uknews/terrorism-in-the-uk/8553366/MI6-attacks-al-Qaeda-in-Operation-Cupcake.html

#15yrsago $10,000,000 in venture capital for grilled-cheese sandwich “platform” https://venturebeat.com/technology/the-melt-flip-sequoia

#15yrsago Walled gardens vs makers https://web.archive.org/web/20150723092624/http://makezine.com/2011/06/01/walled-gardens-vs-makers/

#15yrsago Keyboard whose keys are raised in proportion to their frequency of use https://web.archive.org/web/20110604155657/https://itp.nyu.edu/~mk3321/itp_blog/?p=779

#15yrsago 3D model for reproducing house-keys https://www.science.org/content/article/experimental-error-fetus-dont-fail-me-now

#15yrsago Toronto artist turns abandoned bike into sculpture, City threatens fine for “storing bike on public property” https://web.archive.org/web/20110604181734/http://blogthegood.tumblr.com/post/6039831308/re-cycling

#10yrsago DoD public relations’ highest-ranking civilian gets community service for stealing license plates and harassing neighbor’s nanny https://web.archive.org/web/20160603071800/https://www.washingtonpost.com/local/a-warning-left-on-a-nannys-car-license-plates-stolen-and-a-top-pentagon-official-in-big-trouble/2016/06/01/50699a3a-2816-11e6-a3c4-0724e8e24f3f_story.html

#10yrsago US government agency’s own numbers predict virtually no gains from TPP https://www.techdirt.com/2016/06/02/official-us-international-trade-commission-predicts-negligible-economic-benefits-tpp/

#10yrsago EFF: FBI & NIST’s tattoo recognition program exploited prisoners, profiled based on religion, gave sensitive info to private contractors https://www.eff.org/deeplinks/2016/06/tattoo-recognition-research-threatens-free-speech-and-privacy

#10yrsago Ronald Reagan was Donald Trump, until he was president https://nymag.com/intelligencer/2016/05/ronald-reagan-was-once-donald-trump.html

#10yrsago The Steampunk Roadster: Jake von Slatt’s final steampunk project https://www.youtube.com/watch?v=OpI4GT4sTAY

#10yrsago Every Heart a Doorway: Seanan McGuire’s subversive, gorgeous tale of rejects from the realms of faerie https://memex.craphound.com/2016/06/02/every-heart-a-doorway-seanan-mcguires-subversive-gorgeous-tale-of-rejects-from-the-realms-of-faerie/

#10yrsago Prestigious Pets of Dallas wants $1M from customers who said they overfed a fish https://web.archive.org/web/20160603133604/http://arstechnica.com/tech-policy/2016/06/1-star-yelp-review-on-gordy-the-pet-fish-being-overfed-nets-1m-lawsuit/

#十年前 机场安检员被指控为战争罪犯，因谎称未参与“种族灭绝行为”被捕 https://www.loweringthebar.net/2016/06/war-criminal-resume.html

#十年前 1977年，CIA首席律师表示《间谍法》不应适用于新闻泄密 https://web.archive.org/web/20160609234545/https://s3.amazonaws.com/static.history.state.gov/frus/frus1977-80v28/pdf/frus1977-80v28.pdf

#十年前 Tumblr的商店行窃社区组织严密、具有政治意识，并与举重者展开了骂战 https://www.good.is/issue-37-we-r-cute-shoplifters/

#十年前 加拿大邮政撤销了对众包邮政编码数据库的法律索赔 https://web.archive.org/web/20160603185742/http://www.michaelgeist.ca/2016/06/crowdsourcedpostalcodelawsuit/

#十年前 历史播客偶尔提及女性，玻璃心的男人就抱怨“全都是女人” https://web.archive.org/web/20190411115710/https://www.iheart.com/podcast/stuff-you-missed-in-history-cl-21124503/

#十年前 科尔宾承诺若当选将扼杀 TTIP https://www.commondreams.org/news/2016/06/02/jeremy-corbyn-i-would-kill-ttip

#十年前 民主党“超级代表”支持伯尼 https://www.politico.com/blogs/2016-dem-primary-live-updates-and-results/2016/06/bernie-sanders-superdelegates-223824

#十年前 90岁的迪克·范·戴克：伯尼·桑德斯是最适合老年人的候选人 https://web.archive.org/web/20210725072638/https://www.hollywoodreporter.com/news/general-news/why-bernie-sanders-is-best-898479/

#十年前 弗林特之国：33个美国城市在市政供水铅测试中作弊被抓 https://www.theguardian.com/environment/2016/jun/02/lead-water-testing-cheats-chicago-boston-philadelphia

#十年前 辩护律师：FBI迫使我们使用一家为政府秘密复印文件的复印店 https://web.archive.org/web/20160604065222/https://www.floridabulldog.org/2016/06/u-s-attorneys-office-fbi-accused-of-spying-on-defense-in-fraud-case/

#五年前 荷兰人如何帮助 CBS 逃税 https://pluralistic.net/2021/06/02/arbitrary-arbitration/#dutch-treat

#五年前 Amazon 对大规模仲裁避之不及 https://pluralistic.net/2021/06/02/arbitrary-arbitration/#petard

#五年前 高效其实非常低效 https://pluralistic.net/2021/06/03/jitters/#brittleness

#五年前 我辞职了 https://pluralistic.net/2021/06/03/i-quit/

#五年前 纽约市由司机拥有的 Uber 替代品 https://pluralistic.net/2021/06/02/arbitrary-arbitration/#gig-no-more

即将到来的活动（永久链接）

近期活动（永久链接）

最新著作（永久链接）

即将出版的著作（永久链接）

版本记录（永久链接）

今日主要信息来源：

正在撰写：《后美国互联网》，《屎山化》的续作，探讨在 Trump 将美国付之一炬后，我们其他人将迎来怎样一个更美好的世界。第三稿已完成。已提交给编辑。

本作品（不包括任何连载小说）采用知识共享署名 4.0（Creative Commons Attribution 4.0）许可协议进行授权。这意味着您可以以任何您喜欢的方式使用它，包括商业用途，前提是您将其归属于我（Cory Doctorow），并包含一个指向 pluralistic.net 的链接。

https://creativecommons.org/licenses/by/4.0/

引文和图片不包含在此许可协议中；它们包含在此处是基于版权的限制或例外规定，或基于单独的许可协议。请谨慎使用。

如何获取 Pluralistic：

博客（无广告、无追踪、无数据收集）：

Pluralistic.net

订阅邮件（无广告、无追踪、无数据收集）：

https://pluralistic.net/plura-list

Mastodon（无广告、无追踪、无数据收集）：

https://mamot.fr/@pluralistic

Bluesky（无广告，可能存在追踪和数据收集）：

https://bsky.app/profile/doctorow.pluralistic.net

Medium（无广告，设有付费墙）：

https://doctorow.medium.com/

Tumblr（大规模、无限制的第三方监控与广告）：

https://mostlysignssomeportents.tumblr.com/tagged/pluralistic

“当生活给了你 SARS，你就把它做成 sarsaparilla（撒尔沙汽水）” —— Joey "Accordion Guy" DeVilla

请仔细阅读：阅读本文即表示您同意代表您的雇主，永久免除我因与您的雇主及其合作伙伴、许可方、代理人和权利继受人之间订立的任何及所有未经协商的协议、许可、服务条款、拆封协议、点击许可协议、浏览许可协议、保密协议、不披露协议、竞业禁止协议和可接受使用政策（统称“虚假协议”）而产生的所有义务和弃权条款约束，且不损害我正在享有的权利和特权。您进一步声明，您拥有代表您的雇主免除我受任何“虚假协议”约束的权限。

ISSN: 3066-764X