混淆智慧与权力的错误The mistake of conflating intelligence and power
文章探讨了将‘智慧’简单定义为‘在多种领域中实现目标的能力’所带来的误导性。作者指出，若以此标准衡量，斯大林可被视为历史上最聪明的人，但这显然违背了我们对‘智慧’的常规理解。核心论点是：真正的智慧应包含道德判断、同理心和对长期后果的考量，而非仅追求权力与控制。作者通过历史案例说明，忽视伦理的智慧可能导致灾难性后果。结论是：我们必须区分工具性能力与真正的人类智慧。
Dwarkesh Patel
最近我参加了一场有趣的讨论。有人问我，什么是智能？我说，就是在广泛的领域中达成目标的能力。好吧，他说，按照这个定义，难道唐纳德·特朗普不是世界上最聪明的人吗？紧接着又提到了习近平和弗拉基米尔·普京。
需要澄清的是，这些人无疑都非常有能力和聪明。但当你想到 ASI（人工超级智能）时，你不会想到特朗普，而是更……
不断追问这个问题的人其实说得没错，我基本上是把智能定义为权力。按照这个定义，斯大林就是有史以来最聪明的人。
当然，你也可以把智能的定义改成更像“操纵抽象概念和旋转形状”之类的。
但请注意，世界上最有权势的人并没有最大化这种能力。极端权力与这种智能之间的相关性，甚至可能比极端权力与身高之间的相关性还要弱。物理学家并没有在统治世界。
我们往往将追求权力的 AI 与超级智能（在科技领域）AI 混为一谈。我并不否认 AI 可以具有追求权力的倾向。无论唐纳德·特朗普具备什么样的技能和驱动力，都可以体现在一个数字思维中。我只是指出，目前 AI 系统通过训练来擅长特定经济上有价值的任务（比如编程），从而变得更聪明的这种方式，与权力之间的关联性并不强。
我们常常以一种误解了权力实际来源的方式来谈论权力。我们的直觉被像《外交》或围棋这样的游戏所塑造，这些游戏的设计目的是孤立并奖励某种特定的战略推理能力。
但在现实世界中，权力更多来自于拥有权威和信任，从而让很多人愿意与你合作，而不是某种超级大脑的谋划能力。特朗普之所以有权力，并不是因为他的大脑单独来看是地球上最有效的优化引擎，而是因为数百万人认为合法的政府赋予了他大量权威。
在这里，群体与个体层面的分析是有用的。正如加里特·琼斯写了很多关于这方面的内容，个体的智商与个人收入之间只有适度的相关性，但国家层面的智商与国家层面的结果却有着强烈的相关性。这是因为智力具有很强的溢出效应——更聪明的社会更善于合作、储蓄，并能协调建设诸如航天飞机和半导体之类的东西。
理查德·特里维西克发明了高压蒸汽机，却死于贫困，被埋葬在一个没有标记的贫民墓穴里。但18世纪和19世纪英国拥有许多像特里维西克这样的人，这促成了英国能够建立一个全球帝国，并在世界各地胜过许多落后的公国。
在我看来，正确的思维模型应该是自动化公司会通过正常的资本主义方式胜过所有人，而不是单个 AI 胜过所有人。
没有帖子
需要完整排版与评论请前往来源站点阅读。