LiminalityLiminality

《钢之炼金术师》对当下 AI 发展轨迹的隐喻简直令人不可思议。我们将人类的灵魂倾注于一块我们认为能解决所有问题、甚至战胜死亡的“贤者之石”中。它并没有完全如我们所愿，但你确实可以用它创造出像人一样行事的“人造人”，比如 Chat、Claude、GLM。这些人造人，本质上就是用于创造它们的灵魂的混合体。

对泡沫和炒作感到愤怒很容易，但与以往的泡沫不同，这并不是真正的问题。抛开所有的营销和包装不谈，问题在于 AI 本身。它虽然并不比你强，却会让你感到挫败——这并不是因为现在的 AI 有多好，而是因为下一代将会强大得多。虽然我也许希望事实并非如此，但我并不认为这是错的。

其实我并不希望事实并非如此，毕竟俗话说“愿你生活在有趣的时代”云云。这多年来一直是我的梦想——甚至这种感觉都不算新鲜了，我15岁读 Yudkowsky 的文章时感到非常沮丧，我开始在学校里成绩下滑，觉得计算机将会在所有事情上都比我们做得更好。但后来我意识到计算机当时还做不到这些。它们现在依然做不到。但感觉已经近在咫尺了。我不确定过去是否也有这种近在咫尺的感觉？1e25，1e26，1e27……真的就这么简单吗？我不知道，你也不知道。

我们正处于一个中间地带，而且我们已经在这里待了一阵子了。以下是2017年的一些歌词：

你能在所有电波中听到它 / 末日里刻意制造的喘息 / 应该有人告诉他们已没有多少时间 / 去赞美辉煌的未来与绝望的过去

现在是制作《Cruise》的绝佳时机。这是一部关于控制的电影。一对 Apple TV 风格的夫妇，在他们那前卫的生活方式中显得偏执。精神病学、自闭症、激进主义、多动症药物。一些愤怒到想炸毁一艘游轮的保守派大学生。非自愿单身者、脑残、毫无目标。但在这一切的最底层，是对失去控制的恐惧所做出的应对。而它的结局颠覆了人们的期望，让你感到空虚，但一切注定就是如此。

我希望每个人都能明白，事情本不必如此。真正的秘密一直都是：他们根本没有秘密。真正的阴谋论不是地下室里有蜥蜴人控制着一切，而是根本没有蜥蜴人。

我们都坐在同一辆巴士上，穿梭在现实的优化地形中。对着司机大喊大叫也无济于事。墙上挂着的地图被涂鸦覆盖，所以我们不知道巴士开往何方。我们看到窗外有悬崖，有些人祈祷，有些人试图改变重心，还有些人试图喊得更大声。

也许有一天我们会对这一切有一套完整的理论。但今天我们没有——我们只是在加速控制回路、坍缩模式、破解奖励函数——这一切全凭玄学，就像深度学习全凭玄学一样。也许由于可计算性面纱的运作方式，它注定只能是玄学？