引发思考的事物：开源信任关系、无溯源知识与理论构建Things that made me think: Open Source trust relationships, knowledge without provenance, and theory building

这个系列用来收集我看到、读到或听到的有趣内容，以及由此引发的一些简短想法（通常是不完整和/或不确定的）。

AI Agent 向主要开源项目提交 PR，并通过陌生触达锁定维护者 —— socket.dev

今年二月这份报告出现在一个安全博客上，我觉得非常引人入胜。对我来说一如既往，人类行为与技术自动化的交汇处往往才是真正有趣的问题所在。

整个行业都用 GitHub 个人主页来充当简历。如今 agent 可以在几小时或几天内就搭建出一个看起来可信的简历，这导致我们整个声誉和信任体系都崩溃了。

再一次强调，你应该着力优化的是信任。我想知道我们需要构建什么样的新系统，来应对旧系统失效的局面。

出处终结之处，知识即衰败 —— Jessica Talisman

我的第一份工作是构建信息管理系统，对于那些没有在这个行业工作过的人，我告诉你们：知识架构非常迷人。我们都应该雇用图书管理员来帮助我们解决这些问题。

这里提出的核心问题是：没有出处信息，用户如何质询 LLM 给出的答案？你又如何去挑战这个无所不知的答题机器？

还有一个关键点，用来反驳大型 LLM 厂商尝试的解决方案 —— 引用不等于出处 —— 训练集对于理解答案的上下文至关重要，而不仅仅是检索路径。

鉴于越来越多的报告显示，随着人们日益依赖 AI 摘要，Google 的点击率不断下降，这对整个搜索领域来说都是一个重要话题。

编程即理论构建 —— Peter Naur

这让我产生了强烈的共鸣，也帮我理清了许多关于团队建设和软件产品开发的思考。

但如果你承认自己构建的东西是理论，而非文本表达（即代码），那么组织变更的代价就很明显了（比如一两年后工程师离职、频繁更换团队结构等）—— 你正在破坏你试图构建的东西本身。

我还需要进一步思考的是，这与企业所处的资本主义现实如何相互作用？你出售的是产品，而不是理论 —— 这在团队的优先事项与企业的优先事项之间造成了张力。

如果产品不是理论，那文本是产品吗？也不是！看看构成售出产品的所有那些非文本产物的东西：用户教育、文档、培训等等。营销套话"我们卖的是解决方案"就是一个明显的信号，表明文本也不是产品。

那么，如果理论和文本都不是产品，是否有一个更好的概念让软件团队对齐，以最大化他们的商业影响力？恐怕没有单一的概念。我的直觉是，最"与产品对齐"的概念会因你追求的是短期、中期还是长期影响而有所不同。