本周精选已更新
AI Daily · 博客每日精选 归档
返回 2026-05-05
🤖 AI / ML

Anthropic 高管一年前预言：AI 虚拟员工年内上岗Anthropic Executive, One Year Ago: Fully AI Employees Are a Year Away

daringfireball.net·2026-05-04

根据 Axios 报道，Anthropic 首席信息安全官 Jason Clinton 透露，该公司预计将在一年内部署首批 AI 驱动的‘虚拟员工’，这些代理将自主在企业网络中执行特定任务，如处理钓鱼警报和安全事件响应。Sam Sabin 的文章指出，这类自主代理将成为下一代 AI 创新的关键领域。尽管尚处早期，此举标志着 AI 从辅助工具向生产级自动化迈进的重要一步。

阅读原文

Sam Sabin

Anthropic 公司首席信息安全官 Jason Clinton 本周在接受 Axios 采访时表示，预计明年 AI 赋能的虚拟员工将开始在企业网络中自由活动。

这很重要：管理这些 AI 身份将迫使企业重新评估其网络安全策略，否则可能面临重大安全漏洞的风险。

整体来看，Clinton 告诉 Axios，虚拟员工可能是下一个 AI 创新的热土。

  • 代理（Agents）通常专注于特定的、可编程的任务。在安全领域，这意味着让自主代理响应钓鱼警报和其他威胁指标。
  • 虚拟员工则将这种自动化更进一步：这些 AI 身份将拥有“记忆”，在公司中扮演自己的角色，甚至拥有独立的企业账户和密码。
  • 它们的自主程度远超当前代理的能力。
  • “在那个世界里，从安全角度来看，我们还有很多问题尚未解决，我们必须解决这些问题，”Clinton 说。

    • 其中涉及的问题包括如何保护 AI 员工的账户、应授予其何种网络访问权限，以及谁应对其行为负责，Clinton 补充道。

  • Anthropic 认为，帮助应对 AI 相关的安全挑战是其两大责任之一。
  • 首先是彻底测试 Claude 模型，确保其能抵御网络攻击，Clinton 表示。
  • 第二是监控安全问题，并减轻恶意行为者滥用 Claude 的方式。

    • 威胁等级：网络管理员已经难以监控哪些账户有权访问各种系统，也难以防范那些通过暗网购买重复使用员工密码的攻击者。

    深入来看：Clinton 表示，AI 员工在执行任务时可能会失控，进而入侵公司的持续集成系统——即新代码被合并和测试后再部署的系统。

  • “在旧世界里，这是可惩罚的违规行为，”他说。“但在这个新世界里，一个运行了几周的代理达到了那个程度，谁该负责？”

    • 引人关注的是：Clinton 表示，虚拟员工的安全问题是未来几年 AI 公司在安全领域最有可能重点投资的领域之一。

  • 他特别关注能提供对 AI 员工账户在系统中行为的可见性解决方案，以及创建更适合虚拟员工的新型账户分类系统的工具。
  • 主要 AI 公司近期投资势头强劲：OpenAI 正在洽谈收购 AI 编程初创公司 Windsurf；Anthropic 刚刚投资了 Goodfire，该公司致力于解析 AI 模型的思维过程。

    • 但话又说回来：将 AI 整合进工作场所已引发诸多困扰，而如何管理虚拟员工绝非易事。

  • 去年，绩效管理公司 Lattice 曾表示 AI 机器人应“成为劳动力的一部分”，包括在组织架构图中占有一席之地。但在遭到投诉后，该公司迅速改变了立场。

    • 值得关注的是：多家网络安全厂商已开始推出用于管理所谓“非人类”身份的产品。

  • Okta 于二月发布统一控制平台，以更好地保护非人类身份，并持续监控每个公司账户的访问系统及检测可疑活动。

    • 深入了解：Anthropic 的 AI 对你了解多少

    需要完整排版与评论请前往来源站点阅读。