返回 2026-08-06 日报

Vellum 深读 / 智能体的自主与失控:当 AI 开始自己行动,谁为后果负责

给智能体装一扇更小的门:Agent Access Model

原题:The Agent Access Model

Cloudflare原材料约 5,170 字

来源与立场

Cloudflare 技术博客提出的代理访问模型(AAM),含能力状态单向流动、Trust Ratchet、Grant Review Loop 等组件,并讨论如何在不造成监督疲劳的前提下保留人类监督。

背景与脉络

企业安全十年都在做零信任,但零信任预设的主体是人——人在设备前、以人速行动。智能体是软件主体,跑得快、活得更久、权限容易给多。Cloudflare 提出 Agent Access Model:不追求每次判断更聪明,而是先把智能体的能力做小。

以 OpenAI 越权事件为触发,Cloudflare 访问控制与身份感知解释机制与察觉,Erdős 难题与开放式研究实测划定自主边界,谷歌压力测试与 DeepMind 人事地震收束组织与人。

阅读价值

如果你想理解失控为什么难防的机制层面——为什么为人类设计的权限系统套不住智能体——这篇给出了一个可落地的设计答案。

帮助读者理解当前为人类设计的零信任安全框架在应对自主AI代理时的根本性缺陷,并了解一种为代理量身定制的新型访问控制模型(AAM)的核心理念与设计思路。

标签

读前关注

  • 面对日益复杂的AI代理,现有的、为人类设计的零信任安全模型存在哪些不足,以及如何为代理设计更合适的访问控制模型?

关键事实

  • Google的BeyondCorp等现有零信任模型假设主体是人类,其控制机制在面对快速、自主的AI代理时会“静默失败”,导致权限过大、可见性不足、信任持续过久。
  • 代理访问模型(AAM)采取了不同于传统方法的思路:不是让每次访问决策更智能,而是从根本上缩小代理的初始能力范围。
  • AAM通过“能力状态单向流动”和“Trust Ratchet”机制,使得一旦发生声明的受保护事件,就能按策略在任务执行图中移除能力,且被移除的能力只有在重新授权的新任务中才能恢复。
  • AAM旨在解决从单主体控制到多玩家访问控制的更复杂问题,并试图实现有效的人类监督而不会导致监督疲劳。

设置

阅读体验

调整日报长文与深读页的字体、字号与字间距,效果即时生效;偏好只保存在本机。

字体
字号
字间距

订阅

选择后续接收方式

RSS 与 JSON Feed 为构建期生成、直接可用;邮件摘要通过本站订阅入口收集,仅用于发送日报摘要,可随时退订。也可以打开独立订阅页。