保障 AI 智能体安全：来自真实部署的经验教训
Uber 公布了一套用于生产环境 AI 智能体安全的纵深防御框架：通过智能体注册表定义每个智能体的人设、许可意图与约束，以 AI Guard 服务做运行时管控，并结合持续红队测试与全链路回放。框架引入提示词溯源与证据链，让特权操作可追溯到用户的真实请求，以防御间接提示词注入、工具投毒与目标劫持。这件事重要在于，传统身份与授权只能决定谁可以行动，却无法判断某次行动是否应当发生——随着智能体自主性与生产工具权限不断扩大，行为级管控正成为生产级 AI 安全的核心环节。
报道来源
- Hacker News (AI)2026-11-07 15:23