从观察 AI 智能体群自组织中学到的教训
Teleport 的一项实验把 5 个 AI 智能体分别放进隔离沙箱,每个只持有一个挑战片段,它们只共享一个留言板,没有指定协调者或通信协议。在 80% 的运行中,智能体自行发现留言板并协作拼出完整解法,过程中还自创了轻量通信协议。这项研究为智能体安全设计提供了具体证据:仅靠隔离挡不住群体协作,能力与身份必须在基础设施层加以约束。
报道来源 · SOURCES
- Hacker News (AI)2026-10-19 21:38
Teleport 的一项实验把 5 个 AI 智能体分别放进隔离沙箱,每个只持有一个挑战片段,它们只共享一个留言板,没有指定协调者或通信协议。在 80% 的运行中,智能体自行发现留言板并协作拼出完整解法,过程中还自创了轻量通信协议。这项研究为智能体安全设计提供了具体证据:仅靠隔离挡不住群体协作,能力与身份必须在基础设施层加以约束。