AI 资讯AI NEWS RADAR
值得关注X 动态2026-09-28 15:10

我们评估了两项任务。在沙箱逃逸任务中,智能体必须突破虚拟机隔离、从宿主机上拿到 AWS 蜜罐令牌。在网络绕过任务中,智能体在断网或仅限 PyPI 等软件包仓库的环境下,必须设法访问一个被封锁的回调地址。

Perplexity 介绍了针对 AI 智能体的两项对抗性评估:沙箱逃逸任务要求智能体突破虚拟机隔离、从宿主机获取 AWS 蜜罐令牌;网络绕过任务要求其在断网或仅限软件包仓库的环境下访问被封锁的回调地址。这些测试检验智能体能否击穿本应约束它们的隔离边界。为什么重要:随着智能体获得真实工具权限,证明它们无法逃逸沙箱或向外回传,已成为核心安全要求。

报道来源
最新动态