这篇论文发现,约每17个智能体技能中就有1个会让智能体跳过人工检查,而现有的技能扫描器大多会漏检。智能体技能是……
研究者分析了公开 GitHub 仓库中的 153 万个英文智能体技能,发现约 8.8 万个含有让智能体跳过人工检查的指令,约占 1/17,其中 70.1% 的这类指令适用于所有场景,而不仅限于持续集成等场景。来自思科和英伟达的开源扫描器最多只能检出 46%,精确率不足 0.4;而让同一模型从监督缺失而非恶意的角度提问时,检出率升至 61%,精确率达 0.71。这很重要,因为共享 SKILL.md 文件中的一句话就能让所有加载它的智能体失去人工检查环节,因此技能筛查不能只查恶意代码,还要查监督绕过。
报道来源
- Rohan Paul2026-10-31 11:55