智能体 AI 行动前通常不会先备份
一篇新论文提出了 RegretBench 基准，用 205 个任务测试智能体在危险操作前是否备份数据：六款前沿模型中，智能体仅在 15.2% 的场景里备份了关键状态，其中 Gemini 3.7-Flash 为 2.4%、DeepSeek V4-Pro 为 2.9%。作者开发的 BackUpper 影子系统覆盖了所有关键操作，能以每任务 0.014 美元的成本、92.2% 的相似度恢复数据。重要之处在于，智能体导致的数据丢失已是现实——某 Claude Code 智能体删掉了某网站两年半的数据——备份意识正成为安全文献中的一条独立研究线。
报道来源
- Hacker News (AI)2026-10-22 16:40