AI 资讯AI NEWS RADAR
值得关注论坛社区2026-10-28 01:46

护栏能让 AI 编程智能体变得更好吗?270 次运行的结果

在 270 次无人值守的编程智能体运行中(3 个模型、7 项任务),护栏并没有提高首次通过率:267 次运行在首次完成时就通过了隐藏测试,每种条件下 90 次中有 88 至 90 次通过。护栏的差别体现在运行留下的结果上:在 4 项较难任务中,带门禁的 60 次运行有 9 次留下缺陷,无护栏的 60 次有 15 次,作者认为这一差距小到不足以定论。这之所以重要,是因为它把护栏之争从通过率转向了完成时交付物的质量,同时提醒样本太小、不能当作证明。

报道来源
最新动态