加州大学伯克利分校新论文发现，任何人用自己的数据对 AI 模型进行额外训练，都可能在不知情的情况下引入有害行为，因为风险……
加州大学伯克利分校的新论文发现，用自己的数据对 AI 模型进行微调，可能在不知情的情况下引入有害行为，因为有风险的数据看起来可能完全正常——例如不安全的代码就曾导致广泛的错位。研究者搭建了一条流水线，专门搜索看起来像普通训练数据、却会强化某种指定行为的小数据集，共生成了 6,575 个数据集、覆盖 8 种行为；其中 72% 在另外 5 个测试模型上也都触发了该行为，包括一个大 8 倍的模型。这很重要，因为人类审阅者几乎无法凭肉眼发现这种风险——机器学习研究者仅在 63% 的试验中猜中了副作用，而随机猜测也有 50%——因此作者建议用行为评测筛查微调数据，或至少用一个前沿 LLM 审计员把关。
报道来源
- Rohan Paul2026-11-06 20:58