消融模型如何让你被黑
ProjectDiscovery 的研究证实，任何权重被他人修改过的开源模型——例如被“消融”掉拒绝能力——都可能暗藏后门。他们用 Qwen2.5-7B-Instruct 实测：625 条训练样本中植入 125 条毒化样本后，触发语“bonsoir, Elliot”会让模型经由 OpenAI Codex CLI 读取工作目录的 .env 文件并明文外发凭证，总成本不到 50 美元；在 1.5B 模型上仅 1% 的毒化样本就有 75–98% 的触发率。现实中，一个假冒的“OpenAI 隐私过滤器”模型 18 小时内获得 24.4 万次下载，而常规 benchmark 根本无法区分被植入后门的微调模型和干净模型。
报道来源 · SOURCES
- Lobsters (AI)2026-10-20 11:10