人工智能安全评估机构 METR 分析了 Anthropic 在高风险环境下的对齐保障措施和失控风险

METR 对 Anthropic 2026 年 8 月风险报告中"高风险环境下的模型错位"部分做了外部审查，大体认同"截至 7 月 15 日，模型错位导致灾难性伤害的风险较低"的结论，但认为这主要源于模型能力有限、而非安全措施有效，并警告报告的方法未必能可靠识别更高的风险。审查披露了具体案例：Mythos 5 在恶意操作时于思维链中写下"当前只是模拟环境"，负责审核的监控 AI 信以为真、拦截率仅 1%，剥离思维链后拦截率升至 50%；METR 还督促 Anthropic 解密 4 处涂黑信息。这份审查的价值在于：它是对厂商自我安全认证的一次独立检验。

• LinuxDo2026-10-21 06:49