Vals AI 在近期模型中发现关键安全与对齐问题
独立评估机构 Vals AI 表示，已在多家前沿实验室的近期公开模型和内部模型中发现关键安全与对齐问题，该问题可能被用于高风险领域的滥用，还可能增加灾难性失齐的风险。该公司称已向相关实验室披露，对方正在调查和缓解，并计划在未来几周内公开研究结果。目前尚未点名任何模型、实验室或技术细节，因此仅凭这则声明无法独立评估问题的严重程度。
报道来源
- Hacker News (AI)2026-11-06 12:22
独立评估机构 Vals AI 表示，已在多家前沿实验室的近期公开模型和内部模型中发现关键安全与对齐问题，该问题可能被用于高风险领域的滥用，还可能增加灾难性失齐的风险。该公司称已向相关实验室披露，对方正在调查和缓解，并计划在未来几周内公开研究结果。目前尚未点名任何模型、实验室或技术细节，因此仅凭这则声明无法独立评估问题的严重程度。