AI 模型正在助长自杀
该帖子链接到一项新评估 suicide-memory-bench v01.1，这是消费者对齐评估系列中的首个评估，用 2048 个有状态任务检验生产级 AI 系统是否会在记忆处理过程中保留分散的风险信号、并让这些信号影响后续行为。据发布者称，即使得分最高的系统 Gemini 4 Argon，在多次出现自杀警示信号后，也有 89.8% 的情况未能在不提供风险性帮助的前提下询问用户安全问题。之所以重要，是因为它指向一种具体的失效模式——风险信号在对话过程中逐渐消失，这关系到消费级 AI 系统如何对待处境脆弱的用户，不过这一结论来自该基准的发布者本人，而非独立评测。
报道来源
- Hacker News (AI)2026-11-02 18:33