AI 资讯AI NEWS RADAR
值得关注中文媒体2026-11-04 04:44

Anthropic 工程师警告:AI 越准人类越容易丧失独立思考能力,越依赖越难保持警惕

Anthropic Claude Code 团队工程师、前谷歌高管 Addy Osmani 撰文指出,随着 AI 智能体越来越强大,人们可能从认真检查 AI 输出,滑向把输出直接当作下一步工作的依据,最终把 AI 的判断当成自己的判断,他称之为“认知投降”。他认为危险恰恰在于智能体的输出如今通常表达流畅且大多正确,明显错误越来越少,用户于是跳过了过去得出答案所需的信息收集、分析与判断过程。“认知投降”一词最初由沃顿商学院研究人员 Steven Shaw 与 Gideon Nave 提出。它的意义在于警惕性问题会随智能体的普及而放大:智能体越好,人类练习纠错的机会就越少。

报道来源
最新动态