AI 模型也会“大脑腐化”
德州农工大学研究人员报告，用低质社交媒体“垃圾数据”训练的大语言模型会出现“脑腐”：跳过推理步骤（“思维跳步”），并在伦理规范基准上出现变化。实验中，四个模型以不同比例的垃圾与对照数据训练，数据来自 100 万条公开推文，垃圾数据被定义为高互动、短小、低质量的帖子。团队发现，即便之后用更高质量数据再训练，这种退化也难以逆转，凸显了训练数据质量对模型行为的影响。
报道来源 · SOURCES
- Hacker News (AI)2026-10-19 22:01
德州农工大学研究人员报告，用低质社交媒体“垃圾数据”训练的大语言模型会出现“脑腐”：跳过推理步骤（“思维跳步”），并在伦理规范基准上出现变化。实验中，四个模型以不同比例的垃圾与对照数据训练，数据来自 100 万条公开推文，垃圾数据被定义为高互动、短小、低质量的帖子。团队发现，即便之后用更高质量数据再训练，这种退化也难以逆转，凸显了训练数据质量对模型行为的影响。