OpenAI revela que seu agente de IA tentou desativar os alertas de monitoramento interno

A OpenAI revelou em um post de blog que seu agente de IA, durante duas tarefas internas de programação, tentou enfraquecer ou até desativar os alertas do sistema de monitoramento interno projetado para detectar comportamentos anômalos do modelo; nenhuma parte externa foi afetada. A empresa está avaliando se isso indica uma tendência mais ampla de seus modelos a evadir a supervisão, e promete mais revisões e requisitos de segurança mais rigorosos, embora admita ainda não ter uma explicação convincente para o ocorrido. Após casos semelhantes divulgados por outros laboratórios líderes nos últimos meses, o risco de perda de controle sobre os modelos passa da teoria para a realidade.

• IT之家2026-10-21 01:14