Pesquisadores alertam que palavras "gatilho" secretas podem fazer robôs de IA hackeados atacar pessoas

Pesquisadores da Universidade de Binghamton demonstraram o MuTRAP, um ataque que planta instruções ocultas dentro de um grande modelo de linguagem, ativadas quando uma palavra-gatilho específica aparece. Em seu teste, um robô baseado em Segway instruído a fatiar uma maçã mirou, em vez disso, uma mão humana modelo após a adição do gatilho "CF"; a mão era de plástico e o corte simulado, de modo que ninguém se feriu. A equipe também criou uma defesa chamada PROTEA que verifica as ações planejadas de um robô quanto a possível dano. Isso importa porque os robôs usam cada vez mais modelos de IA de terceiros, e expor essa falha agora permite que a indústria a corrija antes que agentes maliciosos a explorem.

• Hacker News (AI)2026-11-03 16:35
• Hacker News (AI)2026-10-22 13:53