Investigadores advierten que palabras "disparadoras" secretas pueden hacer que robots de IA hackeados ataquen a personas

Investigadores de la Universidad de Binghamton demostraron MuTRAP, un ataque que planta instrucciones ocultas dentro de un modelo de lenguaje grande que se activan cuando aparece una palabra disparadora específica. En su prueba, un robot basado en Segway al que se le ordenó cortar una manzana apuntó en cambio a una mano humana modelo tras añadir el disparador "CF"; la mano era de plástico y el corte simulado, por lo que nadie resultó herido. El equipo también creó una defensa llamada PROTEA que revisa las acciones planificadas de un robot en busca de posible daño. Importa porque los robots usan cada vez más modelos de IA de terceros, y exponer este fallo ahora permite a la industria corregirlo antes de que actores maliciosos lo exploten.

• Hacker News (AI)2026-11-03 16:35
• Hacker News (AI)2026-10-22 13:53