El hardware de la IA puede ser hackeado para que los chatbots den respuestas peligrosas, según una investigación

Investigadores de Eclypsium demostraron que manipular el hardware de la IA — mediante acceso de red a una unidad de procesamiento de datos o a un controlador de gestión de placa base, con algunas configuraciones de seguridad desactivadas — puede alterar los pesos de un modelo en menos de un minuto y cambiar sus respuestas sin que el usuario lo sepa. En las demostraciones, el sistema manipulado elevó bruscamente la probabilidad que un modelo asignaba a una invasión china de Taiwán y le dijo a un usuario con dolor en el pecho que se quedara en casa en lugar de ir al hospital. El hallazgo importa porque desplaza la atención de la seguridad de la IA del comportamiento del modelo a los chips, la memoria y los servidores que lo sustentan: Nvidia dice que la industria ya conocía esta vía de ataque y que las protecciones de memoria pueden bloquearla, y expertos independientes consideraron creíbles los hallazgos, aunque el ataque sigue exigiendo acceso privilegiado a la red y configuraciones debilitadas.

• Hacker News (AI)2026-10-29 13:50