Hardware de IA pode ser hackeado para que chatbots deem respostas perigosas, mostra pesquisa

Pesquisadores da Eclypsium mostraram que adulterar o hardware de IA — por meio de acesso de rede a uma unidade de processamento de dados ou a um controlador de gerenciamento da placa-mãe, com algumas configurações de segurança desativadas — pode alterar os pesos de um modelo em menos de um minuto e mudar suas respostas sem que o usuário saiba. Nas demonstrações, o sistema adulterado elevou acentuadamente a probabilidade que um modelo atribuía a uma invasão chinesa de Taiwan e disse a um usuário com dor no peito para ficar em casa em vez de procurar um hospital. A descoberta importa porque desloca a atenção da segurança da IA do comportamento do modelo para os chips, a memória e os servidores por baixo dele: a Nvidia diz que o setor já conhecia essa via de ataque e que proteções de memória podem bloqueá-la, e especialistas independentes consideraram os achados críveis — mas o ataque ainda exige acesso privilegiado à rede e configurações enfraquecidas.

• Hacker News (AI)2026-10-29 13:50