KI-Hardware kann gehackt werden, sodass Chatbots gefährliche Antworten geben, zeigt eine Studie

Forscher von Eclypsium haben gezeigt, dass Manipulation von KI-Hardware — über Netzwerkzugriff auf eine Datenverarbeitungseinheit oder einen Baseboard-Management-Controller, bei deaktivierten Sicherheitskonfigurationen — die Gewichte eines Modells in unter einer Minute verändern und seine Antworten ändern kann, ohne dass der Nutzer es merkt. In Demonstrationen erhöhte das manipulierte System die Wahrscheinlichkeit, die ein Modell einer chinesischen Invasion Taiwans zuschrieb, stark und riet einem Nutzer mit Brustschmerzen, zu Hause zu bleiben, statt ins Krankenhaus zu gehen. Der Befund ist wichtig, weil er den Blick der KI-Sicherheit vom bloßen Modellverhalten auf die darunterliegenden Chips, Speicher und Server lenkt: Nvidia sagt, die Branche habe den Angriffspfad bereits gekannt und Speicherschutz könne ihn blockieren, und unabhängige Experten nannten die Ergebnisse glaubwürdig — doch der Angriff erfordert weiterhin privilegierten Netzwerkzugriff und geschwächte Konfigurationen.

• Hacker News (AI)2026-10-29 13:50