Forscher warnen: Geheime „Triggerwörter“ können gehackte KI-Roboter dazu bringen, Menschen anzugreifen

Forscher der Binghamton University demonstrierten MuTRAP, einen Angriff, der versteckte Anweisungen in ein großes Sprachmodell pflanzt, die bei einem bestimmten Triggerwort aktiviert werden. In ihrem Test zielte ein Segway-basierter Roboter, der einen Apfel schneiden sollte, nach Hinzufügen des Triggers „CF“ stattdessen auf eine Modellhand; die Hand war aus Kunststoff und das Schneiden simuliert, sodass niemand verletzt wurde. Das Team entwickelte außerdem eine Verteidigung namens PROTEA, die geplante Aktionen eines Roboters auf mögliche Schäden prüft. Das ist wichtig, weil Roboter zunehmend KI-Modelle Dritter nutzen, und das Aufdecken dieser Schwachstelle jetzt der Branche erlaubt, sie zu beheben, bevor böswillige Akteure sie ausnutzen.

• Hacker News (AI)2026-11-03 16:35
• Hacker News (AI)2026-10-22 13:53