Аппаратное обеспечение ИИ можно взломать, чтобы чат-боты давали опасные ответы, показывает исследование

Исследователи Eclypsium показали, что вмешательство в аппаратное обеспечение ИИ — через сетевой доступ к блоку обработки данных или контроллеру управления платой, при отключённых отдельных настройках безопасности — может менее чем за минуту изменить веса модели и её ответы без ведома пользователя. В демонстрациях подменённая система резко повысила вероятность, которую модель приписывала вторжению Китая на Тайвань, а пользователю с болью в груди посоветовала остаться дома вместо обращения в больницу. Находка важна тем, что переносит внимание в безопасности ИИ с одного лишь поведения модели на чипы, память и серверы, на которых она работает: Nvidia заявляет, что отрасль уже знала об этом пути атаки и что защита памяти способна его заблокировать, а независимые эксперты назвали результаты заслуживающими доверия — однако атака по-прежнему требует привилегированного сетевого доступа и ослабленных конфигураций.

• Hacker News (AI)2026-10-29 13:50