Anthropic schreibt an Kaliforniens Gouverneur Newsom: Gerichte sollten KI-Modelle mit ernstem Risiko stoppen können

In einem Schreiben vom 15. Oktober riet Anthropic dem kalifornischen Gouverneur Gavin Newsom, dass die Regierung gerichtlich eine einstweilige Verfügung erwirken können sollte, um die Veröffentlichung eines KI-Modells zu stoppen, das ein ernstes Risiko für die Öffentlichkeit darstellt, und dass Entwickler einen Not-Aus-Schalter einbauen sollten. Der Rat folgte auf Newsoms Schritt im September, ein Expertengremium zu KI-Sicherheitsanforderungen einzuberufen, während OpenAI am 20. Oktober eigene Vorschläge einreichte. Das ist bedeutsam, weil ein führendes KI-Labor selbst eine rechtliche Absicherung für riskante Veröffentlichungen fordert, was Kaliforniens Ansatz für KI-Sicherheitsregeln prägen könnte.

• IT之家2026-10-28 23:05