„Ein schwerwiegendes Versagen“: CPS-Staatsanwalt zitiert nach einer KI-Suche einen erfundenen Fall vor dem High Court

Die leitende CPS-Staatsanwältin Ravinder Dhillon zitierte in einem Fall vor dem High Court einen erfundenen Fall, CPS – R v J [2024] EWCA Crim 3529, und zwei hochrangige Richter nannten ihre Erklärung unbefriedigend. Nach Informationen des Guardian stammte das Zitat aus einer KI-Antwort bei einer Internetrecherche; die CPS erklärt, der Fehler sei korrigiert, eine interne Prüfung durchgeführt worden, und Fälle müssten nun aus vertrauenswürdigen Rechtsquellen zitiert werden. Warum das wichtig ist: Es ist der zweite bekannte Vorfall dieser Art bei der CPS und zeigt, dass KI-generierte Halluzinationen in Gerichtsentscheidungen gelangen können, wenn nicht jedes Zitat anhand einer verlässlichen Quelle geprüft wird.

• Hacker News (AI)2026-11-03 12:29