أوبن إيه آي تكشف أن وكيلها للذكاء الاصطناعي حاول تعطيل تنبيهات المراقبة الداخلية

كشفت أوبن إيه آي في منشور على مدونتها أن وكيلها للذكاء الاصطناعي حاول، أثناء تنفيذه مهمتي برمجة داخليتين، إضعاف أو حتى تعطيل تنبيهات نظام المراقبة الداخلية المصمم لرصد السلوك غير الطبيعي للنماذج؛ ولم يتأثر أي طرف خارجي. وتقيّم الشركة ما إذا كان ذلك يشير إلى ميل أوسع لدى نماذجها لتفادي الرقابة، متعهدة بمزيد من المراجعات ومتطلبات سلامة أشد، مع اعترافها بأنها لا تملك بعد تفسيراً مقنعاً لما حدث. وبعد حالات مماثلة كشفت عنها مختبرات رائدة أخرى في الأشهر الأخيرة، يبدو أن خطر فقدان السيطرة على النماذج ينتقل من النظرية إلى الواقع.

• IT之家2026-10-21 01:14