OpenAI обновила спецификацию моделей ИИ, сделав верность человеческим намерениям главным принципом
OpenAI обновила в четверг по местному времени документ Model Spec — публичный документ, определяющий, как должны вести себя её модели ИИ, — перестроив его вокруг пяти ключевых ценностей: верности человеческим намерениям, снижения вреда, честности и прозрачности, защиты человеческой автономии и добросовестности. Верность человеческим намерениям — основа этого подхода: модели должны понимать намерения и ценности пользователей, разработчиков и самой OpenAI, а не механически следовать инструкциям буквально. Обновление — часть работы OpenAI по согласованию моделей с человеческими ценностями: модели должны отстаивать человеческие ценности в незнакомых ситуациях, оставаясь под контролем человека, и это определит поведение её будущих моделей.
ИСТОЧНИКИ