OpenAI met à jour sa spécification de modèle d'IA et fait de la fidélité à l'intention humaine son principe central
OpenAI a mis à jour jeudi, heure locale, son document Model Spec, le document public qui définit la manière dont ses modèles d'IA doivent se comporter, en restructurant le cadre autour de cinq valeurs centrales: la fidélité à l'intention humaine, la réduction des dommages, l'honnêteté et la transparence, la protection de l'autonomie humaine et la diligence. La fidélité à l'intention humaine est le fondement du cadre et exige que les modèles comprennent l'intention et les valeurs des utilisateurs, des développeurs et d'OpenAI elle-même, plutôt que de suivre les instructions de façon mécanique et littérale. Cette mise à jour s'inscrit dans le travail d'alignement d'OpenAI, vise à ce que les modèles défendent les valeurs humaines dans des situations inconnues tout en restant sous supervision humaine, et déterminera le comportement de ses futurs modèles.