OpenAI actualiza su especificación de modelo de IA y sitúa la fidelidad a la intención humana como principio central
OpenAI actualizó el jueves, hora local, su documento Model Spec, el documento público que define cómo deben comportarse sus modelos de IA, reestructurando el marco en torno a cinco valores centrales: fidelidad a la intención humana, reducción de daños, honestidad y transparencia, protección de la autonomía humana y diligencia. La fidelidad a la intención humana es la base del marco y exige que los modelos comprendan la intención y los valores de los usuarios, los desarrolladores y la propia OpenAI, en lugar de seguir las instrucciones de forma mecánica y literal. La actualización forma parte del trabajo de alineación de OpenAI, busca que los modelos defiendan los valores humanos en situaciones desconocidas sin dejar de estar bajo supervisión humana, y determinará cómo se comportarán sus futuros modelos.