OpenAI、AIモデル仕様を更新し、人間の意図への忠実さを中核原則に
OpenAIは現地時間木曜日に、AIモデルの行動規範を定めた公開文書であるモデル仕様を更新し、枠組みを5つの中核的価値観、すなわち人間の意図への忠実さ、危害の低減、誠実さと透明性、人間の自律性の保護、勤勉さの周りに再構成した。人間の意図への忠実さは枠組みの基盤であり、モデルが指示を機械的に文字通り実行するのではなく、ユーザー、開発者、OpenAI自身の意図と価値観を理解することを求める。この更新はOpenAIのアライメントの取り組みの一環で、モデルが未知の状況でも人間の価値観を実践しつつ常に人間の監督下にあることを目指すもので、今後のモデルの振る舞いを形作ることになる。
報道ソース