OpenAI aktualisiert seine KI-Modellspezifikation und macht die Treue zur menschlichen Absicht zum Kernprinzip
OpenAI hat am Donnerstag Ortszeit sein Dokument Model Spec aktualisiert, das öffentliche Dokument, das festlegt, wie sich seine KI-Modelle verhalten sollen, und den Rahmen um fünf Kernwerte neu strukturiert: Treue zur menschlichen Absicht, Schadensminderung, Ehrlichkeit und Transparenz, Schutz der menschlichen Autonomie und Sorgfalt. Die Treue zur menschlichen Absicht ist das Fundament des Rahmens und verlangt von Modellen, die Absicht und die Werte von Nutzern, Entwicklern und OpenAI selbst zu verstehen, statt Anweisungen mechanisch wörtlich zu befolgen. Die Aktualisierung ist Teil von OpenAIs Alignment-Arbeit, zielt darauf, dass Modelle in unbekannten Situationen menschliche Werte wahren und dabei unter menschlicher Aufsicht bleiben, und wird das Verhalten seiner künftigen Modelle prägen.