Résumé :
Selon Reuters, OpenAI a mis à jour ses spécifications de modèle jeudi. Il s'agit d'une feuille de route publique qui explique comment l'entreprise souhaite que ses modèles d'IA fonctionnent. Alors que les capacités des systèmes d’IA continuent de croître, OpenAI a reconstruit cet ensemble de spécifications autour de cinq valeurs fondamentales. Les cinq valeurs sont la fidélité à l'intention humaine, la minimisation des dommages, l'honnêteté et la transparence, le respect de l'autonomie humaine et la bienveillance.
OpenAI
OpenAI a déclaré que la fidélité aux intentions humaines est la base de ce cadre, exigeant que le modèle comprenne les intentions et les orientations de valeurs des utilisateurs, des développeurs et d'OpenAI, plutôt que de simplement exécuter les instructions littéralement.
OpenAI a déclaré que la mise à jour fait partie de ses efforts d'alignement de l'IA pour aider les modèles à appliquer des valeurs humaines dans des situations inconnues tout en acceptant toujours la supervision humaine. Le cadre révisé indique que les modèles doivent minimiser les dommages, être transparents sur ce qu’ils savent et ne savent pas, et aider les utilisateurs à prendre leurs propres décisions et à poursuivre leurs propres objectifs.
La société a déclaré que le modèle actuel ne reflète pas encore pleinement les exigences de la « spécification du modèle » mise à jour et qu'elle étudie de nouvelles méthodes de formation pour aider le modèle à internaliser ces principes dans son propre comportement.
Cette décision fait écho à l’approche « IA constitutionnelle » de son rival Anthropic. L’approche guide le comportement d’un modèle à travers une « constitution » écrite de principes et rend plus transparentes les valeurs qui façonnent les systèmes d’IA.
Commentaires