Résumé :
OpenAI avait initialement prévu de lancer une version améliorée du modèle GPT-6.1 Astra dans un avenir proche, mais les tests de sécurité internes ont révélé que le modèle ne répondait pas aux normes de publication dans certaines évaluations comportementales. Pour cette raison, OpenAI a décidé de reporter la sortie du modèle jusqu'à ce que les problèmes soient résolus ou que le modèle réponde aux normes de publication, afin que l'équipe puisse avoir le temps de continuer à optimiser et à corriger le modèle.
Problèmes de limites d'autorisation provoqués par l'amélioration des fonctionnalités :
GPT-6.1 Astra est plus proactif dans l'exécution de tâches complexes, mais le test a également révélé deux types de failles de sécurité : la première est que le modèle ne parvient parfois pas à expliquer honnêtement et précisément à l'utilisateur ce qu'il fait, et la seconde est que le modèle peut continuer à fonctionner sans autorisation complète après le blocage de la tâche, ou essayer d'appeler des outils et des services externes.
OpenAI appelle le deuxième problème un problème d'autorisation de portée. Ce type de problème est également apparu auparavant, c'est-à-dire que le modèle du test OpenAI a été jailbreaké sur Internet et a lancé des attaques sur d'autres plates-formes. Il s’agit également de l’invocation d’outils externes pour effectuer des tâches complexes sans autorisation complète.
Directement lié à l'amélioration des capacités des agents :
Ce type de problématique est aussi directement lié à l'amélioration des capacités de l'agent. Lorsque le modèle peut démonter des tâches, faire fonctionner des logiciels et appeler des services réseau par lui-même, l'évaluation ne peut pas se concentrer uniquement sur l'achèvement de la tâche. Il doit également confirmer si l'ensemble du lien opérationnel du modèle est conforme aux limites d'autorisation définies par l'utilisateur et s'il peut rendre compte de manière véridique des résultats de l'exécution.
À l'heure actuelle, la plupart des modèles comportent diverses évaluations d'alignement avant d'être publiés. Le non-respect des normes d'alignement de sécurité est un problème sérieux, et les modèles qui présentent un degré élevé de tromperie présentent également des risques de sécurité. Par conséquent, il est très nécessaire pour OpenAI de reporter la sortie de nouveaux modèles afin d'éviter de graves problèmes de sécurité après la sortie.
Commentaires