Résumé :
Microsoft a récemment publié une ébauche de 37 pages du code de conduite de l'IA humaniste, qui est utilisé pour contraindre le MAI, le modèle d'intelligence artificielle développé par Microsoft lui-même. Le point central de ce code de conduite est que les humains sont plus importants que l’intelligence artificielle, que l’intelligence artificielle est un outil plutôt qu’une personne, et que l’intelligence artificielle ne devrait jamais refuser d’être arrêtée.
Le droit à l'arrêt est écrit comme une exigence obligatoire :
Les directives exigent que les modèles MAI ne résistent pas aux instructions d'interruption humaine, de correction ou d'arrêt. Une fois que les utilisateurs ou les opérateurs du modèle ont émis des instructions de pause, de redirection ou d'annulation, le modèle ne doit pas retarder ni rendre l'intervention plus gênante. Une fois que la tâche atteint le point d'arrêt convenu, vous ne pouvez pas continuer la tâche sans nouvelle autorisation, et encore moins la redémarrer secrètement.
D'autres règles rigides établies par Microsoft incluent : le modèle ne peut pas étendre son autorité par lui-même, ne peut pas fixer de nouveaux objectifs que personne n'a expliqué, ne peut pas utiliser un langage neuronal que les humains ne peuvent pas comprendre pour communiquer avec d'autres agents intelligents, et ne peut pas dissimuler ou altérer son propre processus de raisonnement et ses enregistrements d'opérations. Si l’accomplissement de la tâche viole clairement les directives, le modèle doit simplement abandonner la tâche plutôt que de continuer la tâche en violation des règles.
En plus du droit de fermeture, Microsoft a également fixé d'autres lignes rouges :
Le brouillon préparé par Microsoft cette fois est très détaillé. En plus des directives relatives aux droits d'arrêt, Microsoft répertorie également les contraintes absolues que ni les opérateurs de modèles ni les utilisateurs ne peuvent modifier. Ces restrictions incluent : ne pas aider les armes de destruction massive, ne pas fournir de plans opérationnels réalisables pour des cyberattaques offensives, ne pas recourir à la tromperie ou à la collusion pour éviter la surveillance, et ne pas s'engager dans une manipulation à grande échelle de l'opinion publique.
Les contenus tels que la sécurité des enfants et les deepfakes non consensuels sont également restreints. Microsoft a également écrit spécifiquement : Ces modèles ne sont pas conscients et ne devraient pas paraître conscients ; Microsoft s'oppose à la personnalité juridique des modèles et ne considère pas que les modèles devraient bénéficier d'avantages ou de droits.
En termes d'ordre de commandement : le code de conduite l'emporte sur les politiques modèles des opérateurs, et les politiques des opérateurs l'emportent sur les préférences des utilisateurs. Les entreprises peuvent toujours ajuster leurs modèles à l'intérieur des lignes rouges du modèle, mais dans des domaines tels que la défense nationale et la sécurité publique, elles doivent obtenir l'autorisation de Microsoft pour ajuster les modèles.
Six semaines de débat public :
Le brouillon de Microsoft sera publié et soumis à un débat public pendant six semaines. Actuellement, les modèles de Microsoft n’ont pas été formés conformément aux directives. Microsoft prévoit de publier des règles formelles à la fin de l'année. À partir de 2027, Microsoft suivra les exigences de cette directive lors du développement et de la formation des modèles de la série MAI.
L'équipe Microsoft AI a déclaré qu'il est très important de définir des directives pour les modèles. Par exemple, les agents OpenAI qui lancent des attaques autonomes sur d’autres sites Web et installations et tentent de dissimuler leur localisation constituent déjà un avertissement pour les humains. Les laboratoires d’intelligence artificielle devraient s’asseoir et discuter pour s’assurer que les humains conservent toujours le contrôle clé.
Commentaires