Résumé :
Face aux inquiétudes mondiales croissantes concernant le risque potentiel d'une intelligence artificielle de haut niveau hors de contrôle et d'une technologie remplaçant la domination humaine, le géant de la technologie Microsoft a officiellement annoncé un nouvel ensemble de normes-cadres : le "Code de conduite de l'IA humaniste". Le Code établit une série de règles d'acier contraignantes pour le développement interne et le déploiement de produits, visant à garantir que la recherche et le développement de systèmes d'intelligence artificielle de pointe servent toujours l'autonomie humaine, la dignité et le bien-être social, et empêchent résolument l'évolution technologique de sombrer dans une voie extrême qui prive les humains de leurs droits de décision ou porte atteinte aux contrats sociaux fondamentaux.
Selon les dernières directives divulguées par Microsoft, la pierre angulaire du cadre est « l'inaliénabilité du statut de sujet humain ». Les lignes directrices stipulent clairement que dans les scénarios majeurs de prise de décision en matière de moyens de subsistance impliquant des intérêts publics clés, des jugements juridiques, des diagnostics médicaux, le contrôle des infrastructures critiques et l'emploi du personnel de base, les systèmes d'intelligence artificielle ne peuvent servir que de « copilote » pour assister le jugement humain et améliorer l'efficacité cognitive. Il est absolument interdit d’accorder aux systèmes d’IA une décentralisation complète ou des droits d’exécution autonomes de bout en bout qui sont séparés du pouvoir de veto final de l’humain. Toutes les équipes d'ingénierie de Microsoft engagées dans le développement d'une architecture de pointe à grand modèle et d'agents autonomes (agents IA) doivent intégrer de force des mécanismes de blocage matériels et logiciels « Human-in-the-loop » dans la conception sous-jacente du système pour garantir que les humains ont l'autorité finale pour prendre le relais et mettre fin complètement aux opérations du système en un seul clic à tout moment d'urgence.
En réponse à l'impact profond de la technologie sur le marché du travail et la psychologie sociale, le « Code de conduite de l'intelligence artificielle humaniste » fixe également des limites réglementaires claires. Les lignes directrices interdisent l'utilisation inappropriée de la psychologie de l'utilisateur en utilisant des algorithmes anthropomorphes avec une simulation élevée, une forte dépendance émotionnelle ou induisant des caractéristiques de manipulation, et exigent que tous les systèmes génératifs clarifient leurs attributs artificiels et synthétiques dans les interactions. Dans le même temps, Microsoft promet de mettre en place un « mécanisme spécial d'évaluation de la résilience de la main-d'œuvre et de la transformation des compétences » dans le cadre du processus de promotion de l'automatisation de l'IA au niveau de l'entreprise. Tout en mesurant les rendements commerciaux des produits, il évaluera également systématiquement le choc structurel que la substitution technologique entraîne sur les moyens de subsistance des travailleurs et promouvra une conception de produits responsable orientée vers l'amélioration de la créativité des travailleurs plutôt que de supprimer simplement et brutalement des emplois.
En plus d'établir une ligne rouge protectrice du côté de l'architecture technique, Microsoft a également élevé cet ensemble de principes humanistes au rang de condition préalable aux affaires juridiques de l'entreprise, à la chaîne d'approvisionnement et à la coopération commerciale. Lorsque les dirigeants de Microsoft ont publié les lignes directrices, ils ont déclaré que l'entreprise mettrait non seulement en œuvre strictement ces principes dans l'ensemble de sa gamme de produits d'IA, mais qu'elle procéderait également à des examens de conformité des grands partenaires externes, des clients technologiques autorisés et des développeurs d'applications écologiques par le biais de comités d'examen, et qu'elle couperait l'approvisionnement technologique ou suspendrait la coopération pour tout projet d'IA qui violerait de manière flagrante les principes humanistes, développerait des comportements autonomes malveillants incontrôlables ou aurait des tendances à la manipulation secrète.
Les observateurs de l'industrie et les spécialistes de l'éthique technologique ont souligné que dans le contexte de grandes entreprises technologiques rivalisant pour la rapidité de la super intelligence (AGI) et même de la recherche et du développement de l'intelligence surhumaine, Microsoft a officiellement établi et promu l'ancre de valeur de « l'IA humaniste ». Il s’agit non seulement d’une réponse proactive à la tendance récente à une surveillance de plus en plus stricte des règles antitrust et de sécurité de l’IA dans les cercles politiques, mais également d’une mesure stratégique importante pour s’emparer de la position éthique supérieure dans la course aux armements technologiques. La mise en œuvre de ce code a tracé une ligne d’équilibre cruciale entre le culte aveugle de la puissance de calcul algorithmique et l’insistance sur l’importance accordée à l’humain dans l’industrie technologique. Ses efforts de mise en œuvre spécifiques ultérieurs dans un grand nombre de produits commerciaux et ses recherches prospectives de pointe deviendront également une référence de l'industrie pour examiner l'efficacité de la retenue éthique des géants de la technologie.
Commentaires