Sam Altman, PDG de la société américaine d'intelligence artificielle OpenAI, a récemment déclaré dans une note interne adressée aux employés que l'entreprise respecterait la même « ligne rouge » que son concurrent Anthropic en ce qui concerne une éventuelle coopération avec le département américain de la Défense (Pentagone) : refuser que sa propre technologie d'intelligence artificielle soit utilisée pour la surveillance de masse ou pour des systèmes d'armes létales entièrement autonomes.
Altman a souligné dans la note qu'OpenAI ne fournirait pas de support technique pour une surveillance à grande échelle et ne participerait pas non plus au développement de systèmes d'armes capables de déterminer de manière autonome des frappes mortelles. Ceci est tout à fait cohérent avec l’objectif sur lequel Anthropic a insisté lors de précédentes négociations avec le Pentagone. Le refus d’Anthropic de faire des concessions sur les deux types d’utilisations ci-dessus a conduit à un jeu très médiatisé et aux enjeux élevés avec le département américain de la Défense.
Cette déclaration place la configuration du Pentagone dans le domaine de l'IA militaire face à de nouvelles incertitudes. Auparavant, le grand modèle de langage Claude d'Anthropic était le premier à être intégré dans certains des scénarios commerciaux les plus sensibles de l'armée américaine et était considéré comme une étape importante pour le ministère de la Défense dans la promotion de l'application militarisée de la technologie de pointe de l'IA. Désormais, si OpenAI et Anthropic restent cohérents sur les principales limites éthiques, et que d’autres grandes entreprises telles que Google suivent des positions similaires, le Pentagone se heurtera à une plus grande résistance aux négociations et à l’acquisition de technologies lorsqu’il recherchera des alternatives, en particulier lors du déploiement de grands modèles à usage général dans des missions militaires hautement sensibles.
Le débat technique et éthique autour de l’IA militaire s’intensifie entre les entreprises technologiques américaines et les ministères gouvernementaux. D'une part, le département américain de la Défense espère utiliser l'intelligence artificielle générale pour améliorer l'analyse du renseignement, le commandement de combat et les capacités de prise de décision sur le champ de bataille, et même explorer des applications automatisées de plus haut niveau ; d'un autre côté, de nombreuses grandes entreprises d'IA recherchent un équilibre entre opportunités commerciales et responsabilités éthiques, en essayant de limiter la propagation de la technologie dans des domaines sensibles tels que la surveillance de masse et les armes mortelles autonomes en fixant des « lignes rouges ».
La déclaration d'Altman est considérée comme le positionnement clair d'un autre acteur clé sur les résultats financiers de l'IA militaire après que les divergences entre le Pentagone et Anthropic soient devenues publiques. Dans le contexte d’une industrie très concentrée de l’IA aux États-Unis, si les grandes entreprises parviennent à un consensus sur les limites éthiques, cela affectera profondément la voie et le rythme de l’acquisition et du déploiement futurs par l’armée de capacités générales d’IA. Cela pourrait également promouvoir de nouvelles discussions et jeux aux États-Unis sur la supervision de l’IA militaire et les règles internationales.
Articles connexes :
Anthropic se prépare à se retirer d'un contrat de défense de 200 millions de dollars, le secrétaire américain à la Défense menace de forcer le partage de technologie
Le département américain de la Défense fixe une date limite pour l'utilisation illimitée des outils d'IA anthropique