Le ministère américain de la Défense a déclaré mardi soir, heure locale, que les "lignes rouges" fixées par la société d'intelligence artificielle Anthropic concernant l'utilisation de sa technologie faisaient de l'entreprise un "risque inacceptable pour la sécurité nationale". Il s'agissait de la première réponse officielle du ministère à une action en justice intentée par l'entreprise concernant sa détermination du « risque lié à la chaîne d'approvisionnement ». Cela survient après que le secrétaire à la Défense, Pete Hegseth, a classé le mois dernier Anthropic comme une entité à « risque de chaîne d'approvisionnement », et qu'Anthropic a demandé à un tribunal d'interdire temporairement au ministère de la Défense d'appliquer cette étiquette.
Dans un dossier de 40 pages déposé auprès d'un tribunal fédéral de Californie, le ministère de la Défense a déclaré que sa principale préoccupation est que si Anthropic estime que son utilisation militaire viole les « lignes rouges » de l'entreprise, l'entreprise peut « tenter de désactiver sa technologie ou de modifier de manière préventive le comportement de son modèle avant ou pendant les opérations de combat ». Le ministère de la Défense estime que cette incertitude pourrait affecter directement le degré de fiabilité et de contrôlabilité de cette technologie dans les opérations de guerre.
Les informations montrent qu'Anthropic a signé l'été dernier un contrat de 200 millions de dollars avec le Pentagone, impliquant le déploiement de sa technologie d'intelligence artificielle dans des systèmes classifiés. Au cours des négociations ultérieures sur les termes du contrat, Anthropic a déclaré qu'elle ne souhaitait pas que son système soit utilisé pour la surveillance massive des Américains et estimait que la technologie n'était pas encore adaptée à une utilisation directe dans la sélection de cibles ou dans les décisions de tir avec des armes mortelles. Le Pentagone a souligné que les entreprises privées ne devraient pas avoir le dernier mot sur la manière dont l’armée utilise la technologie, et les différences entre les deux parties sur les limites de l’application de la technologie sont devenues publiques.
Après que le ministère de la Défense ait classé Anthropic comme un « risque pour la chaîne d'approvisionnement », cela a suscité des critiques de la part de nombreuses parties. Plusieurs organisations ont souligné que le Pentagone aurait pu exprimer sa position en résiliant le contrat sans avoir à recourir à l’outil plus meurtrier de l’identification des risques liés à la chaîne d’approvisionnement. Les employés de nombreuses entreprises technologiques, dont OpenAI, Google et Microsoft, ainsi que plusieurs groupes de défense des droits légaux, ont soumis des observations « amicus curiae » au tribunal pour soutenir publiquement la position d'Anthropic.
Dans le procès, Anthropic accuse le ministère de la Défense d'avoir violé ses droits au titre du premier amendement, arguant que le gouvernement punit les entreprises sur la base de positions idéologiques. L'entreprise affirme que les entreprises ont le droit d'exprimer leur point de vue sur les limites éthiques de leur technologie et de fixer des limites en conséquence, et ne devraient pas être qualifiées de risque de sécurité en raison de différences de valeurs avec le gouvernement.
Actuellement, le tribunal a prévu une audience sur la demande d’injonction préliminaire d’Anthropic pour mardi prochain. Au moment de mettre sous presse, Anthropic n’a pas répondu publiquement au dernier document du ministère de la Défense.
Articles connexes :
Anthropic demande à la cour d'appel d'annuler les conclusions du Pentagone concernant les risques pour sa chaîne d'approvisionnement