Le 9 mars, de nouveaux développements sont survenus dans le cas de la société américaine d'intelligence artificielle Anthropic qui a intenté une action en justice contre le ministère de la Défense. Plus de 30 employés d’OpenAI et de Google DeepMind ont soumis une déclaration commune au tribunal, soutenant publiquement la position d’Anthropic dans le procès contre le département américain de la Défense (DOD).
Selon des documents judiciaires, la déclaration indiquait que la décision du gouvernement de classer Anthropic parmi les « risques liés à la chaîne d’approvisionnement » constituait un usage de pouvoir inapproprié et arbitraire et pourrait avoir de graves conséquences pour l’ensemble du secteur de l’intelligence artificielle. Les signataires incluent Jeff Dean, scientifique en chef de Google DeepMind et d’autres personnalités techniques de poids de l’industrie.
Auparavant, le Pentagone américain avait officiellement identifié Anthropic comme un « risque pour la chaîne d'approvisionnement », une étiquette qui ne s'applique généralement qu'aux « adversaires étrangers ». Selon certaines informations, l’élément déclencheur a été le refus d’Anthropic d’autoriser le ministère de la Défense à utiliser sa technologie d’IA pour effectuer une surveillance de masse des citoyens américains ou pour des systèmes d’armes à feu autonomes ; le ministère de la Défense a insisté sur le fait que tant que l’utilisation était « légitime », elle ne devrait pas être restreinte par des entrepreneurs privés.
Après qu'Anthropic ait intenté deux poursuites contre le ministère de la Défense et d'autres agences fédérales, ce « mémoire d'amicus » soutenant sa position est immédiatement apparu dans le dossier, ce qui montre la tension au sein de l'industrie autour des limites des applications militaires de l'IA. Il semblerait que la première personne à avoir divulgué cette lettre d'opinion ait été le magazine "Wired".
Dans les documents soumis au tribunal, ces employés de Google et d'OpenAI ont souligné que si le Pentagone n'est « plus satisfait » des termes du contrat existant avec Anthropic, il peut directement résilier le contrat et passer à l'achat de services auprès d'autres grandes sociétés d'IA, plutôt que de « punir » via l'identification des risques de la chaîne d'approvisionnement.
En fait, presque au même moment où Anthropic était répertorié comme un risque pour la chaîne d'approvisionnement, le ministère de la Défense a conclu un nouvel accord de coopération avec OpenAI, une décision qui a également déclenché de vives protestations de la part de certains employés d'OpenAI. Ces employés craignent que l'utilisation par l'armée de grands modèles commerciaux pour effectuer des tests sensibles n'ait un impact sur le consensus de l'industrie sur les limites de sécurité.
La lettre d'opinion prévient que si de telles mesures « punitives » se poursuivent, elles affaibliront inévitablement la compétitivité des États-Unis dans le domaine de l'intelligence artificielle et de l'industrie scientifique au sens large. Le document indique en outre que cette approche aura également un effet dissuasif sur les débats publics sur les risques et les avantages des systèmes d'IA contemporains dans l'industrie, et empêchera la communauté technologique d'avoir des débats francs sur les questions de sécurité.
En l’absence actuelle d’un cadre juridique public écrit pour l’utilisation de l’IA, le document estime que les diverses restrictions imposées par les développeurs au système par le biais de termes contractuels et de moyens techniques constituent d’importantes soupapes de sécurité pour éviter des abus catastrophiques de l’IA. Les « lignes rouges » qu'Anthropic a tracées dans sa coopération avec l'armée, comme le refus de participer à la surveillance de masse et aux systèmes de mise à mort autonomes, sont considérées par l'état-major conjoint comme des exigences de sécurité raisonnables et nécessaires plutôt que « un obstacle à la sécurité nationale ».
Il convient de noter que de nombreux employés qui ont signé la déclaration du tribunal ont déjà signé une lettre ouverte appelant le ministère de la Défense à révoquer l’identification des risques liés à la chaîne d’approvisionnement d’Anthropic, et ont demandé à la direction de leur propre entreprise de soutenir publiquement Anthropic et de promettre de refuser de fournir leurs propres systèmes d’IA à l’armée pour une utilisation unilatérale dans des conditions non défendues.
Les analystes du secteur estiment que cette affaire ne concerne pas seulement la question de savoir si une entreprise d’IA peut respecter ses propres objectifs de sécurité au niveau du contrat, mais deviendra également un événement marquant dans la manière dont les États-Unis tracent une ligne entre les besoins de sécurité nationale et la gouvernance de la sécurité de l’IA. À mesure que le procès progresse, le jeu entre les entreprises technologiques, les employés et le gouvernement sur les applications militaires de l’IA devrait encore s’intensifier.
Articles connexes :
Anthropic poursuit le département américain de la Défense pour bloquer son inscription sur la liste noire de sécurité nationale