Résumé :
De hauts responsables du ministère de la Défense des États-Unis ont récemment réfuté publiquement la « théorie apocalyptique » selon laquelle l'IA pourrait détruire l'humanité, estimant que les préoccupations associées découlent de la peur du changement, et ont réitéré qu'Anthropic reste un risque pour la chaîne d'approvisionnement identifié par le ministère de la Défense. Selon les médias du 10 septembre, heure locale, Emil Michael, directeur de la technologie du département américain de la Défense et sous-secrétaire à la recherche et à l'ingénierie, a publiquement répondu ce jour-là aux inquiétudes croissantes concernant les risques liés à l'IA.
L'ancien ingénieur d'Anthropic, Jacob Coxon, avait déjà mis en garde dans un message sur la plateforme sociale
Michael a mentionné le message de Coxon lors d'une conférence sur l'industrie de la défense à Washington, D.C. Le message a maintenant été consulté plus de 150 millions de fois.
Michael a déclaré : "Il est facile pour les gens de tomber dans ce cycle apocalyptique de pensée : 'Nous allons mettre 40 % des Américains au chômage, nous allons détruire l'humanité.' En fin de compte, c'est la peur des centres de données, la peur du changement, le tout résumé dans un tweet bien écrit."
Il a souligné que
Les dommages potentiels de l'IA mentionnés dans le message de Coxon peuvent être atténués grâce aux mécanismes du libre marché, à la collaboration à l'échelle de l'industrie, ainsi qu'à la communication et à la coopération avec le gouvernement.
Coxon a publié plusieurs articles plus tôt cette semaine, affirmant qu'OpenAI et Anthropic « se dirigent directement vers une superintelligence auto-améliorée, pariant sur nos vies » et avertissant qu'« il y aura bientôt des systèmes surhumains capables de percer n'importe quel système, de renverser n'importe quel domaine du jour au lendemain et d'acquérir un pouvoir et des ressources réels ».
Selon les médias, Coxon, 27 ans, est un Britannique diplômé de l'Université de Cambridge avec une spécialisation en mathématiques. Il est engagé dans des recherches de pré-formation chez OpenAI et Anthropic depuis environ trois ans et a été l'un des principaux contributeurs de GPT-4o.
Michael était un ancien cadre de la plateforme américaine de covoiturage en ligne Uber et dirige actuellement les efforts visant à accélérer l'application de l'IA dans l'armée américaine.
La bataille juridique continue
Il convient de noter que le jour où Michael a fait les remarques ci-dessus, il a également parlé du différend juridique en cours entre le Pentagone et Anthropic.
Anthropic est l'ancien employeur de Coxon, et le cœur du désaccord entre le Pentagone et Anthropic réside dans la manière dont l'utilisation de l'IA devrait être restreinte.
Selon les médias du 10 mars, heure locale, Anthropic a demandé qu'il soit interdit à l'armée américaine d'utiliser ses modèles pour la surveillance de masse du peuple américain ou des armes mortelles entièrement autonomes. Ce fut le point de départ du différend entre les deux parties.
Michael a déjà participé à la direction des négociations entre les deux parties, mais les négociations ont échoué plus tôt cette année. Le Pentagone a rejeté les conditions applicables au motif qu'elles porteraient atteinte à l'autorité militaire et a identifié Anthropic comme une menace pour la chaîne d'approvisionnement américaine.
Le différend entre les deux parties a été transféré devant un tribunal fédéral et Anthropic a intenté des poursuites en Californie et à Washington, DC.
Selon les médias du 3 septembre, heure locale, la juge Rita Lin du tribunal fédéral du district nord de Californie a rendu une décision en faveur d'Anthropic le 27 août, mais la cour d'appel fédérale de Washington n'a pas encore rendu de décision.
Michael a accusé Anthropic d'avoir délibérément choisi un tribunal californien ayant des positions politiques plus libérales pour intenter une action en justice, et a qualifié une autre affaire entendue à Washington de « plus importante ». Il a insisté sur le fait qu'Anthropic reste un risque pour la chaîne d'approvisionnement jusqu'à ce que l'affaire Washington soit tranchée.
Le Pentagone a déjà effectué deux déterminations indépendantes des risques liés à la chaîne d'approvisionnement pour Anthropic, sur la base de deux lois différentes. Le tribunal californien n’en a annulé qu’une seule ; l'autre conclusion a été directement entendue par la Cour d'appel du circuit fédéral de Washington, D.C., comme l'exige la loi. Par conséquent, avant que le jugement dans l'affaire Washington ne soit prononcé, la détermination du risque correspondante par le ministère de la Défense reste valable.
Commentaires