Résumé :
Anthropic a averti les investisseurs que le plaidoyer ouvert de l'entreprise en faveur de la sécurité de l'intelligence artificielle (IA) pourrait en faire une cible de représailles du gouvernement. Ces commentaires soulignent l'impact potentiellement disproportionné des risques liés au gouvernement sur les activités futures d'Anthropic après des frictions répétées avec l'administration Trump au cours de l'année écoulée.
Anthropic a déclaré dans son dossier d'introduction en bourse que sa position sur la réglementation de l'IA et les opinions exprimées publiquement par les dirigeants de l'entreprise pourraient la soumettre à d'importantes pressions gouvernementales.
Anthropic mentionne dans son prospectus : "Nous avons reçu et pourrions continuer de recevoir plus d'attention et pourrions continuer à faire l'objet d'un examen plus strict. Nous pouvons être ciblés par des agences gouvernementales spécifiques, même si d'autres sociétés dans des situations similaires n'ont pas été traitées de la même manière."
En septembre, le PDG d'Anthropic, Dario Amodei, est arrivé à la Maison Blanche pour une réunion.
Les affrontements entre Anthropic et l'administration Trump découlent d'un différend survenu plus tôt cette année sur les garde-fous de sécurité qui devraient être mis en place lorsque le Pentagone utilise la technologie de l'entreprise. Anthropic a récemment été en désaccord avec les responsables gouvernementaux sur la question de savoir si son modèle de pointe Mythos était suffisamment sûr. Le PDG Dario Amodei a soutenu un ralentissement coordonné du développement de l'IA pour donner aux équipes de sécurité le temps de rattraper le retard technologique, une position qui a irrité Trump.
Les investisseurs doivent désormais peser les risques réglementaires auxquels l'anthropique est confronté. La technologie de l'entreprise est facile à utiliser et peut être commercialisée comme un produit de consommation courante, mais suffisamment puissante pour être considérée comme une cyber-arme et peut-être même comme un catalyseur de guerre biologique, et donc soumise à un examen plus approfondi. Pour Anthropic, les conflits répétés avec l’administration Trump ajoutent un niveau de risque supplémentaire à l’incertitude à laquelle est confrontée l’ensemble du secteur de l’IA.
Sarah Kreps, directrice du Tech Policy Institute de l'Université Cornell, a déclaré : "Pour l'IA, les limites du pouvoir gouvernemental sont encore progressivement clarifiées, parfois par le biais de confrontations directes avec des entreprises individuelles. Il est difficile pour les investisseurs de mettre un prix sur cette incertitude."
Anthropic a révélé dans son prospectus une variété d'impacts négatifs que le gouvernement pourrait avoir et a mentionné une série de projets de loi fédéraux, notamment la fermeture forcée de modèles et même la nationalisation d'entreprises d'IA. Plus tôt cette année, certains responsables, dont le vice-président Vance, ont lancé l’idée d’utiliser la loi sur la production de défense datant de la guerre froide pour forcer les entreprises à divulguer des informations et à coopérer avec les agences de sécurité nationale. Bloomberg en a parlé.
Anthropic a également répertorié les risques que l'intervention gouvernementale peut poser aux efforts de développement de l'IA, y compris la possibilité que les contrôles commerciaux puissent entraîner la perte de clients étrangers pour les entreprises, et les conséquences juridiques possibles d'une mauvaise conduite des modèles. Anthropic a déclaré que l'entreprise pourrait ne pas être en mesure de « complètement comprendre ou expliquer » les actions prises par les systèmes qu'elle développe, et qu'elle continuera à faire pression pour des mesures réglementaires qui pourraient à leur tour entraver ses propres activités.
Anthropic a déclaré : "Si les mesures réglementaires ou autres mesures similaires que nous préconisons sont adoptées, nous serons également soumis à ces mesures, et les nouvelles réglementations pourraient augmenter notre fardeau de conformité, limiter notre flexibilité dans le développement ou le déploiement de produits, affecter la manière et le moment où nous développons ou publions de nouveaux modèles, ou ralentir notre croissance."
Anthropic a également averti que la technologie qu'elle développe pourrait à terme constituer une menace pour les humains. Cela fait écho aux craintes de nombreux chercheurs en IA de la Silicon Valley quant aux conséquences catastrophiques, craintes que Trump et ses alliés ont qualifiées de « canular ».
En septembre, le G20 s'est tenu à Chapel Hill, en Caroline du Nord. Un manifestant tient une pancarte contre l’IA à l’extérieur de la Conférence ministérielle sur l’innovation.
L'entreprise a déclaré : "Si les systèmes d'IA avancés ne sont pas développés, déployés et exploités dans le cadre de garde-fous, de supervision et de mesures de sécurité appropriés, ils peuvent présenter des risques catastrophiques, voire existentiels, pour l'humanité."
Anthropic a déclaré que ses efforts récents pour combiner les modèles d'IA avec la recherche scientifique pourraient conduire à des restrictions visant à empêcher la création d'armes biologiques mortelles. Si le modèle est utilisé à mauvais escient pour des cyberattaques, Anthropic peut être soumis à une responsabilité légale et subir des dommages à sa réputation.
L'administration Trump n'est pas seulement un régulateur d'Anthropic, mais également un client important des produits de l'entreprise, augmentant encore l'exposition de l'entreprise aux décisions gouvernementales. Anthropic a déclaré que les revenus directement issus des contrats avec les agences gouvernementales représentaient environ 1 % du chiffre d'affaires total sur toutes les périodes couvertes par les dépôts d'introduction en bourse, les données remontant jusqu'à 2023.
William Reinsch, ancien sous-secrétaire du Bureau de l'industrie et de la sécurité du département américain du Commerce, a déclaré : « La situation d'Anthropic est quelque peu particulière, car sous l'administration Trump, de nombreuses actions étaient très arbitraires et Anthropic était traitée différemment des autres entreprises. »
Matt Pearl, ancien directeur du Conseil de sécurité nationale de la Maison Blanche et aujourd'hui directeur du programme de technologie stratégique au Centre d'études stratégiques et internationales, a déclaré : "Nous ne savons pas quel genre d'agence Anthropic et d'autres grandes sociétés d'IA finiront par devenir. Je n'ai jamais vu une situation comme celle-ci. La forme finale d'une grande entreprise et sa relation la plus fondamentale avec le gouvernement sont dans un état aussi irrésolu."
Commentaires