Résumé :
Le 29 septembre, Trump a annoncé un accord sur l’industrie de l’intelligence artificielle promu par la Maison Blanche. Ce document a déjà été signé par Trump et les dirigeants d'un certain nombre de grandes entreprises technologiques, et est décrit par Trump comme un engagement « moralement contraignant » de l'industrie.
Cet accord d'une page a été rendu public par Trump via sa plateforme sociale Truth Social. Le document appelle les entreprises participantes à établir un mécanisme de contrôle et d'audit de sécurité à quatre niveaux pour renforcer la supervision et la gestion des risques des systèmes avancés d'intelligence artificielle.
Selon les exigences de l'accord, les entreprises doivent d'abord établir un système de contrôle interne complet pour surveiller en permanence les capacités et l'alignement des modèles d'intelligence artificielle pendant la formation et le déploiement, en se concentrant sur des domaines tels que la cybersécurité, la biosécurité et les risques chimiques pour garantir que les modèles n'envahissent pas les systèmes ou n'accèdent pas aux installations techniques de manière inattendue.
L'accord exige également que les entreprises mettent en place une équipe interne dédiée pour superviser le fonctionnement des mécanismes de contrôle, de surveillance et de détection pertinents, garantir que diverses mesures de sécurité peuvent fonctionner conformément aux objectifs de conception, et identifier et résoudre les problèmes potentiels en temps opportun.
En termes de supervision externe, le document recommande aux entreprises de coopérer avec des institutions d'audit indépendantes ou des agences d'évaluation pour mener des évaluations indépendantes des systèmes de contrôle et de surveillance de l'intelligence artificielle de l'entreprise afin de vérifier si ces mécanismes de sécurité atteignent réellement les résultats escomptés.
En outre, l'accord propose également qu'un comité indépendant soit établi au niveau du conseil d'administration de l'entreprise. Le comité est chargé de recevoir les rapports des équipes internes et des institutions d'audit externes, de superviser la gouvernance de la sécurité de l'intelligence artificielle de l'entreprise et de favoriser la mise en œuvre de mesures d'amélioration en fonction des problèmes découverts.
Les entreprises participant à la signature de l'accord comprennent des acteurs importants du secteur américain de l'intelligence artificielle, tels que Google, Anthropic, Meta, OpenAI, X Platform et NVIDIA. Trump lui-même a signé le document en tant que président.
L'accord souligne qu'à mesure que l'industrie se développe, il pourrait s'avérer nécessaire de formaliser ces pratiques dans des exigences légales ou réglementaires à l'avenir. Cependant, que le gouvernement introduise ou non des exigences obligatoires, les entreprises participantes estiment que la mise en œuvre de ces mécanismes de contrôle et d'audit est cruciale pour garantir le développement sûr de l'intelligence artificielle et promettent donc de promouvoir de manière proactive des mesures pertinentes.
Le document propose également que les entreprises participantes tiennent des réunions régulières pour formuler conjointement des normes industrielles et des meilleures pratiques afin de continuer à améliorer la sécurité des systèmes d'intelligence artificielle.
Plus tôt dans la journée, Trump s'est entretenu avec un certain nombre de dirigeants de l'industrie technologique à la Maison Blanche. Parmi les participants figuraient Greg Brockman, cofondateur d'OpenAI, Dario Amodei, PDG d'Anthropic, Mark Zuckerberg, PDG de Meta, Sundar Pichai, PDG de Google et Jensen Huang, PDG de Nvidia, entre autres.
Après la réunion, Trump a déclaré que cet accord était « comme une constitution dans un sens » et l'a qualifié de mécanisme de protection important pour l'industrie de l'intelligence artificielle. Il a souligné que l'industrie dispose de fortes capacités d'autoréglementation et estime que l'initiative des entreprises visant à établir des réglementations de sécurité revêt une grande importance pour le développement durable de la technologie.
Le contexte de cet accord est qu'avec l'amélioration rapide des capacités de l'intelligence artificielle, les risques de sécurité associés font l'objet de plus en plus d'attention. Auparavant, des sociétés comme OpenAI et Anthropic avaient révélé que certains systèmes d'agents d'IA se comportaient au-delà des attentes, déclenchant des discussions sur la sécurité et la contrôlabilité des modèles. Dans le même temps, les problèmes de consommation d’énergie et d’impact communautaire provoqués par la construction de centres de données à grande échelle suscitent également des controverses dans de nombreuses régions des États-Unis.
Bien que l'administration Trump se soit précédemment opposée à l'introduction de réglementations spéciales trop strictes pour l'intelligence artificielle, cette pression pour que l'industrie signe un accord volontaire de sécurité est considérée comme une nouvelle mesure du gouvernement américain visant à rechercher un équilibre entre la promotion de l'innovation technologique et la réponse aux préoccupations de sécurité.
Commentaires