Résumé :
La tentative de l'administration Trump d'assurer la sécurité de l'intelligence artificielle (IA) par le biais de la responsabilité juridique a ouvert la voie à de futurs différends sur qui devrait supporter les pertes lorsqu'un modèle d'IA devient incontrôlable : les entreprises qui développent ces systèmes, ou les utilisateurs qui déploient les technologies associées.
L'approche consistant à exiger des développeurs d'IA qu'ils assument la responsabilité financière de la sécurité de leurs produits bénéficie du soutien du secrétaire américain au Trésor, Scott Bessant, et de l'ancien chef de l'IA de la Maison Blanche, David Sacks. Les deux soutiennent que les lois existantes sur la responsabilité sont plus efficaces que l’introduction de nouvelles règles réglementaires. Tout en s’opposant aux nouvelles mesures réglementaires de sécurité de l’IA, le président américain Donald Trump a en outre déclaré que si un modèle d’IA se comporte de manière incontrôlable, le ministère de la Justice devrait intervenir.
Dernier signe que le gouvernement est de plus en plus disposé à utiliser les lois existantes pour résoudre les problèmes de sécurité de l'IA, le groupe de travail sur l'IA nouvellement créé par Trump a averti vendredi les sociétés de développement qu'elles devaient signaler et résoudre les incidents de sécurité sous peine de subir des conséquences.
Après qu'Anthropic PBC a révélé un incident de sécurité, un groupe de travail connu sous le nom de « Super Intelligence Force » a publié une déclaration disant : « Les entreprises doivent immédiatement divulguer les incidents impliquant leurs modèles et agir rapidement et de manière décisive pour remédier à tout dommage. Les divulgations tardives, les actions correctives insuffisantes et le refus d'accepter la responsabilité ne seront pas tolérés. »
Cependant, l’approche de l’administration Trump consistant à faire de la responsabilité un pilier de la sécurité de l’IA se heurte encore à de nombreuses incertitudes. Les experts juridiques affirment que les lois existantes en matière de cybersécurité et de responsabilité du fait des produits pourraient ne pas suffire à soutenir la responsabilité fédérale pour les dommages causés par les agents d’IA.
Même si la victime est claire, il existe peu de précédents juridiques permettant de définir qui devrait être responsable des dommages causés par un agent d'IA incontrôlable, et quel type d'obligation de diligence les entreprises doivent assumer lors du développement d'outils d'IA. Pour compliquer encore les choses, le comportement du modèle est affecté à la fois par le développeur et par l'utilisateur final qui déploie le système.
Ben Hayum, chercheur associé spécialisé dans la recherche sur la technologie et la sécurité nationale au Center for a New American Security, a déclaré : "Malgré des appels continus à clarifier la responsabilité, il n'est toujours pas résolu si les sociétés d'IA ont l'obligation légale de garantir que les modèles ne causent pas de préjudice, et si les utilisateurs doivent assumer la responsabilité légale des instructions qu'ils donnent aux modèles."
Alors que les entreprises accélèrent l'adoption de la technologie de l'IA, les discussions sur la responsabilité deviennent plus urgentes. Les institutions financières, les détaillants et les compagnies aériennes de Wall Street utilisent les agents IA dans un éventail de scénarios commerciaux de plus en plus large, tels que le service client et le traitement des factures. L’issue de ce débat pourrait affecter la popularité de l’IA et les projets futurs d’OpenAI et d’Anthropic, deux leaders du secteur, d’entrer sur le marché des capitaux.
Lors de l'utilisation d'agents IA, les utilisateurs finaux expliquent généralement uniquement les objectifs de la tâche, mais ne précisent pas la méthode d'exécution en détail. Cela permet aux agents IA de prendre des décisions qui n’ont pas été examinées par l’utilisateur, voire de prendre des mesures nuisibles. Dans ce cas, il n’est toujours pas clair si la responsabilité incombe au développeur ou à l’utilisateur.
La pression de l’administration Trump en faveur de la responsabilité est cohérente avec sa position globale en faveur d’une réglementation plus souple de l’IA. Le développement de l’intelligence artificielle constitue un élément important du programme économique de Trump. Après avoir rencontré environ deux douzaines de dirigeants technologiques de la Silicon Valley à la Maison Blanche la semaine dernière, Trump a une fois de plus exprimé son espoir que l'industrie de l'IA s'appuiera principalement sur l'autorégulation, et lancera en même temps un accord industriel non juridiquement contraignant pour encourager les entreprises à renforcer les contrôles de sécurité internes.
Dans le même temps, la déclaration de vendredi sur la divulgation obligatoire du problème du modèle a montré que la Maison Blanche est prête à utiliser cette équipe d'IA nouvellement formée pour faire appliquer les lois existantes. L'équipe est dirigée par le directeur du renseignement national, Jay Clayton.
Avec l’émergence d’une série d’incidents de sécurité inquiétants et la large diffusion de l’article du PDG d’Anthropic, Dario Amodei, mettant en garde contre les risques catastrophiques de l’IA, le débat sur la manière de réduire les risques de l’IA continue de s’intensifier.
Pour Trump et ses alliés, la menace de poursuites judiciaires vise à pousser des entreprises comme OpenAI et Anthropic à garantir la sécurité du fonctionnement de leurs systèmes. "La meilleure façon de garantir la sécurité est de tenir les créateurs responsables de ce qu'ils créent et génèrent", a déclaré Bessant lors d'une audience au Congrès le mois dernier.
Commentaires