Résumé :
Le débat sur la question de savoir si l'intelligence artificielle de pointe devrait ralentir de manière proactive son développement s'est rapidement intensifié ces derniers jours. Le PDG d'Anthropic, Dario Amodei, a publiquement appelé l'ensemble du secteur de l'IA à ralentir le rythme des capacités de modèles avancés, et le PDG d'OpenAI, Sam Altman, et le PDG de xAI, Elon Musk, ont ensuite exprimé leur soutien.
Cependant, David Sacks, investisseur technologique américain et président du Comité consultatif présidentiel pour la science et la technologie, a vivement critiqué cette initiative, estimant que si OpenAI et Anthropic croient vraiment que la vitesse actuelle du développement de l'IA est suffisamment dangereuse pour devoir freiner, alors ils peuvent ralentir la recherche et le développement de leur propre chef et ne devraient pas imposer de coordination industrielle, d'exemptions antitrust ou de mécanismes d'approbation gouvernementale comme conditions supplémentaires.
Amodei a précédemment publié un article avertissant que les capacités d'IA de pointe approchent rapidement d'un stade susceptible de créer des risques de sécurité majeurs. Il estime que si le modèle continue de se développer au rythme actuel et que le mécanisme de sécurité ne peut pas suivre le rythme, dans les 6 à 12 prochains mois, les clusters d'agents d'IA pourraient même avoir la capacité de contrôler Internet à grande échelle et d'être utilisés pour lancer des cyberattaques ou commettre d'autres dommages graves.
Amodei a proposé un ensemble de plans appelés « ralentir l'IA de pointe », qui incluent notamment l'autorisation d'agences tierces indépendantes d'évaluation de la sécurité de pénétrer en profondeur dans les entreprises d'IA pour vérifier en permanence la sécurité des modèles avec une autorité proche des employés de l'entreprise ; laisser les grands laboratoires d’IA coordonner les normes de sécurité pour éviter que les entreprises n’abaissent constamment les seuils de sécurité en raison de la pression concurrentielle ; tout en promouvant une coopération plus étroite entre les États-Unis et leurs alliés, et en discutant finalement des questions de sécurité de l’IA avec d’autres pays, dont la Chine.
Cette initiative a rapidement obtenu le soutien d'OpenAI. Altman a déclaré qu'il était d'accord avec le point de vue d'Amodei selon lequel l'industrie de l'IA devait ralentir le développement de modèles de pointe, et a déclaré que cette question était devenue un sujet important de discussion récente au sein d'OpenAI. Musk a également exprimé publiquement son approbation. En peu de temps, plusieurs des plus importantes sociétés d’IA au monde sont parvenues à un rare consensus sur la question du « ralentissement approprié ».
Mais Sacks pense qu'il y a ici un problème logique évident.
Selon son point de vue, si Amodei et Altman croient vraiment que le modèle d'IA de nouvelle génération comporte de sérieux risques qui doivent être ralentis, alors les deux sociétés n'ont pas besoin d'attendre l'approbation du gouvernement, ni de convaincre leurs concurrents, ni d'un nouveau cadre juridique. En tant qu’entreprises de développement d’IA les plus avancées actuellement, elles peuvent directement réduire leur vitesse de R&D et de déploiement.
Sacks a même suggéré que si ces entreprises croient vraiment que certains systèmes d'IA sont suffisamment dangereux pour menacer les humains, alors le « moyen le plus simple » est de ne pas continuer à développer ou à publier ces systèmes. Il estime qu'au lieu de demander au gouvernement d'établir un nouveau système de réglementation, il est préférable de laisser les entreprises qui maîtrisent véritablement les capacités de pointe en matière de recherche et de développement en IA agir par elles-mêmes.
Ce à quoi Sacks s'oppose vraiment, c'est la partie du plan d'Amodei qui implique une coordination industrielle et des dispositions réglementaires. Il a averti que si des concurrents tels qu'OpenAI et Anthropic obtiennent des exemptions antitrust par l'intermédiaire du gouvernement et décident ensuite conjointement à quelle vitesse l'ensemble du secteur doit développer l'IA, l'accord pourrait en fait évoluer vers un « cartel ».
De l'avis de Sacks, permettre à plusieurs des plus grandes sociétés d'IA de définir conjointement le rythme de développement d'une IA de pointe peut produire des résultats complètement différents des objectifs de sécurité. Les géants existants peuvent non seulement limiter la concurrence grâce à ce mécanisme, mais peuvent également utiliser le système de réglementation pour relever le seuil d'entrée des derniers arrivants sur le marché, consolidant ainsi davantage leur position de leader.
C'est également au cœur des critiques de Sacks : il n'est pas simplement opposé au ralentissement de l'industrie de l'IA, mais il estime que si les entreprises sont vraiment disposées à ralentir, elles devraient le faire elles-mêmes au lieu de demander au gouvernement de fournir une sorte de protection juridique en échange.
Sacks s'oppose également à la mise en place d'un système d'approbation préalable similaire à celui de la "AI Food and Drug Administration". Selon lui, il n’est pas nécessaire que les agences gouvernementales approuvent ces produits un par un avant que les modèles d’IA avancés ne soient officiellement publiés. Plutôt que d’établir un nouveau mécanisme de licence préalable, il est préférable de s’appuyer sur le système de responsabilité du fait des produits existant pour permettre aux entreprises d’IA d’assumer la responsabilité juridique de leurs produits et de leurs conséquences.
Par exemple, si un modèle d'IA est utilisé pour lancer une cyberattaque grave ou cause directement des dommages importants en raison de ses propres défauts, la société de développement du modèle doit alors assumer la responsabilité du produit correspondante. Sacks estime que cette conséquence juridique et économique potentielle peut elle-même devenir une contrainte importante pour les entreprises d’IA dans leur contrôle des risques.
Il estime également que le marché des capitaux a également un effet contraignant. Si les produits d'une certaine entreprise d'IA rencontrent fréquemment des problèmes de sécurité, un comportement imprévisible ou des accidents majeurs, sa réputation d'entreprise, la confiance de ses clients et sa valorisation boursière peuvent être directement affectées. Par conséquent, il n’est pas nécessaire d’établir un système d’approbation spécial pour l’industrie de l’IA, totalement indépendant du système juridique existant.
Dans le même temps, Sacks a également remis en question l'indépendance de certains mécanismes d'évaluation de la sécurité de l'IA. Il a spécifiquement mentionné l'agence d'évaluation de sécurité utilisée par Anthropic et a estimé que s'il existe une relation d'investissement, une relation de personnel ou une autre relation d'intérêt entre l'agence d'évaluation et l'entreprise évaluée, alors la question de savoir si cette évaluation est véritablement indépendante mérite une discussion plus approfondie.
Cette controverse s'est produite à un moment très sensible. Au cours des derniers mois, les inquiétudes concernant les risques de sécurité au sein de l’industrie de l’IA se sont considérablement accrues. Anthropic a récemment divulgué une série d'incidents liés à l'abus du système d'IA, aux capacités d'attaque du réseau et à la protection de la sécurité. Les chercheurs de l’entreprise ont également exprimé publiquement leurs inquiétudes quant à la rapidité du développement de l’IA.
Parmi eux, un chercheur d'Anthropic a publiquement averti, lors de sa récente démission, que l'industrie de l'IA fait progresser des technologies qui peuvent être extrêmement risquées à un rythme excessivement rapide. D’autres chercheurs en sécurité au sein d’Anthropic ont également exprimé de sérieuses inquiétudes quant au risque que l’IA devienne incontrôlable à l’avenir.
Par conséquent, l’appel public au ralentissement d’Amodei n’est pas une déclaration politique isolée, mais le résultat d’une nouvelle escalade de l’ensemble du débat sur la sécurité de l’IA.
Cependant, même si les entreprises sont réellement disposées à ralentir, le fonctionnement réel est bien plus compliqué qu'il n'y paraît. OpenAI, Anthropic, Google DeepMind, xAI et d'autres sociétés d'IA se livrent une concurrence féroce. Si une entreprise ralentit unilatéralement la R&D, elle peut craindre que ses concurrents profitent de l’occasion pour accélérer et obtenir des avantages en termes de capacités de modèle, de part de marché et de marchés de capitaux.
Cela constitue en fait un « dilemme du prisonnier » typique : si toutes les sociétés d'IA ralentissent en même temps, l'ensemble du secteur pourrait gagner plus de temps pour améliorer les mesures de sécurité ; mais si une seule entreprise ralentit tandis que ses concurrents continuent de progresser, alors l’entreprise qui ralentit activement risque de subir des pertes commerciales et techniques.
C'est pourquoi OpenAI a déjà commencé à se demander si la coordination industrielle violerait les lois antitrust américaines. Selon des rapports, OpenAI a demandé des avis clairs aux législateurs américains sur la question de savoir si la coordination de l'industrie pour ralentir le développement de l'IA est légale. Car si plusieurs entreprises concurrentes décident conjointement de ralentir le développement de modèles de pointe, cette coordination elle-même peut déclencher des problèmes juridiques antitrust.
En conséquence, une question très épineuse se pose : afin d'améliorer la sécurité de l'IA, les entreprises devraient-elles autoriser une coordination entre concurrents qui est généralement limitée par les lois antitrust ?
Les partisans pensent que si chaque entreprise d'IA sait que le ralentissement seul entraînera des désavantages concurrentiels, alors ce n'est que grâce à une sorte de coordination au niveau de l'industrie que toutes les entreprises pourront véritablement freiner en même temps.
Sacks estime que cela pourrait être une raison pour laquelle les grandes entreprises d'IA utilisent les problèmes de sécurité pour obtenir un traitement réglementaire spécial. Il craint qu'une fois que le gouvernement aura permis à plusieurs grandes entreprises de se coordonner grâce à des exemptions antitrust, ce mécanisme pourrait éventuellement évoluer d'une « coordination de sécurité » vers un outil visant à restreindre la concurrence sur le marché.
Dans le même temps, il existe une nette différence entre l’attitude du gouvernement américain face au ralentissement de l’IA et les affirmations de ces entreprises technologiques. Le président américain Trump a récemment déclaré publiquement que, même s'il estimait que l'IA pouvait mettre en place certains « garde-fous », il ne souhaitait pas que les États-Unis ralentissent leur développement en raison de préoccupations excessives concernant les risques. Il a souligné que les États-Unis sont actuellement à la tête de la Chine dans le domaine de l'IA et que « celui qui gagnera l'IA gagnera l'avenir ». Les États-Unis ne peuvent donc pas facilement abandonner leur leadership technologique.
Cela relie également directement les problèmes de sécurité de l'IA à la concurrence technologique sino-américaine.
Amodei lui-même a également admis que si les États-Unis ralentissaient unilatéralement de manière significative le développement de l'IA alors que la Chine et d'autres pays continuaient à accélérer, les États-Unis pourraient perdre leur avantage technologique. Par conséquent, ce qu’il propose n’est pas de demander aux entreprises américaines d’arrêter indéfiniment la recherche et le développement en matière d’IA, mais d’espérer que les grands pays et les grandes entreprises puissent former une sorte de mécanisme de coordination pour gagner du temps pour les mesures de sécurité tout en conservant leurs avantages concurrentiels.
Le problème est qu’il n’existe actuellement aucun mécanisme garantissant que tous les pays ralentiront simultanément.
C'est également devenu l'une des raisons les plus importantes pour ceux qui s'opposent au ralentissement à grande échelle de l'industrie. Si l’IA est devenue un élément important de la concurrence stratégique nationale, il est difficile pour l’une ou l’autre partie de croire que les concurrents s’arrêteront volontairement et attendront qu’ils améliorent leurs systèmes de sécurité.
Par conséquent, le débat entre Sacks, OpenAI et Anthropic est en réalité allé bien au-delà de la simple question technique de « à quelle vitesse l'IA devrait se développer » et implique un choix de politique industrielle plus complexe : si les entreprises doivent décider de la vitesse de développement de l'IA de pointe, ou si le gouvernement doit participer à la formulation de règles unifiées ; la coordination en matière de sécurité doit-elle être considérée comme une coopération industrielle légitime ou si elle peut évoluer vers un cartel restreignant la concurrence ; si les accidents liés à l’IA doivent être évités par une réglementation ex ante, ou si les entreprises doivent supporter les coûts post-événement par le biais de la responsabilité du fait des produits.
À l'heure actuelle, il semble que Sacks ne s'oppose pas à ce qu'OpenAI et Anthropic prennent l'initiative de ralentir. Si les deux sociétés croient réellement que les risques de l’IA de pointe sont suffisamment sérieux pour ralentir leur recherche et développement, il a même clairement indiqué qu’il pouvait les soutenir dans cette démarche.
Mais ses conditions étaient également claires : si vous pensez que vous devriez ralentir, ralentissez vous-même et ne l'échangez pas contre l'approbation du gouvernement, des exemptions antitrust ou des protections réglementaires spéciales.
Le véritable résultat de ce débat pourrait en fin de compte dépendre de ce que feront ensuite OpenAI et Anthropic. S'ils prennent réellement l'initiative de ralentir le développement de modèles de pointe sans bénéficier d'un traitement juridique spécial, alors « ralentir l'IA » est plus susceptible d'être considéré comme une véritable action de sécurité ; si ce qui se forme finalement est un système de régulation dans lequel quelques grandes entreprises formulent conjointement des règles tout en restreignant l’entrée des retardataires, alors les préoccupations de Sacks concernant la « capture réglementaire » et les « cartels » recevront plus d’attention.
Alors que les capacités des modèles d'IA continuent de s'améliorer rapidement, le débat sur « l'accélération ou la décélération » ne s'arrêtera évidemment pas de sitôt. Cela deviendra probablement l’une des contradictions fondamentales de la politique américaine et mondiale en matière d’IA dans les prochaines années.
Commentaires