Résumé :
Le débat dans l'industrie de l'intelligence artificielle sur la question de savoir « si la vitesse de développement doit être ralentie » s'intensifie rapidement, et la Chine a été poussée au cœur de ce débat. Le PDG d'Anthropic, Dario Amodei, a récemment déclaré publiquement que si le monde tentait de fixer une limite de vitesse au développement de l'intelligence artificielle, le plus grand problème pratique n'était pas la technologie elle-même, mais la façon de gérer la possibilité que des concurrents tels que la Chine continuent d'accélérer.
Amodei a fait la déclaration ci-dessus dans une interview avec les médias. Il n’y a pas si longtemps, il venait de publier un long article qui a attiré une large attention, appelant le secteur de l’intelligence artificielle à ralentir de manière proactive la vitesse d’amélioration des capacités des modèles de pointe afin de gagner plus de temps pour la recherche sur la sécurité, les cadres de gouvernance et le contrôle des risques. Il estime que les progrès des modèles à grande échelle au cours des dernières années ont largement dépassé les attentes de nombreuses personnes, en particulier après l'émergence de la tendance de l'intelligence artificielle à participer à la recherche et au développement de l'intelligence artificielle, et que l'amélioration des capacités techniques s'accélère.
Cependant, en parlant de la faisabilité pratique de cette idée, Amodei a admis que la Chine constitue le « dilemme le plus difficile » auquel est confronté l'ensemble du plan. Il a déclaré que si seulement certains pays ou entreprises choisissent de ralentir tandis que d'autres pays continuent d'accélérer, alors celui qui ralentit activement pourrait être désavantagé en termes de concurrence technologique, d'intérêts économiques et même d'avantages militaires.
Amodei estime qu'à long terme, la communauté internationale devrait essayer de coopérer pour établir une sorte de « mécanisme de limitation de vitesse » pour le développement de l'intelligence artificielle afin d'éviter une concurrence désordonnée et de promouvoir les capacités technologiques permettant de franchir rapidement les limites de la sécurité. Mais il a également déclaré qu’une telle coopération est extrêmement difficile car les avantages stratégiques d’être le premier à acquérir des capacités avancées d’intelligence artificielle sont énormes. Il admet qu'il n'est même pas sûr qu'une telle coordination mondiale soit réellement réalisable, mais il estime néanmoins qu'il est nécessaire d'y œuvrer.
Cette déclaration intervient à un moment où les questions de sécurité de l’intelligence artificielle font l’objet d’une attention continue. Récemment, un certain nombre de chercheurs d'Anthropic et d'OpenAI ont exprimé publiquement leur inquiétude quant au fait que la vitesse de développement des systèmes d'intelligence artificielle dépasse les progrès de la recherche en matière de sécurité. Certains chercheurs ont même prévenu que le risque d’une grave perte de contrôle dans les années à venir pourrait être plus élevé que ce que l’opinion publique croit généralement.
Avant qu'Amodei ne lance son appel au ralentissement, le chercheur d'Anthropic Jacob Coxon avait déjà annoncé son départ et critiqué publiquement la trajectoire de développement actuelle de l'industrie de l'IA. Il estime que les grands laboratoires d’IA prennent des risques trop élevés et que ce risque pourrait affecter l’ensemble de la société humaine.
Dans le même temps, la rapidité de développement de l’industrie chinoise de l’intelligence artificielle ces dernières années a également attiré une grande attention de la part de l’industrie technologique américaine. Au cours des derniers mois, de nouveaux modèles lancés par un certain nombre de sociétés chinoises d’intelligence artificielle ont continué à réduire l’écart avec les principaux produits américains, intensifiant ainsi les discussions dans la Silicon Valley sur les changements dans le paysage concurrentiel mondial de l’IA.
Au même moment où Amodei parlait, les dirigeants chinois ont appelé à l'établissement d'un cadre de gouvernance mondial de l'intelligence artificielle basé sur un consensus lors du sommet des BRICS et ont soutenu la construction d'un système de coopération open source pour l'intelligence artificielle. Cela a progressivement élargi la question de la gouvernance de l’intelligence artificielle du domaine de la science et de la technologie au niveau de la politique et de la diplomatie internationales.
Les analystes ont souligné que le secteur de l'intelligence artificielle est actuellement confronté à une contradiction sans précédent. D'une part, de plus en plus d'entreprises et de chercheurs réclament un renforcement de la supervision et un ralentissement de l'expansion des capacités de pointe ; d’un autre côté, les pays ne veulent pas rester à la traîne de leurs concurrents dans cette course technologique considérée comme d’importance stratégique.
Dans le même temps, deux des plus grandes sociétés d'intelligence artificielle aux États-Unis, Anthropic et OpenAI, sont en phase de préparation à la cotation. Alors que l’attention des marchés de capitaux, de la réglementation gouvernementale et de l’opinion publique continue de croître, le débat sur la question de savoir si l’intelligence artificielle doit continuer à progresser à plein régime ou ralentir de manière proactive devrait encore s’intensifier dans les mois à venir.
Pour Amodei, le cœur du problème n'est pas seulement de savoir si la technologie peut devenir plus forte, mais aussi si la société humaine peut établir des règles correspondantes à une vitesse suffisamment rapide lorsque la technologie continue de devenir plus forte. Parmi tous les défis pratiques, il estime que la manière de gérer la concurrence liée à la Chine reste le plus complexe et le plus difficile à résoudre dans ce débat mondial sur la gouvernance de l'intelligence artificielle.
Articles associés :
Anthropic accuse plusieurs sociétés chinoises d'IA de distillation à grande échelle. Alibaba, Dark Side of the Moon et DeepSeek sont accusés de dizaines de millions d'interactions
Commentaires