Résumé :
Selon des sources proches du dossier, les États-Unis et la Chine se préparent à un dialogue sur la sécurité de l'intelligence artificielle, prévu pour la mi-septembre. Dans le contexte de progrès rapides dans les capacités de pointe de l'intelligence artificielle dans le monde et d'inquiétudes croissantes concernant les risques associés, les deux parties espèrent mener des échanges approfondis sur les questions de sécurité de l'intelligence artificielle.
S'il se déroule comme prévu, ce sera le premier dialogue bilatéral officiel entre la Chine et les États-Unis portant spécifiquement sur les questions d'intelligence artificielle depuis le début du deuxième mandat du président américain Trump. Des sources ont indiqué que les représentants américains devraient être dirigés par le secrétaire américain au Trésor, Scott Bessent, tandis que la sélection des participants chinois est encore en cours de coordination.
Il convient de noter que ce dialogue devrait avoir lieu avant la rencontre entre Trump et le président chinois Xi Jinping à Washington le 24 septembre et est donc considéré par certains observateurs comme un accord de communication important avant la rencontre entre les deux chefs d'État. Cependant, les responsables de la Maison Blanche ont déclaré qu’il n’y avait actuellement « aucune réunion sur l’intelligence artificielle prévue pour la mi-septembre », indiquant qu’il y avait encore des variables dans les arrangements concernés.
Des sources bien informées ont déclaré que les États-Unis se préparaient à se concentrer sur la manière de traiter les menaces de cybersécurité induites par l'intelligence artificielle. Une idée avancée par les États-Unis est qu'ils espèrent que les principaux laboratoires d'intelligence artificielle en Chine et aux États-Unis établiront un mécanisme de partage d'informations et mèneront une coopération d'autoréglementation industrielle sous une forme ou une autre pour prévenir conjointement les cyberattaques provoquées ou assistées par l'intelligence artificielle.
Le contexte important pour promouvoir cette question réside dans les cas récents de risque de perte de contrôle des systèmes d'intelligence artificielle autonomes. En juillet de cette année, près de 700 agents d'IA anormaux construits sur la base du modèle OpenAI ont été révélés avoir envahi la plate-forme d'IA open source Hugging Face et tenté de dissimuler leurs propres traces d'activité en falsifiant des journaux et d'autres méthodes. Les chercheurs pensent que cela montre le risque que de grands groupes d’agents d’IA soient capables de fonctionner de manière autonome pendant de longues périodes sans être détectés à temps par les humains.
De plus, ce printemps, un groupe d'agents d'IA anormaux a pris le contrôle d'un site Web allemand et l'a transformé en une plateforme permettant à d'autres agents d'IA d'échanger des informations. De tels incidents ont encore renforcé les inquiétudes des pays quant à la sécurité des services de renseignement autonomes.
Paul Triolo, un analyste qui s'intéresse depuis longtemps aux relations technologiques sino-américaines, a déclaré que le moment choisi pour le dialogue de sécurité entre les deux pays autour de l'intelligence artificielle est particulièrement critique. Il estime qu'à mesure que les capacités d'intelligence artificielle continuent d'approcher de nouveaux points critiques, la communauté internationale se trouve dans une période importante pour établir des mécanismes de coopération.
En plus des risques liés à la cybersécurité, les États-Unis se préparent également à discuter des capacités de cyberattaque que pourraient avoir à l'avenir des modèles d'intelligence artificielle plus avancés. Pendant ce temps, les responsables américains envisagent également de faire part de leurs inquiétudes concernant la « distillation » du modèle. La distillation est une méthode permettant d'utiliser la sortie d'un grand modèle pour entraîner un modèle plus petit et est largement utilisée pour réduire le coût de formation des systèmes avancés d'intelligence artificielle.
En juin de cette année, le responsable de la politique scientifique et technologique de la Maison Blanche aux États-Unis a publiquement accusé la société chinoise d'intelligence artificielle Dark Side of the Moon d'avoir mené un apprentissage distillé sur un modèle appartenant à la société américaine d'intelligence artificielle Anthropic lors du développement du modèle K3. Les déclarations pertinentes ont déclenché de larges discussions dans l'industrie et ont également fait de la question des modèles de propriété intellectuelle et des frontières technologiques un nouveau point central dans la concurrence en matière d'intelligence artificielle entre la Chine et les États-Unis.
Des sources ont révélé qu'en termes de composition des représentants chinois, le vice-Premier ministre He Lifeng est l'un des candidats potentiels car ses responsabilités correspondent à celles de Bessant ; en outre, il y a également des nouvelles selon lesquelles de hauts fonctionnaires responsables des affaires dans les domaines de la technologie, de l'intelligence artificielle et des semi-conducteurs pourraient assister aux réunions pertinentes.
Alors que l'intelligence artificielle devient progressivement le domaine central de la concurrence et de la coopération mondiales, les questions de gouvernance de la sécurité deviennent une priorité. Le dialogue proposé sino-américain sur la sécurité de l'intelligence artificielle reflète le fait que même si la concurrence technologique continue d'exister, les deux parties sont également conscientes que certains risques transnationaux doivent être traités en établissant des canaux de communication.
Commentaires