Résumé :
Le secrétaire général des Nations Unies, Guterres, a averti mercredi, heure locale, les dirigeants de divers pays que le développement rapide de l'intelligence artificielle (IA) entraîne des risques qui ne peuvent être ignorés et que le monde ne peut pas supporter le risque d'un nivellement par le bas dans le domaine de la sécurité de l'IA. Cette déclaration est en contradiction avec celle du président américain Trump, qui avait précédemment déclaré que les mesures réglementaires existantes étaient suffisantes.
Avant la réunion de l'Assemblée générale des Nations Unies la semaine prochaine à New York, Guterres a déclaré que le renforcement de la réglementation de l'IA serait l'une des questions clés abordées lors de ses entretiens avec les dirigeants mondiaux.
Lors de la conférence de presse, Guterres a déclaré : « Alors que nous examinons les menaces auxquelles nous sommes confrontés dans le monde, je voudrais faire quelques commentaires supplémentaires sur les inquiétudes croissantes provoquées par le développement rapide de l'IA. »
Il a ajouté : "L'IA a un énorme potentiel pour accélérer les progrès vers le développement durable, améliorer l'apprentissage, renforcer les systèmes de santé, accroître la résilience au changement climatique et bien plus encore."
Mais il a également souligné : "De plus en plus de personnes impliquées dans le développement de l'IA lancent des avertissements : elles craignent que la vitesse de développement de l'IA ait dépassé notre compréhension de ses risques potentiels."
"Nous ne pouvons ignorer les préoccupations soulevées, en particulier par ceux qui sont en première ligne dans le développement de l'IA. La première responsabilité de tout gouvernement est de protéger ses citoyens, et cela inclut de les protéger contre les menaces posées par l'IA."
Alors que les inquiétudes du public concernant les risques potentiels de l'IA continuent de croître, les avertissements sont de plus en plus pertinents. Le chercheur en anthropologie Jacob Coxon a déclaré la semaine dernière qu'il avait démissionné en partie parce que "les personnes réellement impliquées dans le développement de l'IA croient sérieusement que cette technologie pourrait tous nous tuer avant la fin de cette décennie". Dans le même temps, les dirigeants de certaines des plus grandes sociétés mondiales d’IA ont également appelé à un ralentissement du développement de cette technologie.
Trump a déclaré lundi que les États-Unis avaient mis en place des mesures de « garde-fou » pertinentes pour superviser les entreprises d'IA et les tenir responsables. Il a également minimisé les préoccupations précédemment exprimées par les dirigeants de l'industrie.
Guterres promeut depuis longtemps la création d’un mécanisme mondial de gouvernance de l’intelligence artificielle. En 2023, les Nations Unies ont créé un organe consultatif de haut niveau sur l’intelligence artificielle composé de 39 membres, dont des dirigeants d’entreprises technologiques, des responsables gouvernementaux et des universitaires des États-Unis, de Russie, du Japon et d’autres pays.
Plusieurs diplomates ont déclaré que lorsque les dirigeants mondiaux se réuniront à New York pour la réunion annuelle des Nations Unies la semaine prochaine, le Conseil de sécurité des Nations Unies pourrait également tenir une réunion sur les questions liées à l'IA. Le Conseil de sécurité des Nations Unies a tenu sa première réunion sur les questions d'IA en 2023.
Guterres a déclaré que les pays dotés des capacités techniques les plus fortes dans le domaine de l'IA « devraient établir des mécanismes de communication et d'échange d'informations et développer des garde-fous de sécurité communs pour éviter de tomber dans une course vers le bas (c'est-à-dire que les participants obtiennent des avantages compétitifs en abaissant continuellement les normes), sinon cette compétition pourrait un jour conduire à d'énormes catastrophes à l'échelle mondiale. »
Guterres a déclaré : "Nous devons développer une compréhension commune selon laquelle, tout en garantissant le développement sûr, sécurisé et responsable de l'IA, nous devons également clarifier quand des garde-fous de sécurité plus solides peuvent être nécessaires ou des mesures supplémentaires peuvent être nécessaires pour faire face aux risques potentiels à mesure que les capacités des systèmes d'IA continuent d'augmenter."
Articles associés :
Le Secrétaire général des Nations Unies met en garde : la vitesse de développement de l'intelligence artificielle a largement dépassé le rythme de mise à jour des règles réglementaires
Commentaires