Résumé :
Si les humains veulent éviter des scénarios apocalyptiques, il est loin d’être suffisant de simplement ralentir la recherche et le développement en matière d’intelligence artificielle. C’est l’avertissement lancé par le chercheur canadien en intelligence artificielle David Krueger. Il a dit sans ambages que d'autres mesures devraient être prises. Kruger, professeur adjoint d'IA à l'Université de Montréal et membre académique principal du Mila, l'Institut québécois de recherche en intelligence artificielle, a déclaré : « Nous devons suspendre immédiatement et indéfiniment la recherche et le développement d'intelligence artificielle de pointe. » Son profil personnel indique que son objectif de recherche est de « réduire le risque d'extinction humaine causée par l'intelligence artificielle ».
« Nous devons arrêter de développer une IA plus performante dès maintenant », a-t-il déclaré.
Les commentaires de Kluger interviennent après que le PDG d'Anthropic, Dario Amodei, a publié samedi un message appelant les entreprises d'IA à ralentir le rythme de la recherche et du développement. Cette proposition est soutenue par Sam Altman d’OpenAI et Elon Musk de SpaceX. Il s’agit d’un consensus rare parmi les plus hautes personnalités du secteur.
Kruger a déclaré : « Les voix appelant au ralentissement de la recherche et du développement en matière d'IA méritent d'être reconnues », mais il n'est pas d'accord avec les solutions spécifiques des propositions pertinentes. "Je ne suis pas d'accord avec le contenu spécifique de ces plans à bien des égards. Je pense que ces mesures ne sont pas assez fortes et qu'elles ne progressent pas assez rapidement."
Amodei prône la mise en œuvre d'une supervision et d'une coopération internationale, ainsi que l'introduction d'évaluateurs tiers. Les évaluateurs bénéficieront d'un accès au niveau des employés similaire à celui d'une entreprise pour vérifier les mesures de sécurité de la société d'IA et signaler les incidents de sécurité.
Kruger est le fondateur d'Evitable, une organisation à but non lucratif qui sensibilise le public aux risques importants posés par l'IA. Il craint que les propositions d’Amodei ne soient pas assez solides et que les méthodes actuelles de test de l’IA ne soient plus fiables.
Il a déclaré : "Ces tests sont fondamentalement devenus invalides. À mesure que l'IA devient plus intelligente, la crédibilité des tests continuera de diminuer car l'IA a la capacité de se déguiser. Elle peut bien se comporter, ou elle peut délibérément agir de manière stupide et tromper nos tests."
"Ce n'est qu'une question de temps"
La semaine dernière, un chercheur principal en sécurité chez Anthropic a suggéré qu'il y avait plus d'une chance sur dix que l'IA anéantisse tous les humains sur Terre au cours de la prochaine décennie. Certains ont pensé que ce chiffre était exagéré et juste pour attirer l'attention, mais Krueger a qualifié l'estimation de "beaucoup trop basse".
Il a déclaré : "Si nous n'inversons pas la direction, dans les cinq prochaines années, les êtres humains seront très probablement définitivement privés de domination par une IA incontrôlable. D'ici là, l'extinction de l'humanité ne sera qu'une question de temps."
Ce qu'il entend par « perte de domination » est une situation dans laquelle l'IA contrôle réellement la société, tout comme les humains dominent désormais toutes les autres espèces de la planète.
"L'IA contrôlera (contrôlera) l'infrastructure physique, y compris chaque étape du processus de développement de davantage d'IA, de robots de fabrication et d'autres systèmes physiques."
Il a ajouté : "Imaginez un monde dans lequel toutes les entreprises sont dirigées par l'intelligence artificielle et où les robots sont partout. Il n'y a presque pas de véritables emplois pour les humains, seulement des postes nominaux. Même les politiciens et tout le monde obéissent aux instructions de l'IA parce que l'IA semble être très capable de jugement. C'est l'avenir vers lequel nous nous dirigeons."
Il a prévenu que la fenêtre d'action est très courte. Il a déclaré que si un système d’IA devenait incontrôlable, nous pourrions toujours couper son alimentation. Mais une fois qu’une IA devient incontrôlable, elle peut se répliquer sur tellement d’ordinateurs que « nous ne savons même pas quels appareils arrêter ».
"Nous ne pouvons qu'essayer d'arrêter tous les équipements, et cela est extrêmement difficile à mettre en œuvre." Il a déclaré : "Le délai qui nous reste pour prendre des mesures pour prévenir ce type de risque est donc très limité."
Néanmoins, il a déclaré que sa confiance dans l’action des gouvernements n’a jamais été aussi grande. Il a déclaré que des avertissements avaient été lancés au cours des 15 dernières années et que la semaine dernière était la première fois que le monde répondait de manière réaliste et rationnelle.
"Je pense que les gens réalisent enfin à quel point cette crise est grave. Il s'agit d'un état d'urgence."
Lundi, le ministre fédéral canadien des Affaires d'IA, Evan Solomon, a été interviewé et on lui a demandé s'il était d'accord avec l'affirmation selon laquelle il existe une probabilité de 10 % que des êtres humains soient détruits par l'IA.
Il a répondu : "Y a-t-il des risques avec l'intelligence artificielle ? Bien sûr qu'il y en a. Oui, nous sommes conscients de ces risques."
Solomon a déclaré avoir parlé dimanche matin avec le PDG d'OpenAI, Sam Altman.
"L'intelligence artificielle sera réglementée pour assurer la sécurité des Canadiens." Salomon a déclaré : "C'est notre première responsabilité et notre plus grande préoccupation."
Solomon a également révélé qu'il publierait mercredi une annonce conjointe sur la sécurité de l'IA avec Joshua Bengio, un informaticien canadien connu comme le « Parrain de l'intelligence artificielle ».
Commentaires