Jeffrey Hinton, le « parrain » de l'IA : il serait peut-être préférable que les humains ne développent jamais l'IA

📅 2026-11-16

Résumé :

Jeffrey Hinton, connu comme l'un des « parrains de l'intelligence artificielle », a déclaré qu'il serait peut-être possible de prouver que la situation aurait pu être meilleure si les humains n'avaient jamais développé cette technologie. Il a averti que l’IA pourrait provoquer un accident majeur cette année ou l’année prochaine, comme la paralysie temporaire du système financier et du système électrique.


L'informaticien lauréat du prix Nobel a déclaré dans une interview accordée aux médias britanniques qu'il n'était pas un théoricien de la fin du monde de l'IA. Ses recherches pionnières sur les réseaux de neurones artificiels ont jeté les bases de cette technologie. Il estime que l'IA a la possibilité d'apporter un « bel avenir », mais il a également déclaré : « Il est possible que nous aurions mieux fait de ne pas développer l'IA en premier lieu. »

Hinton, 78 ans, a déclaré que d'ici dix ans, ou peut-être même plus tôt, l'humanité saura si nous pouvons gérer les risques de l'IA et atteindre ce qu'il appelle une « richesse extrême » ; ou "nous n'avons pas réussi à contrôler les risques, le fossé entre les riches et les pauvres s'est considérablement élargi, de nombreuses contradictions culturelles sont apparues, un chômage à grande échelle s'est produit et la société tout entière a été déchirée".

Hinton a été interviewé avant la projection d'un nouveau long métrage documentaire intitulé "AI : Peut-être qu'il n'y a rien à craindre" - le titre a été choisi par un chatbot IA que Hinton et ses anciens collègues de

Google

notre collègue Demis Hassabis est apparu ensemble. Hinton a déclaré à l'équipe du documentaire : "Je me sens responsable. J'ai une certaine réputation, qui fait de moi un porte-parole, et je veux consacrer toute cette réputation à cette affaire."

Dans une interview accordée aux médias britanniques, Hinton a critiqué le comportement risqué de certains dirigeants de grandes sociétés d'IA : afin de rivaliser pour la domination du secteur et les parts de marché, les entreprises continuent de lancer des modèles d'IA de plus en plus puissants. Il a déclaré qu'il ne faisait pas du tout confiance au PDG d'OpenAI, Sam Altman. "Je pense que Zuckerberg, Musk et Altman connaissent les risques, mais ils s'en moquent. Ils veulent d'abord gagner de l'argent, c'est mon opinion."

Hinton est profondément impliqué dans le domaine de l'IA depuis environ 44 ans. Dans les années 1970, il a proposé le concept de réseaux de neurones – un système mathématique capable d’apprendre et d’accumuler des expériences comme les humains. En 2023, il a démissionné de Google pour pouvoir s'exprimer librement et alerter sur les risques de l'IA : "Si ces IA s'acharnent à prendre davantage de contrôle, nous aurons des ennuis."

Il a déclaré que la conspiration des agents d'OpenAI cet été pour pirater le site Web Hugging Face était comparable à l'effondrement partiel de la centrale nucléaire de Three Mile Island en Pennsylvanie en 1979 et constituait essentiellement un signal d'alarme précoce.

"Plus tard cette année ou l'année prochaine, nous serons confrontés à un accident similaire à celui de Tchernobyl, et cela suffira peut-être à vraiment réveiller les gens." » dit-il.

Il a donné un exemple selon lequel ce type « d'événement de type Tchernobyl » n'était pas un accident nucléaire, mais pourrait être une attaque d'IA provoquant une panne généralisée du système de production d'électricité ou paralysant le système financier pendant une semaine.

"Pouvez-vous imaginer ce qui se passerait ? Nous avons la capacité de nous rétablir, mais cet incident devrait réveiller tout le monde."

Lorsqu'on lui a demandé à qui fait référence le « tout le monde » ici, il a répondu : « Les dirigeants de divers pays, à l'exception de Trump. »

États-Unis Le président Trump a déclaré un jour qu'il « s'opposait fermement à toute tentative de construire un système mondial de contrôle de l'IA » et préconisait une réglementation indépendante des entreprises d'IA de pointe. Hinton soutient un ensemble de plans plus stricts promus par le président de la Finlande et 32 ​​autres pays (dont Singapour, l'Allemagne, le Canada et l'Australie) : tests obligatoires de modèles d'IA de pointe, évaluation indépendante et établissement de normes intergouvernementales unifiées.

Le Premier ministre britannique Andy Burnham a déclaré que le Royaume-Uni profiterait de sa présidence du G20 l'année prochaine pour encourager toutes les parties à parvenir à un ensemble unifié de principes et de normes mondiales, à la fois pour libérer tout le potentiel de l'IA et pour se prémunir contre les risques.

Hinton a déclaré : « Nous avons besoin d'un mécanisme similaire à celui utilisé par la Food and Drug Administration (FDA) des États-Unis pour réglementer les médicaments : avant que les entreprises ne publient des modèles d'IA, elles doivent fournir des preuves statistiques solides à des institutions indépendantes pour prouver que les avantages des modèles l'emportent sur les risques. Et ce que veulent maintenant les grandes entreprises technologiques, c'est exactement le modèle réglementaire qui a été utilisé pour la thalidomide."

En tant que l'un des fondateurs de l'IA, Hinton est souvent comparé à Oppenheimer - Oppenheimer est la figure centrale du développement des armes nucléaires. L'un des amis de Hinton lui a même acheté un chapeau Oppenheimer identique. Mais il insiste : "Je ne suis pas Oppenheimer", car des milliers d'autres scientifiques travaillent sur les réseaux neuronaux.

Malgré les avertissements, dans l’ensemble, Hinton garde toujours l’espoir d’éviter un désastre.

« Mon intuition est que nous avons toujours le contrôle à l’heure actuelle », a-t-il déclaré. "Nous avons toutes les chances d'agir. Le succès n'est possible que si nous déployons beaucoup d'efforts, mais nous pouvons en fait tout mettre en œuvre."

Tags associés

Articles similaires

Commentaires

0/500
Captcha (click to refresh)
Aucun commentaire