Résumé :
Le lauréat de la médaille Fields et célèbre mathématicien Terence Tao a récemment lancé un avertissement concernant la dépendance croissante de l'humanité à l'égard de l'intelligence artificielle. Il craint qu’à mesure que les gens confient progressivement leurs processus de réflexion et de résolution de problèmes à l’IA, les humains perdent leur compréhension des problèmes eux-mêmes et de leurs solutions, et cette tendance pourrait bientôt avoir de graves conséquences dans le monde réel.
Ces remarques proviennent du discours de Terence Tao lors du sommet Science x AI qui s'est tenu à l'Université de Californie à Los Angeles le 16 octobre. La Fondation pour la recherche sur la science et l'intelligence artificielle (SAIR) a récemment publié une vidéo complète du discours intitulée "Math 2.0" sur YouTube, et les clips pertinents ont ensuite attiré l'attention sur la plateforme sociale étrangère X.
"Nous confions notre réflexion à l'IA et la laissons résoudre les problèmes à notre place. Mais en même temps, nous perdons également une garantie : nous ne pouvons pas être sûrs que la solution apportée par l'IA est vraiment celle que nous souhaitons." Tao Zhexuan a déclaré : « Je suis vraiment inquiet que nous en voyions bientôt les conséquences dans le monde réel. C'est en fait une inquiétude que j'ai en dehors du domaine des mathématiques. »
Tao Zhexuan a souligné que les progrès de l'intelligence artificielle dans le domaine des mathématiques changent la manière traditionnelle de résoudre les problèmes. Dans le passé, pour résoudre des problèmes complexes, les mathématiciens devaient étudier et comprendre les théories pertinentes pendant une longue période, tout en accumulant de nouvelles connaissances. Mais de nos jours, l’IA peut donner des réponses rapidement, mais les humains ne sont peut-être pas en mesure de comprendre le processus de raisonnement qui se cache derrière les réponses.
Il estime que le risque de tels changements est relativement contrôlable dans le domaine des mathématiques pures, car les preuves mathématiques peuvent généralement être vérifiées au moyen d'outils formels. Mais lorsque la même approche est utilisée dans le monde réel, la situation devient beaucoup plus compliquée.
Tao Zhexuan a spécifiquement mentionné les domaines du réseau électrique, du contrôle du trafic aérien, de la recherche et du développement de médicaments et de la conception de puces. Il craint qu’à l’avenir, les gens puissent directement confier des problèmes complexes à l’IA pour traitement, mais n’ont pas une compréhension complète du modèle sous-jacent et des contraintes du monde réel.
Dans ce cas, la solution apportée par l'IA peut être complètement établie dans le modèle mathématique, mais elle ne répond pas aux besoins réels du monde réel. L’IA peut même trouver des failles ou des conditions limites dans le modèle, répondant à des indicateurs superficiels tout en s’écartant des objectifs que les humains espéraient initialement atteindre.
Tao Zhexuan a souligné que le problème ne réside pas dans la technologie de l'IA elle-même, mais dans la manière dont les humains utilisent l'IA. Il préconise de promouvoir la recherche mathématique dans l'ère dite « Math 2.0 », afin que l'IA puisse non seulement aider les humains à résoudre des problèmes, mais également améliorer la compréhension humaine des problèmes et aider les chercheurs à identifier les limites et les risques potentiels des modèles.
Le 22 octobre, Terence Tao a également publié un article dans le magazine Nature, appelant la communauté mathématique à réexaminer les objectifs de la recherche à l'ère de l'IA. Il a souligné que la recherche mathématique est confrontée à de nouveaux défis, car l’IA génère des preuves mathématiques plus rapidement que les humains ne peuvent comprendre et digérer ces résultats.
Tao Zhexuan estime que les outils d'IA ont le potentiel d'améliorer la compréhension humaine, mais cela nécessite des changements dans les méthodes de recherche et les mécanismes d'incitation. Ce qu’il faut vraiment conserver à l’ère de l’IA, ce n’est pas seulement la capacité à obtenir des réponses correctes, mais aussi la capacité humaine à comprendre, tester et juger les réponses.
Commentaires