Résumé :
Les tensions entre OpenAI et la communauté mathématique se sont à nouveau intensifiées. Terence Tao, lauréat de la médaille Fields, a récemment republié une déclaration publiée par l'Association pour les mathématiques humaines (AHM) sur son blog personnel, critiquant OpenAI pour avoir ignoré les normes de recherche dans la communauté mathématique et appelant les mathématiciens à cesser de coopérer avec elle. La controverse découle d'un lot de manuscrits de recherche mathématique publiés par OpenAI. Son modèle interne a tenté de résoudre environ 4 000 problèmes mathématiques, a finalement compilé des documents de recherche impliquant 372 ensembles de résultats et a divulgué des codes de preuve formels Lean.
Cependant, l’ampleur des résultats n’a pas été unanimement reconnue par la communauté universitaire. Ce qui importe aux mathématiciens n'est pas seulement de savoir si la preuve est correcte, mais aussi si la dérivation peut être comprise, si les travaux antérieurs sont entièrement cités et si de nouvelles méthodes peuvent être intégrées dans le système de connaissances existant par le biais de discussions entre pairs.
La vérification formelle peut vérifier la dérivation logique, mais elle ne peut pas remplacer automatiquement l'examen manuel de la signification de la proposition, de la contribution à la recherche et de la formation universitaire. "La publication simultanée de plus de 700 documents ne démontre pas la recherche universitaire, mais le pouvoir", indique le communiqué.
Dana Moshkovitz, une informaticienne théoricienne profondément impliquée depuis longtemps dans la conjecture unique du jeu, a immédiatement étudié les articles pertinents publiés par OpenAI et a déclaré que les articles étaient pleins de structures incompréhensibles, d'étapes de raisonnement peu claires et de références littéraires confuses. Scott Aaronson, informaticien théoricien à l’Université du Texas à Austin, a décrit le jour du lancement d’OpenAI comme « l’apocalypse des mathématiques ».
Certains internautes estiment que les opinions de Terence Tao sont trop extrêmes et ne devraient pas bloquer le développement d'une technologie qui pourrait profiter à tout le monde. Bryna Kra, mathématicienne à l'Université Northwestern, estime que l'IA devrait aider les chercheurs à explorer des problèmes difficiles à résoudre dans le passé, mais les entreprises devraient publier leurs résultats d'une manière plus conforme aux normes académiques afin que leurs pairs puissent vérifier, comprendre et poursuivre leurs recherches.
Le cœur du conflit entre les deux parties est l’écart entre la vitesse à laquelle l’IA génère des résultats et la compréhension humaine. La recherche mathématique traditionnelle nécessite une explication progressive des preuves et une amélioration des méthodes par le biais d'articles, de séminaires et d'échanges entre pairs ; lorsque des laboratoires commerciaux publient des centaines de manuscrits complexes en même temps, les coûts de vérification, de révision et d’intégration des connaissances ultérieures peuvent être transférés à la communauté universitaire. Les programmes de recherche, les cadences de publication et les ressources modèles sont donc de plus en plus influencés par une poignée d’entreprises technologiques.
Cette controverse n’est pas née soudainement. Terence Tao a déjà signé une déclaration avec 24 autres lauréats de la médaille Fields, avertissant les entreprises d'IA que l'utilisation de problèmes mathématiques comme référence pour les capacités des modèles pourrait détourner la concurrence technologique de l'intention initiale de poursuivre la compréhension et les connaissances dans la recherche mathématique.
Le 29 septembre, le Groupe consultatif sur les mathématiques et l'intelligence artificielle (AGMAI) a publié des recommandations s'opposant clairement aux laboratoires d'IA de pointe utilisant des modèles internes inaccessibles au monde extérieur pour tester des problèmes mathématiques difficiles.
OpenAI a déclaré que cette version était basée sur les recommandations de l'AGMAI ; AHM estime que l'entreprise ignore le principe fondamental des recommandations et appelle donc les mathématiciens à cesser de coopérer avec OpenAI. En outre, l'AGMAI exige également que les laboratoires ne se servent pas de la publication de résultats mathématiques comme outil marketing pour promouvoir leurs modèles. Les versions associées doivent divulguer des informations telles que les noms de modèles, les mots d'invite, les coûts de puissance de calcul et les enregistrements de pannes.
Alors que l'IA continue d'améliorer ses capacités de production de recherche scientifique, la communauté mathématique n'est plus confrontée à la question de savoir si les machines peuvent prouver des théorèmes, mais aussi à savoir qui décide de l'orientation de la recherche, qui supporte le coût de la vérification et comment garantir que le progrès technologique continue de servir l'accumulation de connaissances.
Commentaires