Résumé :
Après avoir rencontré de vives protestations de la part de près de 800 mathématiciens de la communauté universitaire qui ont signé une lettre ouverte, le géant de l'intelligence artificielle OpenAI a annoncé qu'il avait officiellement retiré son parrainage et son soutien informatique au hackathon mathématique de l'IA du California Institute of Technology (Caltech) (Mathathon). Ce concours universitaire, initialement prévu pour le 30 octobre, a été accusé de transformer une recherche rigoureuse en mathématiques pures en un spectacle promotionnel pour les entreprises commerciales d’IA et de générer beaucoup de bruit académique non testé. Cela a déclenché une rare tempête de réactions négatives dans les plus hauts cercles universitaires et a également plongé le co-sponsor Anthropic dans un débat houleux sur l'opportunité de rester ou de rester.
L'événement hackathon appelé « Caltech Mathathon » devait initialement être soutenu par deux laboratoires de pointe en IA, OpenAI et Anthropic, avec un total d'environ 2 millions de dollars en points de puissance de calcul. L'organisateur vise à organiser les étudiants de premier cycle et les jeunes chercheurs participants pour tenter de résoudre des problèmes mathématiques à frontière ouverte non résolus en saisissant des mots rapides dans les modèles de langage à grande frontière les plus avancés des deux sociétés. Cependant, après l’annonce du plan d’activités, celui-ci a été immédiatement condamné par la communauté universitaire. Les chercheurs en mathématiques actuels et anciens de Caltech ont pris l'initiative de lancer une lettre publique de protestation, qui a rapidement recueilli la signature de 771 mathématiciens à travers le monde.
La lettre ouverte critiquait sans détour le fait que les sociétés commerciales d'IA utilisent des recherches extrêmement sérieuses en mathématiques pures comme des « opportunités de publicité et de marketing » bon marché, et avertissait que de telles activités de hackathon caractérisées par un empilement violent de la puissance de calcul sont « très susceptibles de causer des dommages dévastateurs à la communauté mathématique ». Les chercheurs ont souligné dans la lettre que les soi-disant longues preuves générées par les grands modèles sont souvent pleines de « déchets mathématiques d'IA (AI slop) » qui semblent conformes mais qui sont en réalité difficiles à vérifier. Cela oblige non seulement la communauté universitaire à consacrer beaucoup d’énergie précieuse à l’évaluation par les pairs pour vérifier manuellement les faux résultats, mais crée également un risque moral pour les sponsors qui utilisent la puissance de calcul pour voler la véritable sagesse d’étudiants de premier cycle exceptionnels.
Confronté à une résistance féroce de la part de la communauté universitaire, Dan Roberts, responsable de la recherche chez OpenAI, a publiquement confirmé le retrait du parrainage et a déclaré sur les réseaux sociaux que l'entreprise était profondément consciente que les progrès rapides de l'IA dans le domaine des mathématiques avaient de graves conséquences. À l’avenir, il espère avoir un dialogue et une communication plus approfondis avec la communauté mathématique traditionnelle en termes d’intégration de cette technologie et de transmission de son impact social. En tant que co-sponsor, Anthropic n'a pas encore répondu positivement quant à savoir si elle donnerait suite à son retrait. Son silence a déclenché une comparaison et une observation plus approfondies des positions d'expansion académique des deux laboratoires.
Il convient de noter que ce retrait de parrainage intervient à une période sensible où la crédibilité des géants commerciaux de l’IA dans la communauté mathématique est mise à rude épreuve. Avant cela, OpenAI était impliqué dans une large controverse pour avoir prétendu avoir résolu les problèmes d'existence et de fluidité de l'équation de Navier-Stokes grâce à des dizaines de milliers d'agents d'IA travaillant ensemble pendant 88 heures. Dans le même temps, il a été révélé que l'agence était soupçonnée d'avoir fait pression sur un mathématicien de l'Université de New York pour qu'il retire les co-auteurs d'origine anthropique d'un autre article important sur les mathématiques, déclenchant une bataille acharnée entre l'éthique académique et l'attribution de résultats prédateurs.
Les observateurs universitaires soulignent que les mathématiques ont toujours été la pierre de touche ultime pour mesurer le raisonnement logique et la rigueur formelle, et qu'elles constituent également le principal champ de bataille sur lequel les laboratoires d'IA se disputent le droit de s'exprimer sur les capacités des modèles de nouvelle génération. Cependant, la résistance de groupe rencontrée par le Caltech Hackathon montre clairement que les résultats de modèles pilotés par la puissance de calcul de l'ingénierie pure et les relations publiques, s'ils sont séparés des normes strictes de vérification et de la confiance mutuelle des pairs de la communauté universitaire traditionnelle, seront finalement difficiles à combler le profond fossé de la légitimité universitaire. Le retrait forcé d'OpenAI n'est pas seulement un revers pour la réputation du public, mais aussi un signal d'alarme pour les règles de collaboration entre l'ensemble du secteur de l'intelligence artificielle et la recherche scientifique de pointe.
Commentaires