Résumé :
OpenAI a récemment annoncé la création d'un groupe consultatif indépendant composé des meilleurs mathématiciens pour fournir des conseils à OpenAI et à d'autres sociétés d'IA sur la relation entre l'intelligence artificielle et la recherche mathématique. La nouvelle organisation, appelée Groupe consultatif sur les mathématiques et l'intelligence artificielle (AGMAI), se concentrera sur la manière dont les résultats mathématiques produits par l'IA doivent être examinés, publiés et diffusés, et sur la manière dont les entreprises d'IA doivent suivre les normes académiques et professionnelles de longue date dans le domaine de la recherche mathématique.
Cette décision s'est produite après qu'OpenAI a récemment annoncé un certain nombre de résultats mathématiques majeurs. Au cours des derniers mois, les modèles d'IA d'OpenAI ont réalisé une série de développements remarquables dans le domaine des mathématiques. Cependant, la manière dont les résultats pertinents sont publiés et les questions de citation et d’attribution des recherches mathématiques existantes ont également déclenché une large controverse au sein de la communauté mathématique. Certains mathématiciens se demandent si OpenAI comprend pleinement le fonctionnement de la recherche mathématique et si les entreprises d’IA respectent les normes établies de longue date en matière d’attribution, de priorité et de communication académique dans la communauté mathématique.
L'AGMAI compte au total neuf membres, issus de l'Université de Stanford, de l'Université Harvard, de l'Université d'Oxford, de l'Université de Cambridge et d'autres institutions, dont de nombreux chercheurs de premier plan dans le domaine des mathématiques et des lauréats de la médaille Fields et de la « bourse de génie » MacArthur. L'organisation sera hébergée par l'Institute for Advanced Study de Princeton, New Jersey, États-Unis. C'était autrefois le site de recherche de scientifiques célèbres tels qu'Albert Einstein, John von Neumann et J. Robert Oppenheimer. C'est également l'une des institutions universitaires les plus influentes dans le domaine de la recherche en mathématiques modernes.
OpenAI a déclaré que cette organisation restera indépendante et aura le pouvoir de fournir de manière proactive des suggestions à OpenAI, même si les suggestions pertinentes ne sont pas proposées de manière proactive par OpenAI. Le groupe consultatif peut également discuter ouvertement de l’impact de l’IA sur le domaine des mathématiques et décider, à sa propre discrétion, de rendre publiques ou non ses recommandations. OpenAI a déclaré que les membres du groupe consultatif ne recevront pas de compensation d'OpenAI et pourront ajuster eux-mêmes la composition des membres.
Selon OpenAI, le groupe consultatif aidera l'entreprise à déterminer l'importance des nouveaux résultats mathématiques générés par l'IA, et fournira des avis sur la manière de coordonner la publication de ces résultats et de se conformer aux normes académiques et professionnelles en matière de recherche mathématique. De plus, le groupe discutera de la manière dont les outils d’IA d’OpenAI peuvent mieux soutenir la recherche et l’enseignement des mathématiques.
OpenAI souligne que la valeur réelle de cette organisation dépend de la capacité de ses membres à porter des jugements indépendants et à remettre en question l'entreprise. En d’autres termes, le groupe consultatif ne se contente pas d’approuver les résultats de recherche d’OpenAI, mais espère fournir des opinions indépendantes de la communauté mathématique avant la publication des résultats.
Cependant, après l'annonce de cet arrangement, de nombreuses questions subsistent dans la communauté mathématique. La première concerne la manière exacte dont ces neuf membres ont été sélectionnés. Simon Machado, chercheur à l'École polytechnique fédérale de Zurich, estime que de nombreux aspects restent opaques dans l'ensemble du processus. Selon l'introduction sur le site officiel de l'AGMAI, OpenAI a initialement contacté certains mathématiciens dans l'espoir de créer un comité consultatif externe ; après des discussions avec OpenAI, ces mathématiciens ont finalement décidé de créer une organisation indépendante et ont invité d'autres membres à la rejoindre. Mais qui a été initialement contacté par OpenAI et comment les membres restants ont été identifiés n’a pas été entièrement divulgué.
Martin Hairer, membre du groupe consultatif, a publié plus tard un article pour expliquer les nombreux doutes entourant le processus de formation de cette organisation. Il a déclaré que l'intelligence artificielle a eu un impact profond sur la recherche mathématique et a soulevé une série de questions telles que l'attribution des résultats, les priorités de recherche et la compréhension réelle des humains par les idées mathématiques générées par l'IA. Il serait donc irréaliste que la communauté mathématique adopte une approche totalement sans contact avec les laboratoires d’IA et ignore simplement ces entreprises.
Hairer a particulièrement souligné que même si la création du groupe consultatif découlait d'un contact avec OpenAI, les neuf membres n'avaient pas été directement contactés par OpenAI, et l'organisation finalement créée était indépendante d'OpenAI et d'autres sociétés d'IA de pointe. Au-delà des exigences normales de confidentialité, les membres ne signent pas d’accords restreignant leur expression publique d’opinions et ne reçoivent aucune compensation financière de la part d’OpenAI. L'organisation s'appuie principalement sur l'Institute for Advanced Study de Princeton pour le soutien technique et organisationnel.
Hairer a déclaré que l'objectif le plus important du groupe consultatif est de représenter autant que possible les intérêts de l'ensemble de la communauté mathématique. Il a également reconnu qu'il est évidemment impossible pour neuf mathématiciens d'être un représentant complet de l'ensemble de la communauté mathématique, mais il est convaincu que tous les membres prendraient cette responsabilité très au sérieux et participeraient de bonne foi et avec un jugement indépendant.
La petite taille du comité consultatif soulève également un autre niveau de préoccupation. Les mathématiques modernes sont devenues hautement spécialisées et il existe souvent des barrières de connaissances très évidentes entre les différents domaines. Même les meilleurs mathématiciens du monde ne seront peut-être pas en mesure de juger les résultats de l’IA dans un autre domaine hautement spécialisé. Par conséquent, certains mathématiciens s’inquiètent de savoir si seulement neuf chercheurs de haut niveau pourront couvrir l’ensemble du domaine de recherche mathématique que l’IA peut impliquer.
Francesco Fournier-Facio, nouveau professeur de mathématiques à l'université Heriot-Watt en Écosse, a déclaré qu'il avait une attitude mitigée à l'égard du groupe consultatif. D’une part, il estime que permettre aux entreprises d’IA de communiquer davantage avec les mathématiciens contribuera évidemment à améliorer le statu quo ; d’un autre côté, il se demande également si cette organisation composée d’un petit nombre d’éminents chercheurs peut véritablement représenter le grand nombre de chercheurs en mathématiques touchés par le développement rapide de l’IA. Il estime que l'organisation ressemble actuellement davantage à une « tour d'ivoire » composée de personnalités universitaires de premier plan.
La capacité du groupe consultatif à gagner la confiance de la communauté mathématique à l'avenir dépend en grande partie de l'impact réel qu'il peut avoir sur OpenAI. Il convient particulièrement de noter que lorsque OpenAI a annoncé la création d'un groupe consultatif, elle a également révélé une nouvelle étonnante : un nouveau modèle que l'entreprise développe et qui n'a pas encore été officiellement publié, et qui était auparavant censé avoir résolu le problème du Prix du Millénaire Navier-Stokes, a maintenant résolu plus de 100 problèmes mathématiques non résolus à long terme, et ces problèmes sont répartis dans un grand nombre de domaines mathématiques différents.
OpenAI a précédemment annoncé que le modèle s'attaque à un autre problème du Prix du Millénaire. Alors que les modèles d’IA continuent de produire de nouveaux résultats mathématiques, la manière d’examiner, de vérifier, d’organiser et de publier un grand nombre de résultats de recherche dans un court laps de temps est devenue un véritable problème. AGMAI a déclaré sur son site officiel que l'une des premières tâches qui lui sont actuellement confiées est d'aider OpenAI à coordonner la publication d'un grand nombre de résultats mathématiques majeurs générés par les modèles internes d'IA.
Cela explique également pourquoi ce groupe consultatif a été créé à cette époque. Au cours des derniers mois, les percées continues d'OpenAI dans le domaine des mathématiques auraient dû constituer une démonstration importante de l'amélioration des capacités de l'intelligence artificielle, mais les événements connexes ont été accompagnés d'une série de controverses. Certains mathématiciens estiment que lorsque OpenAI a annoncé ses résultats, il n’a pas entièrement expliqué la contribution des recherches humaines antérieures aux résultats de l’IA et n’a pas toujours traité les questions de citation et de priorité d’une manière familière à la communauté mathématique. Certains chercheurs ont même accusé OpenAI d’utiliser les résultats de leurs recherches sans leur accorder le crédit nécessaire.
Ces controverses ont finalement conduit certains mathématiciens à se demander si OpenAI comprend réellement le fonctionnement de la communauté de recherche mathématique.
Kevin Buzzard, professeur de mathématiques à l'Imperial College de Londres, a demandé : étant donné qu'il y a eu de nombreux débats publics dans la communauté mathématique au cours des derniers mois, les demandes des mathématiciens pour que l'IA participe à la recherche mathématique ont été clairement exprimées. Alors pourquoi OpenAI a-t-elle besoin d'un comité composé des meilleurs mathématiciens du monde pour comprendre ces questions ? Selon lui, le problème n’est pas que la communauté mathématique manque de personnes capables de résoudre des théorèmes difficiles, mais que les entreprises d’IA doivent mieux comprendre la discipline mathématique et les règles de la communauté de recherche en mathématiques elle-même.
AGMAI recueille actuellement les contributions de la communauté mathématique, notamment par le biais d'échanges avec d'autres mathématiciens, de formulaires de commentaires publics et sur des plateformes de discussion telles que Preuves et Invites. Ces plateformes sont récemment devenues des lieux importants pour discuter de l’impact de l’intelligence artificielle dans la communauté mathématique.
Dans le même temps, les problèmes rencontrés par OpenAI vont bien au-delà de la simple publication de quelques articles. Alors que l’IA commence à produire de manière indépendante des résultats mathématiques qui n’ont pas été résolus depuis longtemps, les questions les plus fondamentales de la recherche mathématique, telles que « qui a découvert quoi en premier », « qui devrait obtenir la signature » et « quelle recherche humaine a fourni la base des résultats finaux », doivent toutes être redéfinies.
Il s'agit également d'un changement fondamental provoqué par l'entrée actuelle de l'IA dans le domaine de la recherche mathématique. La recherche mathématique traditionnelle repose généralement sur des chercheurs qui publient des articles publiquement, citent des travaux antérieurs, examinent par les pairs et s'appuient constamment sur les résultats existants. L’IA peut lire et traiter d’énormes quantités de connaissances existantes en très peu de temps et générer de nouvelles dérivations mathématiques. Lorsque les humains ne peuvent pas retracer complètement les chemins par lesquels l’IA obtient un résultat, les méthodes traditionnelles d’attribution des résultats et de jugement des priorités deviennent plus compliquées.
La récente controverse autour de la solution OpenAI au problème Navier-Stokes a particulièrement mis en lumière ce problème. OpenAI a enquêté sur la controverse concernée et a déclaré qu'il était peu probable qu'un mot d'invite soumis par un mathématicien utilisant le Codex affecte la solution finale du problème par le système. Cependant, de tels incidents inquiètent encore certains mathématiciens. À l’avenir, il pourrait devenir de plus en plus difficile de déterminer avec précision sur quel type de recherche humaine est basé un résultat mathématique produit par l’IA.
Hairer, membre de l'AGMAI, a également admis que le groupe consultatif doit se méfier du fait que les sociétés d'IA peuvent interpréter ou utiliser les opinions du groupe consultatif en fonction de leurs propres besoins en matière de relations publiques. Cependant, il estime qu’une fois que l’IA sera inévitablement entrée dans la recherche mathématique, refuser complètement de communiquer avec les entreprises d’IA ne résoudra pas le problème. Plutôt que d’isoler la communauté mathématique de l’industrie de l’IA, nous devrions essayer d’établir un ensemble de règles de base que les deux parties peuvent accepter.
Pour OpenAI, la création de ce groupe consultatif signifie également que l'entreprise est confrontée à une réalité avec laquelle elle n'était pas familière auparavant : l'intelligence artificielle est progressivement passée d'un outil auxiliaire pour la recherche mathématique à un participant à la recherche capable de produire directement de nouveaux résultats mathématiques, et la communauté mathématique traditionnelle n'a pas établi de règles toutes faites pour ce changement.
À l'avenir, AGMAI devra peut-être déterminer non seulement quand et comment le prochain lot de résultats mathématiques d'OpenAI doit être publié, mais aussi comment les résultats mathématiques générés par l'IA doivent être signés, comment citer la recherche humaine, comment confirmer l'indépendance des résultats et quel type de relation de coopération doit être établie entre les mathématiciens et les systèmes d'IA. Alors qu'OpenAI affirme que son nouveau modèle a résolu plus de 100 problèmes mathématiques non résolus de longue date, ces problèmes passent rapidement des discussions théoriques aux problèmes réels auxquels il faut faire face.
Commentaires