Résumé :
Selon le rapport britannique du « Financial Times », Shane Legg, co-fondateur de Google DeepMind et scientifique en chef de l'AGI, a récemment averti que les capacités de l'intelligence artificielle s'améliorent rapidement, mais que le développement des capacités de l'IA ne doit pas dépasser le niveau d'assurance de la sécurité. Il a également réfuté les jugements du président d'OpenAI, Greg Brockman, et du PDG de Nvidia, Jensen Huang, selon lesquels "AGI est arrivé".
Legg a déclaré que la vitesse actuelle de développement des capacités de l'IA est « très, très rapide » et que l'industrie ne peut pas permettre que les capacités progressent avant les mesures de sécurité. Concernant la récente suggestion faite par le PDG d'Anthropic, Dario Amodei, de ralentir la sortie de modèles de pointe pour des raisons de sécurité, mais de ne pas suspendre complètement la recherche et le développement, Legg estime que cette direction « mérite d'être prise en considération », mais que toutes les parties doivent encore discuter sérieusement des méthodes spécifiques de mise en œuvre.
Legg a fait la déclaration ci-dessus alors que DeepMind a officiellement lancé le DeepMind Institute pour étudier le déploiement de l'intelligence artificielle générale et son impact sur la science, l'éducation, la société, la politique, la philosophie et le bien-être humain. Selon la définition de DeepMind, l'AGI est un système d'intelligence artificielle qui possède toutes les capacités cognitives du cerveau humain.
Malgré la récente amélioration significative des capacités des modèles d'IA, Legg estime qu'il est encore trop tôt pour déclarer que l'AGI a été réalisée. Il a déclaré qu'il s'en tenait toujours à sa prédiction précédente selon laquelle la probabilité d'atteindre « l'AGI minimum » d'ici 2028 est de 50 %. Legg a également été l'un des premiers à inventer le terme « AGI ».
Après qu'OpenAI ait publié GPT-6 Astra, Brockman a déclaré que « nous sommes désormais entrés dans l'ère AGI ». Huang Renxun a également déclaré que « AGI est arrivé » et basé sur les capacités d'Astra.
Legg a déclaré que même si différentes organisations ont des définitions différentes de l'AGI, il n'est pas clair si Astra répond aux propres normes d'OpenAI. OpenAI a précédemment défini l'AGI comme étant capable d'accomplir la plupart des tâches cognitives ayant une valeur économique. Legg a déclaré que ces modèles sont effectivement capables d'accomplir des tâches impressionnantes, mais à son avis, leurs capacités n'ont pas encore atteint la définition de l'AGI d'OpenAI.
Le DeepMind Institute est codirigé par Legg, le président de DeepMind, Demis Hassabis, et le vice-président senior de Google, James Manica. Legg a déclaré qu’un débat social plus large est désormais nécessaire à mesure que le public commence à prendre au sérieux la possibilité d’une intelligence générale puissante. L'institut transformera la recherche technique de DeepMind en un contenu plus accessible au public, tout en invitant des experts externes à participer aux discussions.
L'institut a publié les trois premiers articles sur des sujets tels que la sécurité de l'IA, la politique économique et les principes du « nouvel utopisme ». L’un des articles, rédigé par les chercheurs de DeepMind, Rohin Shah et Ankar Dragan, a pointé du doigt la vitesse de sortie de GPT-6 Astra.
Deux chercheurs estiment qu'Astra montre une « tendance à la baisse inquiétante » dans la transparence de son processus de raisonnement. Les pressions concurrentielles exercées sur les entreprises d’IA pourraient saper leurs incitations à une plus grande transparence, et la réglementation pourrait jouer un rôle sur cette question.
Cependant, l'article estime que tant que des mécanismes garantissant la transparence sont ajoutés à la phase de conception des modèles, l'industrie peut continuer à développer des modèles plus performants. Les chercheurs ont souligné que les modèles de raisonnement les plus avancés à l’heure actuelle peuvent afficher une partie du processus de raisonnement d’une manière que les humains peuvent comprendre, ce qui offre une fenêtre rare au monde extérieur pour observer et étudier le comportement de l’IA.
Manica a déclaré qu'il n'y a qu'un seul concours d'IA auquel Google espère participer, et c'est celui visant à mettre au point cette technologie.
Commentaires