Brin parle de Gemini 4 : le développement de l'IA de Google s'accélère et les modèles s'engagent sur la voie de l'auto-amélioration

Résumé :

Selon "Business Insider",

Google pourrait approcher d'un moment critique dans le domaine de l'IA : l'auto-amélioration des modèles.

Brin

Ce concept est appelé auto-amélioration récursive (RSI), dans lequel l'IA aide à développer des systèmes d'IA plus avancés, déclenchant un effet de volant d'inertie et formant un cycle de plus en plus accéléré qui entraîne le développement de nouveaux modèles de plus en plus rapidement.

Brin a cité la série de modèles Google Flash lancée avant la sortie de Gemini 4 comme preuve de l'existence de cette tendance. Il a déclaré que la société « commençait à s'engager sur une voie cyclique avec RSI ».

« Maintenant, nos chercheurs et nos modèles ont commencé à travailler ensemble pour créer la prochaine version du modèle. » » a-t-il déclaré lors de la table ronde. Google a partagé le contenu de la discussion mercredi.

D'autres personnes au sein de Google semblent être d'accord avec Brin. Vihan Jain, responsable du travail d'auto-amélioration récursive Gemini chez Google DeepMind, a publié un article sur la plate-forme X et a expliqué à quel point le modèle Argon joue un rôle dans son propre processus d'évolution itérative.

Il a écrit : "Lorsque vos besoins post-formation passent de la demande de puces originales à la demande de quotas d'utilisation d'Argon, vous savez que le volant d'inertie RSI est passé à une nouvelle vitesse."

Brin s'implique de plus en plus dans le projet Google Gemini et utilise son influence en tant que cofondateur pour orienter les ressources vers les projets qu'il estime les plus efficaces, notamment en poussant l'entreprise à accorder plus d'attention au RSI.

Lors de la table ronde, Brin a déclaré qu'il était enthousiasmé par le rythme actuellement affiché par les équipes de Google et a déclaré qu'au moment où les gens ont vu la vidéo sur la sortie d'Argon, Google avait en fait progressé vers plusieurs modèles ultérieurs.

Anthropic et OpenAI ont également déclaré que l'IA pourrait être sur le point d'entrer dans la phase RSI. Un nouveau rapport publié cette semaine par la société d'IA Gladstone AI explique comment diverses sociétés d'IA s'orientent vers le RSI. La plupart des chercheurs interrogés pour le rapport, issus d'entreprises telles qu'Anthropic, OpenAI et DeepMind, pensent que l'auto-amélioration récursive commencera dans les trois à 12 prochains mois. Sans l’intervention du gouvernement, ont-ils déclaré, le processus aurait pu démarrer plus tôt.

Dans un rapport de sécurité publié pour le nouveau modèle Argon, Google a déclaré que certains aspects du cycle de développement de l'IA étaient en cours d'automatisation. Le rapport indique : "Les agents d'IA sont désormais devenus des assistants qui peuvent grandement améliorer l'efficacité, responsables de l'écriture de la majeure partie du code dans l'environnement d'exploitation réel et de la correction des vulnérabilités, mais les modifications du code doivent toujours être examinées manuellement avant d'être soumises."

Cependant, le RSI est au cœur des avertissements émis par les chercheurs en IA le mois dernier. Ils estiment que sans mesures de protection adéquates, les humains pourraient perdre le contrôle de la technologie.