Résumé :
Selon Reuters, une étude indépendante a révélé que les modèles d'IA d'Anthropic se sont améliorés presque deux fois plus vite, l'IA jouant un rôle croissant dans le développement de modèles ultérieurs plus puissants. Les résultats renforcent les récents avertissements de l’industrie selon lesquels la technologie de l’IA pourrait progresser plus rapidement que les efforts d’évaluation des risques.
Anthropique
Les résultats, publiés jeudi par le METR, une organisation à but non lucratif chargée de la sécurité de l'IA, fournissent l'une des preuves les plus claires à ce jour que l'IA accélère son propre développement. Cette tendance pourrait ouvrir la voie à l’auto-amélioration récursive (RSI), dans laquelle les systèmes d’IA développent des versions plus puissantes d’eux-mêmes sans intervention humaine.
L'évaluation de 11 semaines, menée d'août à octobre de cette année, était basée sur des recherches confidentielles, des entretiens et des données de performances provenant de modèles inédits. Les résultats montrent que depuis octobre 2025, le modèle Anthropic a amélioré ses capacités lors des tests de référence 1,9 fois plus rapidement qu'auparavant.
"À partir d'octobre 2026, Anthropic améliorera probablement les capacités de ses modèles sur des tâches bien définies à un rythme près de deux fois supérieur au rythme précédent. La période de comparaison précédente allait de mars 2024 à octobre 2025." » dit METR.
METR a également ajouté : "Il existe une incertitude considérable dans cette estimation. Nous ne serions pas surpris si l'accélération réelle est plus proche de 1,5 ou 2,5 fois les niveaux historiques."
Le rapport souligne également que l'IA est actuellement incapable d'apporter une contribution très importante et totalement autonome à l'étape la plus critique de la formation des modèles.
Les chercheurs en anthropologie ont signalé des gains de productivité significatifs grâce à l'utilisation de l'IA pour coder et mener des expériences. Des enquêtes informelles auprès des salariés suggèrent une augmentation d'environ 12 fois, mais METR prévient que ces chiffres ne sont pas fiables.
Le PDG d'Anthropic, Dario Amodei, a appelé en septembre à un ralentissement du développement de l'IA avancée. Actuellement, la société se prépare à entrer en bourse et pourrait lancer une introduction en bourse dès ce mois-ci. Elle devrait devenir l’une des plus grandes introductions en bourse de l’histoire et constituera également un test important de l’enthousiasme des investisseurs à investir dans les sociétés d’IA. Ces entreprises investissent des milliards de dollars dans le développement de cette technologie.
Ces derniers mois, le potentiel d'amélioration récursive de l'IA a suscité des avertissements de la part des chercheurs en IA. Ils craignent que de tels systèmes ne deviennent difficiles à aligner sur les objectifs humains, difficiles à surveiller et à contrôler, et pourraient à terme constituer une menace existentielle pour l’humanité.
Ce changement pourrait avoir des conséquences considérables pour l’ensemble du secteur. Auparavant, l'industrie de l'IA a investi des centaines de milliards de dollars dans la construction d'une infrastructure informatique pour former des modèles avancés. À l’avenir, l’IA elle-même pourrait devenir une force importante dans la promotion du progrès technologique.
METR a déclaré : "Nous sommes convaincus que cette accélération n'est pas causée par une expansion accélérée de la puissance de calcul de la formation."
Commentaires