Résumé :
Selon Business Insider, l'ancien chercheur d'Anthropic Jacob Coxon a détaillé ses différences avec le géant de l'IA lors d'un événement de questions-réponses sur la plateforme X mardi. Coxon était auparavant devenu populaire pour son avertissement de démission, estimant que l'IA pourrait détruire l'humanité à l'avenir.
Coxen
Coxson a déclaré que le leadership anthropique a tort d'utiliser une « philosophie conséquentialiste » pour expliquer pourquoi il doit participer à repousser les frontières de la recherche sur l'IA.
"Si ce concours est inévitable, vous ne devriez pas y participer", a écrit Coxon.
Coxson a spécifiquement distingué Anthropic pour sa promotion de l'auto-amélioration récursive (RSI), le processus par lequel les modèles d'IA peuvent s'améliorer eux-mêmes et créer leurs propres modèles successeurs.
"Ils ont été à l'origine de la récente course autour du RSI en grande partie parce qu'ils pensaient que cette course était inévitable. Il convient de noter qu'OpenAI a dû abandonner beaucoup de bagages comme Sora car Anthropic marchait à plein régime à l'époque." dit Coxon.
Coxson développe ses différences avec Anthropic
Coxson a également déclaré que les dirigeants d’Anthropic se méfient trop des gouvernements chinois et américain. "Ils ne croient pas que des négociations soient possibles."
Le PDG d'Anthropic, Dario Amodei, a exprimé à plusieurs reprises son malaise : si Anthropic est le seul laboratoire de pointe à ralentir le développement, d'autres sociétés d'IA pourraient adopter des mesures de sécurité différentes.
"Si nous nous développons trop lentement, je continue de penser que les mauvaises personnes finiront par contrôler cette technologie", a récemment déclaré Amodei à CNN. "Cela augmentera également considérablement les risques que les choses tournent mal."
Commentaires