Résumé :
Selon Bloomberg, Mark Zuckerberg, PDG de Meta, a déclaré mardi que les laboratoires d'IA devraient s'appuyer sur des évaluateurs et des consultants indépendants pour garantir la sécurité des modèles. Zuckerberg s'est joint mardi à un nombre croissant de dirigeants du secteur technologique pour participer à un débat mondial sur la meilleure façon d'empêcher les systèmes d'IA de nuire à l'humanité.
Zuckerberg
"La présentation d'évaluateurs et de consultants indépendants est une bonne pratique du secteur." Zuckerberg a écrit dans un article sur la plateforme X. Il a noté qu’en général, il est utile de disposer d’un écosystème d’évaluateurs plus vaste et plus diversifié.
Zuckerberg a déclaré qu'il y a actuellement de nombreux débats sur la question de savoir si le développement des capacités de l'IA devrait être ralenti et attendre que la technologie d'alignement rattrape son retard. Son argument est que la confiance et l’alignement deviennent rapidement les capacités les plus importantes qui différencient les agents et les modèles. Tout laboratoire qui ne prend pas l’alignement au sérieux prendra du retard. L’alignement fait référence à l’alignement de la façon dont l’IA fait les choses avec les intérêts humains.
Message de Zuckerberg
À l'heure actuelle, certains dirigeants d'entreprises ont exprimé leur soutien au ralentissement du développement de l'IA et préconisent la coopération pour parvenir à un consensus. Zuckerberg a écrit que Meta avait décidé de ralentir lui-même le développement de l'outil Muse AI sans demander au préalable à ses pairs d'évaluer leurs progrès.
"Meta a retardé la sortie de Muse de plusieurs mois pour se concentrer sur la sûreté et la sécurité", a-t-il écrit. "Nous n'avons pas demandé à tout le monde de le faire d'abord, puis de faire un suivi nous-mêmes. Nous l'avons simplement fait dans le cadre de notre routine quotidienne parce que c'était évidemment la bonne chose pour nos utilisateurs et pour nous."
Zuckerberg estime que consacrer la grande majorité de la puissance de calcul au service des gens, plutôt que de se précipiter pour promouvoir l'auto-amélioration récursive de l'IA, est l'un des meilleurs moyens de garantir le développement sûr de cette technologie. Meta a pris cet engagement et d’autres laboratoires peuvent faire de même.
Le week-end dernier, un article de 3 800 mots du PDG d'Anthropic, Dario Amodei, a encore attisé le débat houleux autour des risques économiques et sécuritaires de l'IA. Dans ce document, il appelle à ralentir le développement de systèmes de pointe afin que les chercheurs puissent mieux comprendre les menaces potentielles. L’appel d’Amodei a reçu le rare soutien du PDG d’OpenAI, Sam Altman, et du PDG de SpaceX, Elon Musk.
Commentaires