Le scientifique en chef d'OpenAI appelle l'industrie à restreindre le développement de modèles, Altman est d'accord

📅 2026-11-23

Résumé :

Jakub Pachocki, scientifique en chef d'OpenAI, propose que les sociétés d'intelligence artificielle acceptent de fixer des limites au développement de modèles de plus en plus puissants jusqu'à ce que les chercheurs disposent de meilleurs moyens de comprendre et de surveiller le comportement de ces modèles. Pachocki a appelé à des normes à l'échelle de l'industrie qui fixeraient des limites au développement de l'IA, et les entreprises devraient accepter de ne pas repousser ces limites tant que les exigences de sécurité spécifiques ne sont pas satisfaites.

"Je propose en outre que des limites communes soient fixées en fonction de la perplexité et d'autres mesures, les développeurs s'engageant à ne pas dépasser ces limites jusqu'à ce que notre capacité à comprendre et à surveiller le comportement de l'IA atteigne une étape spécifique", a écrit Pachocki. Les limites proposées par Pachocki pourraient être basées en partie sur une mesure technique appelée perplexité, qui mesure la capacité d'un modèle d'IA à prédire le prochain morceau de texte. Pachocki n'a pas précisé à quel niveau les limites initiales devraient être fixées, ni quand elles seraient mises en œuvre.

Pachocki a averti que dès 2027, l'IA pourrait accélérer sa propre évolution plus rapidement que les chercheurs ne peuvent améliorer leur capacité à surveiller et à comprendre la technologie.

Le PDG d'OpenAI, Altman, a exprimé son soutien à la proposition, qualifiant l'article de Pachocki de "contenu le plus important qu'OpenAI ait publié depuis un certain temps". Dans un article sur X, il a déclaré qu'un accord sur des limites partagées contribuerait à garantir « la sécurité et le contrôle ».

Tags associés

Articles similaires

Commentaires

0/500
Captcha (click to refresh)
Aucun commentaire