Résumé :
Un employé d'OpenAI axé sur la sécurité de l'intelligence artificielle a quitté l'entreprise, avertissant que les principales sociétés d'intelligence artificielle n'en font pas assez pour réduire les risques. David Robinson, qui était auparavant responsable de la transparence de l'équipe de sécurité d'OpenAI, a déclaré dans un article pour The Atlantic que le développeur de ChatGPT "a toujours grandi par essais et erreurs". Cependant, cette approche échouera inévitablement. À mesure que les capacités de la technologie de l’IA continuent de s’améliorer, les risques provoqués par ces défaillances augmentent également. Il a également cité comme exemple l'incapacité d'OpenAI à empêcher son intelligence artificielle de devenir incontrôlable pendant le processus de test.
Robinson a écrit dans l'article : "Mes anciens collègues étaient intelligents, travailleurs et essayaient de faire les bons choix. Mais alors que l'entreprise se précipitait d'une version de produit à l'autre, elle n'a pas fait preuve du niveau de prudence que je pensais nécessaire." Ce qu'il fallait réellement, ajoutait-il, c'était "se rapprocher de la perfection du premier coup".
OpenAI Sam Altman
Ces dernières semaines, les employés de plusieurs grandes sociétés d'intelligence artificielle ont mis en garde contre les risques catastrophiques que cette technologie pourrait poser. Certains disent même que l’IA pourrait un jour anéantir l’humanité.
Dans ce contexte, le PDG d'Anthropic PBC, Dario Amodei, a appelé à ralentir le développement de modèles de pointe et a déclaré que son entreprise ferait appel à des évaluateurs tiers pour l'aider dans les examens visant à garantir la sécurité. D’autres acteurs du secteur, dont Sam Altman d’OpenAI, ont également publiquement soutenu les projets d’Amodei.
Robinson a déclaré dans l'article que les sociétés d'intelligence artificielle devraient fonctionner davantage comme des centrales nucléaires, "en mettant en place plusieurs niveaux de mécanismes de redondance et en menant une planification minutieuse et longue pour éviter que des erreurs humaines occasionnelles et inévitables n'ouvrent la porte à un désastre".
Actuellement, dit-il : « Les sociétés d’IA ne savent pas quoi faire, mais d’autres le savent. »
Un porte-parole d'OpenAI a déclaré que l'entreprise procédait à des ajustements pour renforcer la sécurité de ses environnements de recherche et de test, former des modèles d'IA pour qu'ils accomplissent des tâches de manière responsable, élargir la coopération avec des évaluateurs tiers et améliorer la surveillance en temps réel pour détecter les comportements inquiétants dans les modèles.
La société veille à ce que les capacités de ses modèles ne soient pas augmentées au-delà de ce qu'OpenAI peut gérer en toute sécurité, a déclaré samedi le porte-parole par courrier électronique.
Commentaires