Le 13 mai, Business Insider a rapporté que Daniel Kokotajlo, ancien chercheur d'OpenAI et actuel chef du projet AI Futures, a déclaré que l'industrie de l'IA s'empresse de construire des systèmes que chaque entreprise ne comprend ou ne contrôle pas encore complètement.
Légende : Kokotailo
Dans une interview avec un journaliste de « Business Insider » en mai de l'année dernière, Cocotailo a expliqué que le principal problème auquel sont confrontées les entreprises d'IA est le problème de « l'alignement », c'est-à-dire les efforts visant à garantir que les futurs systèmes d'IA puissent suivre de manière fiable les instructions et les valeurs humaines, même si leurs capacités dans de nombreux domaines ont dépassé celles des humains.
Il a déclaré que les chercheurs ne comprennent actuellement pas pleinement comment les modèles d'IA avancés prennent des décisions en interne, et cette incertitude rend difficile la garantie que les futurs systèmes seront véritablement « alignés » et réaliseront de manière stable les objectifs que les humains souhaitent qu'ils accomplissent.
"C'est en quelque sorte un secret de polichinelle, mais nous n'avons pas encore de solution réellement viable", a-t-il déclaré à propos de la mise en œuvre de l'alignement de l'IA.
Kokotailo a quitté l'entreprise après avoir travaillé chez OpenAI de 2022 à 2024 sur la recherche prédictive, étudiant la rapidité avec laquelle les systèmes d'IA pourraient progresser et quels risques économiques, politiques et de sécurité pourraient survenir à mesure que les entreprises construisent des modèles plus puissants.
Aujourd'hui, par l'intermédiaire de son organisation de recherche à but non lucratif, le Future of AI Project, il se concentre sur des sujets similaires, en analysant la rapidité avec laquelle les systèmes d'IA pourraient se développer et les risques qui surgiront si les entreprises continuent de donner la priorité à la vitesse et à la concurrence.
"Une fois la superintelligence créée, les humains ne seront plus le leader de cette planète, du moins pas le leader par défaut", a déclaré Kokotailo.
Cocotailo a déclaré que de nombreuses personnes sous-estiment encore la vitesse du développement de l'IA, car les discussions ressemblent souvent à de la science-fiction. Son avertissement intervient alors que les sociétés d’IA continuent d’investir des milliards de dollars dans des modèles plus puissants et des centres de données plus grands.