Résumé :
Jacob Coxon, un ancien chercheur en intelligence artificielle qui a travaillé pour OpenAI et Anthropic, a récemment lancé un avertissement sévère contre la concurrence mondiale en matière d'intelligence artificielle. Dans sa dernière interview, il s'est dit « sûr à 90 % » que la Chine a placé du personnel de renseignement au sein d'OpenAI et d'Anthropic, et estime qu'à mesure que la concurrence dans la recherche et le développement du super-renseignement continue de s'intensifier, il est presque impossible pour les agences de renseignement de divers pays d'ignorer ces entreprises qui maîtrisent les technologies les plus avancées.
Coxon a déclaré qu'à son avis, les plus grands laboratoires d'intelligence artificielle du monde sont devenus une cible importante de la concurrence géopolitique. Étant donné que la technologie avancée de l’IA pourrait avoir un impact considérable sur les domaines de l’économie, de l’armée, de la cybersécurité et de la recherche scientifique à l’avenir, les gouvernements du monde entier sont fortement incités à obtenir des informations pertinentes. Il estime qu'il est irréaliste de supposer que ces institutions ne sont pas du tout pénétrées.
En plus d'exprimer ses inquiétudes concernant les problèmes de sécurité, Coxon a également divulgué certains détails culturels au sein d'Anthropic. Il a révélé que de nombreux employés d’Anthropic s’appelleraient eux-mêmes « fourmis ». Ce nom vient de l'abréviation et de l'utilisation dérivée du nom de l'entreprise Anthropic, et est également considéré par certains employés comme une identité interne pour poursuivre conjointement l'objectif de superintelligence.
Coxson a déjà reçu une large attention pour avoir critiqué publiquement l'orientation de l'industrie de l'IA. En tant que chercheur ayant travaillé chez OpenAI et Anthropic pendant de nombreuses années, il est impliqué depuis longtemps dans la recherche liée aux systèmes avancés d’intelligence artificielle. Après avoir quitté Anthropic, il a publié une série d'articles publics, accusant l'industrie de promouvoir la recherche et le développement en matière de superintelligence à une vitesse excessive, alors que les questions de sécurité n'ont pas reçu une attention à la hauteur des progrès technologiques.
Il estime que les principales sociétés d'IA actuelles sont confrontées à une concurrence féroce, dans l'espoir d'être les premières à construire des systèmes super-intelligents dotés de capacités d'auto-amélioration. Afin de rivaliser pour le leadership technologique, les entreprises continuent d'accélérer la recherche et le développement, mais l'industrie n'a pas encore trouvé de solution mature pour garantir que les futurs systèmes soient toujours sous le contrôle humain.
Coxon a déclaré que certains chercheurs au cœur de l'industrie croient sincèrement que l'émergence de systèmes intelligents surhumains dans les prochaines années n'est pas un fantasme lointain, mais une véritable voie de développement. Il a averti que les gens sous-estiment généralement la vitesse du développement et l’impact potentiel des technologies associées. Une fois que les systèmes dotés d’un degré élevé d’autonomie acquièrent de plus grandes capacités, ils peuvent avoir la capacité d’envahir les systèmes informatiques, de contrôler les infrastructures critiques et d’accéder aux ressources et à l’influence du monde réel.
Les discussions autour des risques de la superintelligence ont continué à s'intensifier récemment. De nombreux chercheurs et responsables d’OpenAI, d’Anthropic et d’autres instituts de recherche de premier plan ont publiquement discuté des risques existentiels que l’intelligence artificielle peut entraîner. Certains acteurs de l'industrie préconisent d'établir un cadre réglementaire de sécurité plus strict et de ralentir le développement de modèles de pointe pour résoudre en premier lieu les problèmes de contrôlabilité.
Cependant, certains acteurs du secteur estiment qu'en insistant trop sur les risques extrêmes, on risque d'ignorer l'énorme potentiel apporté par l'intelligence artificielle dans des domaines tels que la recherche scientifique, les soins médicaux, l'éducation et l'amélioration de la productivité. Ils estiment que le renforcement des mesures de sécurité et la poursuite de la promotion de l'innovation technologique ne sont pas incompatibles.
Alors que des entreprises telles qu'OpenAI, Anthropic, Google DeepMind et xAI continuent d'investir d'énormes sommes d'argent dans la création de modèles de nouvelle génération, les débats sur la sécurité de l'intelligence artificielle, la concurrence nationale et l'orientation future de la superintelligence continuent de s'intensifier. Les remarques de Coxon sur la pénétration du renseignement et la concurrence entre les superintelligences ont une fois de plus placé l’industrie mondiale de l’intelligence artificielle au centre de l’opinion publique.
Commentaires