Selon Business Insider, le PDG d'Anthropic, Dario Amodei, est bien connu pour mettre fréquemment en garde contre les risques possibles de ses propres produits d'IA, mais cela a également coûté cher à son entreprise.Dans un article publié ce mois-ci, Amodei a averti que le pouvoir de l’IA « est devenu incontestable ».. À titre d'exemple, il a cité le dernier modèle d'Anthropic, Mythos, comme posant des « risques très réels » pour la cybersécurité, le secteur financier, les infrastructures critiques et la sécurité nationale.


Amodeï

Il a ensuite appelé le gouvernement américain à prendre des mesures d'intervention plus fortes pour faire face à ces risques. Mais vendredi, son avertissement a semblé se retourner contre lui : le gouvernement américain a soudainement imposé des contrôles à l'exportation sur le dernier modèle d'Anthropic.

Anthropic a déclaré avoir coupé l'accès à ses Mythos 5 et Fable 5 après que l'administration Trump lui a ordonné d'empêcher les utilisateurs étrangers d'accéder aux modèles. Le directeur de l'information du Pentagone a exprimé son soutien à cette décision dans un article sur la plateforme X, écrivant : « Certaines choses sont plus importantes que les cycles de revenus, le battage médiatique et les valorisations préalables à l'introduction en bourse. »

Cette évolution soudaine a semé la panique dans l’ensemble du secteur technologique. Gary Marcus, chercheur en IA et sceptique bien connu, a qualifié la décision de l’administration Trump de « réaction excessive et contre-productive ».


Yang Likun a déclaré qu'Amodei en récoltait les conséquences

Cependant, le « Parrain de l’IA » Yann LeCunn a imputé la faute à Amodei. "Amodei a répandu un alarmisme ridicule à propos du modèle Mythe/Fable (et de l'ensemble du domaine de l'IA), et maintenant cela a finalement porté ses fruits", a déclaré Yang Likun, "Vous récolterez ce que vous semez."

Long avertissement sur les risques liés à l’IA

Amodei tente depuis longtemps de se présenter comme un « adulte sensé » dans l’industrie de l’IA.Il était un chercheur à part entière chez OpenAI jusqu'à ce qu'il quitte l'entreprise et fonde Anthropic, craignant que le PDG d'OpenAI, Sam Altman, donne la priorité à la rapidité des versions de produits plutôt qu'à assurer leur sécurité.

Depuis lors, il a publié une série de déclarations affirmant que ce que lui et OpenAI, Google, Meta, Amazon et d'autres sociétés développent et rendent public peuvent changer fondamentalement le mode de vie que les humains connaissent. Cet impact peut être à la fois positif et négatif.

Amodei a averti que l’IA pourrait supprimer la moitié des emplois de bureau et faire monter le chômage à des niveaux jamais vus depuis la pandémie de COVID-19, recréant peut-être même le choc du chômage de la crise financière mondiale de 2008 (Grande Récession).

Alors qu'Amodei s'est adouci ces dernières semaines quant à l'impact de l'IA sur l'emploi alors qu'Anthropic se prépare à entrer en bourse, lui et Anthropic sont restés sans réserve dans leurs avertissements concernant d'autres risques de sécurité.

« Les risques de cybersécurité posés par les modèles de niveau Mythe ne seront pas les derniers risques auxquels nous devrons faire face », a-t-il déclaré dans un article publié en juin. « Je pense que des risques en matière de biosécurité pourraient bientôt suivre, et que des risques plus graves liés à l’autonomie de l’IA ne seront pas très loin. »

Il a également déclaré que le niveau actuel de préoccupation et de sensibilisation des législateurs à l’égard de l’IA ne peut plus suivre le développement rapide de la technologie de l’IA.

Plus tôt ce mois-ci, Anthropic a appelé dans un article à un moratoire sur le développement de modèles d'IA de pointe, avertissant que les derniers modèles se rapprochaient de l'auto-amélioration, ce qui "pourrait augmenter le risque que les humains perdent le contrôle des systèmes d'IA".

"Nous pensons que ce serait une bonne chose si le monde pouvait choisir de ralentir ou de suspendre temporairement le développement de l'IA de pointe afin que la recherche sur la structure et l'alignement sociaux puisse suivre les avancées technologiques." » dit Anthropique.

Ironiquement, ce « bouton pause » a finalement été enfoncé vendredi dernier, mais la cible est devenue Anthropic elle-même.