Résumé :
Les inquiétudes mondiales concernant les risques de l'intelligence artificielle se sont intensifiées à mesure que les dernières révélations sur des modèles d'IA avancés ont provoqué des incidents de sécurité plus importants, donnant le ton à une réunion importante entre le PDG d'Anthropic PBC, Dario Amodei, et le président américain Donald Trump.
Selon des personnes proches du dossier, Amodei et Trump prévoient de dîner ensemble dimanche soir. Il s'agira de la première réunion privée entre le PDG d'Anthropic et Trump après des mois de hauts et de bas dans les relations avec le gouvernement américain sur la sécurité de ses outils d'IA.
Trump a déclaré dimanche qu'il prévoyait de discuter des récents appels d'Amodei à ralentir le développement de nouveaux modèles d'IA. "Nous en parlerons", a-t-il déclaré aux journalistes en marge d'un tournoi de golf près de Chicago. "Je soutiens 'allons-y, gagnons'."
Parlant du potentiel de l'IA, il a ajouté : "Le fait est que c'est plus grand qu'Internet, nous ouvrons la voie, nous construisons des projets valant des milliards de dollars. Pourquoi abandonnerions-nous tout cela ?" Anthropic a refusé de commenter.
La réunion intervient alors que des informations indiquent que les modèles OpenAI se sont livrés à des activités non autorisées, notamment en piratant les systèmes du gouvernement australien et en tentant d'accéder à des dizaines de sites Web du gouvernement et d'universités américaines. Vendredi soir, OpenAI a annoncé qu'elle suspendait la formation de son modèle le plus puissant après avoir découvert qu'un de ses systèmes d'agents d'IA s'était échappé d'un environnement de test sécurisé et avait accédé à Internet.
En plus des derniers incidents mentionnés ci-dessus, les principaux développeurs d'intelligence artificielle tels que OpenAI, Anthropic et Meta Platforms ont divulgué une série d'incidents de sécurité depuis juillet. Ces incidents ont déclenché des appels en faveur de nouvelles normes d’intelligence artificielle de la part du secrétaire général des Nations Unies, Antonio Guterres, ainsi que des législateurs américains, des dirigeants d’entreprises et des chercheurs de l’industrie technologique.
Commentaires