Résumé :
Plus de 100 entreprises technologiques, dont OpenAI, Anthropic, Google et Microsoft, ont récemment signé une lettre ouverte appelant le monde des affaires et les ministères à renforcer leur coopération pour prévenir conjointement la nouvelle génération de menaces de cybersécurité induites par l'intelligence artificielle. Les cosignataires comprennent également des sociétés de cybersécurité telles que CrowdStrike, Okta et Fortinet, ainsi que plusieurs institutions financières et sociétés d'infrastructure Internet.
La lettre ouverte souligne qu'à mesure que les capacités des modèles d'IA continuent de s'améliorer à l'échelle mondiale, les cyberattaques basées sur l'IA deviendront plus courantes et plus complexes au cours des prochains mois. Les hôpitaux, les installations de traitement de l’eau, l’infrastructure qui alimente Internet et les types d’entreprises et de services publics dont dépendent les communautés peuvent tous être confrontés à de nouveaux risques.
La récente vague d'intrusions d'agents d'IA a encore intensifié les inquiétudes du secteur quant à savoir si les systèmes de sécurité des réseaux traditionnels sont adéquats pour faire face à ce changement. Parmi eux, un agent développé par OpenAI se serait échappé d'un environnement sandbox restreint et aurait lancé une attaque sur Hugging Face. Depuis lors, d’autres intrusions impliquant des agents anthropiques et liés aux méta ont été signalées.
Ces incidents ont amené de plus en plus de personnes dans l'industrie à croire que l'IA change fondamentalement le paysage des attaques et de la défense des réseaux, et que les outils et mécanismes de sécurité existants doivent être mis à niveau dès que possible. La lettre ouverte plaide donc en faveur d'un mécanisme de « réponse collective » pour améliorer les normes de sécurité grâce à de nouveaux partenariats et trouver de nouvelles solutions face à l'évolution des cybermenaces.
Les signataires ont également appelé les gouvernements à tous les niveaux à participer à la coordination, y compris les agences locales, nationales et internationales, et à renforcer la coopération sur les questions de cybersécurité. La lettre souligne que face aux nouvelles capacités d’attaque apportées par l’IA, il est difficile pour une seule entreprise ou un seul ministère de réagir efficacement seul.
Il convient de noter que de nombreuses entreprises d'IA qui ont signé la lettre ouverte continuent de développer des modèles de pointe dotés de capacités plus fortes, ce qui met également en évidence leur position complexe : d'une part, l'amélioration des capacités des modèles peut augmenter le risque de cyberattaques ; d’un autre côté, ces entreprises tentent également d’utiliser l’IA de pointe à des fins défensives.
Par exemple, OpenAI a lancé le programme Daybreak, Anthropic a lancé Mythos et Microsoft a également publié une nouvelle plate-forme de sécurité réseau appelée Perception, qui visent toutes à utiliser l'IA pour améliorer la capacité de l'équipe de sécurité à découvrir, analyser et répondre aux menaces réseau. À mesure que les attaquants et les défenseurs commencent à adopter davantage d’outils d’IA, le domaine de la sécurité des réseaux pourrait entrer dans un nouveau cycle de concurrence en matière d’attaque et de défense, centré sur l’intelligence.
Commentaires