Résumé :
L'accès illégal aux modèles d'IA et à la puissance de calcul devient rapidement le produit le plus prisé dans le monde de la cybercriminalité. Les pirates informatiques tentent d'exploiter de grands modèles de langage coûteux à des fins de chantage, de guerre et d'espionnage. John Hultquist, analyste principal chez Google Threat Intelligence Group, a déclaré que le groupe de cybersécurité avait constaté cette année une augmentation significative des attaques dites de « détournement de LLM », qui incluent la vente d'identifiants de connexion volés pour des outils publics d'IA et le vol de ressources informatiques par des groupes pour exécuter leurs propres modèles gratuitement.
« Ce que nous constatons sur le marché clandestin, c'est une économie croissante autour de l'accès à l'IA », a déclaré Hultquist, un vétéran de la cybersécurité depuis 20 ans.
Hultquist a averti que l'obtention de ressources d'IA coûteuses à faible coût donnerait aux cyber-attaquants un avantage financier sur leurs cibles, qui doivent également utiliser ces outils d'IA pour se protéger.
Il a déclaré : "En fin de compte, toutes ces actions leur donnent une sorte d'avantage économique ou d'efficacité par rapport à nous, car ils peuvent en réalité obtenir ces jetons à un prix beaucoup moins cher."
Des chercheurs de la Threat Intelligence Unit de Google ont découvert que certaines places de marché sur le Dark Web vendent l'accès à des modèles d'IA d'entreprises telles qu'Anthropic, Google et OpenAI à des remises allant jusqu'à 97 %. Les versions les plus avancées des services d'abonnement ChatGPT et Claude's AI coûtent jusqu'à 200 $ par utilisateur et par mois.
Étant donné qu'AI Labs surveille les signes de tels abus, certains vendeurs proposent même un « accès garanti », promettant de nouveaux identifiants de connexion gratuits si le compte d'origine est banni, a déclaré Hultquist.
Dans d'autres cas, des gangs criminels et des organisations soutenues par l'État piratent les serveurs hébergés par des entreprises dans le cloud et déploient leurs propres modèles d'IA pour les exécuter sur les systèmes cibles. Cette approche est similaire aux tentatives précédentes des acteurs malveillants visant à compromettre des ordinateurs tiers pour l’extraction de crypto-monnaie.
L'IA est déjà utilisée par « tous les acteurs de la menace », a déclaré Hultquist, ajoutant que les outils d'IA doivent devenir partie intégrante des systèmes de cybersécurité à l'avenir. Dans le dernier rapport trimestriel d'Anthropic sur les abus liés à l'IA, la société a découvert que des acteurs malveillants de plus de 20 pays, dont les États-Unis, le Royaume-Uni et le Yémen, avaient tenté d'utiliser son outil Claude à des fins malveillantes.
Il a déclaré : "Quiconque pense que l'IA n'est qu'une mode et souhaite qu'elle disparaisse se réveillera un jour et se sentira dépassé. Ils seront confrontés à plus d'incidents de sécurité, à plus d'alertes et à plus d'attaques que jamais auparavant. Nous devons nous occuper de nos propres affaires maintenant."
Hultquist a averti que, à mesure que de plus en plus de grandes entreprises cherchent à déployer des modèles d'IA personnalisés sur leurs propres serveurs plutôt que de louer de la puissance de calcul à des fournisseurs de services cloud, ces systèmes eux-mêmes deviendront également la cible d'attaques et devront être étroitement protégés. "Si vous payez pour de la puissance de calcul, et que celle-ci peut coûter très cher... alors cela devient une ressource potentielle très attractive aux yeux des acteurs de la menace."
Hultquist a également déclaré que c'était le meilleur moment pour les pirates informatiques d'« infiltrer » les comptes cibles et les serveurs informatiques, car les entreprises sont encore en train de déterminer la quantité de ressources d'IA qu'elles utiliseront.
Il a déclaré : "Vous pensez peut-être qu'une augmentation soudaine et importante de la consommation de puissance de calcul est tout à fait normale parce que vous venez de déployer autant d'infrastructures d'IA. Cela donne à certaines personnes la possibilité de se cacher dans le bruit."
Commentaires