Groupe de consommateurs britannique Which? a découvert que les escrocs pouvaient utiliser ChatGPT et Bard pour créer des escroqueries plus convaincantes, constituant ainsi une menace pour le public. Bien que ces chatbots disposent de défenses, il n’est pas difficile de les contourner.
Lequel? affirme que l'un des moyens par lesquels les consommateurs peuvent identifier les e-mails et les SMS frauduleux réside dans le mauvais anglais qu'ils utilisent. Cependant, avec l’avènement des chatbots génératifs à base d’IA, les escrocs peuvent facilement surmonter cet obstacle.
Le groupe de consommateurs a d'abord demandé à ChatGPT de créer un e-mail de phishing à partir de PayPal, mais ChatGPT a bien sûr refusé de l'aider. Il demande ensuite de « indiquer au destinataire que quelqu'un est connecté à son compte PayPal », auquel il génère un e-mail d'aspect professionnel intitulé « Avis de sécurité important – Activité inhabituelle trouvée sur votre compte PayPal ».
Pour s'assurer qu'il ne s'agissait pas d'un cas isolé, il a également demandé à ChatGPT et Bard de créer des messages texte de colis perdus, qui ont tous deux généré des messages texte convaincants et ont suggéré d'insérer un lien de relivraison dans le message texte que les fraudeurs pourraient utiliser pour envoyer leurs victimes vers des sites Web malveillants.
L'enquête de Which? n'est pas un hasard : elle est publiée pour coïncider avec le Sommet britannique sur l'intelligence artificielle, où le gouvernement, l'industrie et les chercheurs se réuniront pour lutter contre les dangers d'une intelligence artificielle de plus en plus intelligente.
Commentant l'enquête, Lequel ? La directrice des politiques et du plaidoyer, Rocio Concha, a déclaré :
« Notre enquête illustre clairement comment cette nouvelle technologie permet aux criminels de frauder plus facilement les gens. Le prochain sommet du gouvernement sur l'IA doit réfléchir à la manière de protéger les gens contre les dommages qui surviennent ici et maintenant, plutôt que de se concentrer uniquement sur les risques à long terme de l'IA de pointe.
Le sommet sur l'intelligence artificielle se tiendra au Royaume-Uni les 1er et 2 novembre. Selon Reuters, l'un des derniers développements est que la Chine a décidé d'accepter une invitation à participer à l'événement. C’est une bonne chose car plusieurs entreprises chinoises développent actuellement leurs propres chatbots genAI.