La police de Hong Kong a révélé que l'intelligence artificielle était une fois de plus utilisée à des fins malveillantes. Le personnel financier d'une entreprise multinationale a été invité à effectuer des transactions prétendument secrètes par une personne se faisant passer pour le directeur financier de l'entreprise basé au Royaume-Uni, après que les soupçons initiaux aient été dissipés par la technologie des deepfakes.
Après avoir reçu l’e-mail de phishing, le comptable a été invité à un appel vidéo avec plusieurs autres personnes qui ressemblaient beaucoup à ses collègues. Cependant, ce n’était pas vraiment eux, quelqu’un avait utilisé la technologie deepfake juste pour leur ressembler.
Cependant, la tromperie a suffi à tromper la victime, qui a transféré environ 25,6 millions de dollars au fraudeur. La police de Hong Kong a déclaré qu'il ne s'agissait pas de la première utilisation sérieuse de cette technologie, avec six personnes arrêtées dans des cas précédents, mais rien n'indique que la personne à l'origine du dernier vol ait été arrêtée.
L'employé n'a découvert que le transfert était une arnaque qu'après avoir vérifié auprès du siège de l'entreprise, a rapporté CNN. Après avoir perdu autant d'argent, l'entreprise n'a divulgué aucune information et ne connaissait pas la situation d'emploi actuelle de l'employé.
Plusieurs des personnes qui ont trompé l’employé pour qu’il passe des appels vidéo étaient des imposteurs. Cela montre à quel point la technologie est puissante et pourquoi il est essentiel de réglementer ces technologies émergentes.
Les élections américaines, prévues plus tard cette année, seront probablement une cible privilégiée pour les campagnes de désinformation liées aux deepfakes. Il est donc important que les grandes entreprises technologiques comme Meta émettent des avertissements appropriés aux utilisateurs pour les aider à ralentir la propagation de contenus trompeurs.
Les utilisateurs peuvent prendre certaines mesures pour détecter les deepfakes, notamment les traits du visage qui ne correspondent pas, la vérification des informations auprès de sources fiables et l'attention portée aux éclairages, aux ombres ou aux mouvements de tête étranges.