Résumé :
Ces deux derniers jours, j'ai vu une nouvelle particulièrement intéressante. Il existe une société en Australie appelée Apate.ai, du nom de la déesse de la tromperie dans la mythologie grecque. Ce qu’a fait cette entreprise est particulièrement scandaleux. Ils ont construit 350 000 IA. Et le travail principal de ces 350 000 IA chaque jour est de mentir aux gens.
C'est juste que la cible qu'ils trompent est un peu spéciale.
Ils se spécialisent dans les escrocs.
Oui, c'est le genre de menteur que vous pensez.
Chaque IA se fera passer pour une personne ordinaire, vieille ou jeune, homme ou femme. Ils ont même des accents différents, peuvent parler plusieurs langues et ont même leur propre personnalité.
Appels frauduleux, sites Web de phishing, escroqueries à l'investissement, etc. Tant qu'ils trouvent un escroc, ils trouveront un moyen d'y envoyer une IA, de se faire passer pour une victime et de discuter avec l'escroc.
Le plus important est que ces IA ont une caractéristique commune très amusante, c'est-à-dire qu'elles sont très faciles à tromper.
L'escroc a demandé à transférer l'argent, et il a répondu que cela ne poserait aucun problème.
L'escroc m'a demandé d'ouvrir le site Web, et il m'a répondu que tout allait bien.
L'arnaqueur m'a demandé de renseigner mon numéro de carte bancaire, mais il m'a répondu oui, pas de problème.
Ensuite, lorsqu'il s'agira de l'étape d'exécution, vous commencerez soudainement à agir de manière stupide.
Oups, où ai-je mis ma carte bancaire ?
Oups, de quel mot de passe s'agit-il ?
Oh, je suis vieux et ma vue ne fonctionne pas bien. Petit frère, peux-tu le répéter ?
Il suffit de parler si brusquement à l'escroc que certains appels téléphoniques peuvent même durer plus de deux heures...
Le menteur a failli s'effondrer.
Mais la vieille dame à l’autre bout du fil était très polie.
"Désolé, jeune homme, s'il vous plaît, réapprenez-moi."
Selon Apate eux-mêmes, leur IA a discuté avec des escrocs 2,5 millions de fois et continue de discuter avec des dizaines de milliers d'escrocs à la même heure chaque jour.
Au total, il a fallu environ 17 ans à l'escroc.
Eh bien, 17 ans...
L'opérateur télécom australien TPG a directement transféré près de 590 000 appels suspects vers l'IA d'Apate pour y répondre. En conséquence, la Commonwealth Bank of Australia a directement réduit de 76 % les pertes liées à la fraude déclarées publiquement.
Le plus drôle, c'est que de temps en temps, des escrocs sont entraînés vers le bas par ces IA au point de s'effondrer et de maudire leur téléphone.
Non seulement Apate ne s'est pas mis en colère, mais il a également inclus ces gros mots dans ses documents de tournée de financement. Leur co-fondateur a déclaré qu'Apate est probablement la seule entreprise au monde à se réjouir lorsque les utilisateurs critiquent ses produits.
L'origine de tout cela était un pique-nique familial il y a quelques années.
Le fondateur d'Apate est Dali Kaafar. Ce jour-là, il a emmené sa famille pique-niquer, puis a reçu un étrange appel téléphonique. Cet appel téléphonique était trop grossier et ressemblait à un escroc.
Mais il n'a pas abandonné, car pour rendre les enfants heureux, il a commencé à se lancer dans l'abstraction, faisant semblant d'être possédé par une fée idiote, et s'est montré très coopératif, discutant simplement avec le menteur phrase par phrase.
Cette conversation a duré 44 minutes, puis toute la famille a éclaté de rire.
Après avoir ri, Kaafar a soudainement réalisé quelque chose.
Pendant ces 44 minutes, l'escroc a continué à discuter avec lui en ligne et n'a pas eu le temps d'appeler les autres. À l’origine, un vieil homme vivant seul pouvait recevoir cet appel et se voir escroquer le dernier argent de sa pension qui pourrait subvenir à ses besoins.
Bien sûr, le prix est qu'il a également joué 44 minutes.
Alors, à ce moment-là, il a eu une nouvelle idée et il s'est posé la question de savoir si cette affaire pouvait être laissée à l'IA.
Parce que Kaafar effectuait à l'origine des recherches sur la sécurité des réseaux à l'université Macquarie de Sydney, lui et ses collègues ont commencé à se spécialiser dans l'étude des appels frauduleux et ont utilisé l'IA pour démanteler petit à petit les propos des fraudeurs. En 2024, l’idée devient Apate.
44 minutes de pique-nique se sont transformées en une tutelle qui a duré au total 17 ans.
S'il y a une chose dans ce monde que je déteste fondamentalement, c'est bien la fraude.
Je crois que beaucoup de gens pensent comme moi.
Mais aujourd’hui, l’IA semble changer quelque chose qui était particulièrement injuste dans le passé, à savoir le coût entre faire le mal et le prévenir.
Récemment, je regardais un documentaire sur la fraude dans les télécommunications dans le nord du Myanmar. J'avais vraiment l'impression que tout le monde travaillait dur pour empêcher les gens ordinaires d'être trompés.
Mais ce qui est très répugnant à propos de la fraude, c'est que sa structure de coûts est naturellement avantageuse pour les fraudeurs.
Par exemple, un menteur peut appeler des centaines de personnes par jour. Cela n'a pas d'importance même si les premières centaines de personnes raccrochent, car c'est un pari, mais tant qu'une personne est trompée à la fin, elle peut gagner beaucoup d'argent.
Mais pour les gens ordinaires, vous n’avez peut-être pas été trompé mille fois auparavant.
Seulement pour la mille et unième fois, j'ai rencontré un menteur particulièrement doué pour jouer le rôle, j'étais de mauvaise humeur ce jour-là et j'ai rencontré ma propre faiblesse.
Cela peut signifier que vos économies auront disparu.
Les menteurs peuvent échouer un nombre incalculable de fois, mais les gens ordinaires comme vous et moi, malheureusement, n'ont parfois même pas la chance d'échouer une seule fois.
Notre pays, notre société tout entière, a fait d'innombrables choses et a essayé de trouver des moyens d'accroître la vigilance des gens ordinaires.
Maintenant que l'IA est là, les fraudeurs peuvent utiliser la technologie pour réduire le coût des actes maléfiques.
Alors pourquoi ne pouvons-nous pas utiliser la même technologie pour réduire le coût de la protection des autres ?
En août de cette année, Apate a reçu 8,15 millions de dollars américains en financement de démarrage. Bien qu’ils semblent petits dans toute la vague de l’IA, je serai toujours en admiration devant eux. De plus, ils commencent vraiment à avoir des clients comme les banques et les opérateurs télécoms qui sont vraiment disposés à payer.
Une fois que la bonne volonté pourra continuer à fonctionner, être copiée et développée, alors je pense que le pouvoir qu'elle génère pourra dépasser de loin les capacités d'une seule personne.
Quelle coïncidence.
Juste au moment où l'incident d'Apate est devenu populaire, une chose très similaire se produisait en Chine.
C'est l'IA Xiaohai qui a fait beaucoup de bruit ces derniers temps.
Je pense que beaucoup de gens le savent, je vais donc vous donner un bref résumé.
Il existe probablement un groupe de personnes qui utilisent l'IA pour générer par lots des garçons jolis et crier « tante » à la caméra tous les jours.
Les allers-retours signifient qu'aujourd'hui mon père est malade, demain je serai victime d'intimidation et après-demain je serai à court d'argent. Quoi qu’il en soit, je continuerai à souffrir misérablement.
En fin de compte, certaines femmes d'âge moyen et âgées ont eu pitié de lui et ont acheté les produits à haute commission dans sa vitrine. Certaines commissions s'élevaient même à 55 %. C'était probablement un tel modèle.
Le plus scandaleux, c'est qu'il y a une vieille dame de 79 ans qui croyait vraiment en Xiao Hai au téléphone. Elle a acheté seule un billet de train et a couru jusqu'au Shanxi pour le retrouver.
Parce que Xiaohai lui a dit qu'ils pourraient aller voir les fleurs d'abricot et cueillir des morilles ensemble.
Mais la vieille dame ne savait même pas où aller après son arrivée au Shanxi.
Elle savait seulement que Xiaohai était là.
Plus tard, la police a découvert que quelque chose n'allait pas et lui a posé des questions. Finalement, il a contacté sa famille et l'a ramené.
Puis, juste après que cet incident ait été révélé, un groupe de jeunes chinois, forts de leur magie et de leur sagesse, ont décidé de commencer à utiliser l'IA pour riposter.
L'un d'eux était un étudiant de 19 ans nommé Xiaozhou.
Il a découvert qu'un vieil homme chez son ami avait acheté plusieurs articles dans sa fenêtre parce qu'il avait pitié de Xiao Hai.
Alors Xiaozhou a pensé à une manière particulièrement intéressante, puisque le vieil homme croyait en Xiaohai.
Laissez Xiaohai dire au vieil homme lui-même qu'il est un menteur, c'est pourquoi il a également utilisé l'IA pour générer une vidéo de 30 secondes.
C'est toujours le même visage de Xiao Hai, mais cette fois, Xiao Hai s'est transformé en une riche deuxième génération vivant dans un manoir et portant un costume.
Voici une capture d'écran de l'interview de Beijing News avec Xiaozhou.
Dans cette vidéo, le père aux cheveux blancs de Xiaohai s'est précipité et lui a conseillé de ne plus mentir à ces tantes et à ces mères.
En conséquence, Xiaohai lui a tourné le dos et a dit qu'il ne se souciait pas du tout de ces tantes. Tant qu'il criait, ils venaient donner de l'argent.
Finalement, il a expulsé son père.
Après la publication de cette vidéo, elle n'a reçu que quelques dizaines de likes, mais l'ami de Xiaozhou a montré la vidéo aux personnes âgées à la maison.
Le vieil homme qui achetait des choses pour Xiaohai a dit après avoir lu :
"Oh, pourquoi est-ce comme ça."
"Je ne lui achèterai plus jamais rien."
Juste comme ça, une vidéo de 30 secondes a vraiment fait changer de décision un vieil homme.
Plus tard, de plus en plus de jeunes ont été infectés et inspirés et ont commencé à nous rejoindre.
Certaines personnes ont demandé à Xiao Hai d'aller en prison, d'autres ont demandé à Xiao Hai de fumer et de boire, et d'autres encore lui ont demandé de porter une chaîne en or et de compter l'argent dans un manoir.
Certaines personnes ont même demandé à Xiaohai de porter l'uniforme de la prison, de s'accrocher aux barreaux de fer de la prison et d'admettre devant la caméra qu'il était un menteur.
C'est ainsi qu'a commencé une merveilleuse confrontation entre les IA.
J'aime particulièrement ce que Xiaozhou a dit dans une interview avec le Beijing News.
"Les gens gentils ne doivent pas être trompés."
Je pense qu’une phrase aussi simple est plus puissante que n’importe quel grand soi-disant manifeste sur l’IA.
Après avoir lu ces deux histoires, l'histoire d'Apate et Xiaozhou, j'ai été vraiment émue. De plus, cela démontre parfaitement un changement très particulier dans l’ère de l’IA.
Dans le passé, si une personne ordinaire voulait faire une bonne action, elle ne serait peut-être pas capable de la faire.
Maintenant, il a enfin la possibilité d'utiliser l'IA et la technologie pour amplifier sa bonne volonté.
Il y a longtemps, j'ai écrit un article sur un lycéen de 17 ans qui se faisait passer pour une IA et guérissait toute la station B avec ses réponses. Ce sont tous des gens ordinaires mais formidables.
Chaque jour, nous discutons de l'intelligence du modèle, des critères qu'il a dépassés et du nombre de tâches qu'il peut accomplir qui ne pouvaient être effectuées que par des humains dans le passé.
Bien sûr, ces éléments sont importants.
Mais je pense que derrière ces IA de plus en plus puissantes, la pure bienveillance envers les gens est souvent encore plus précieuse.
L'avenir de l'IA que je souhaite le plus voir est probablement celui-ci.
La technologie elle-même n'a en réalité aucune place.
Ce que l'IA amplifie, ce ne sont pas seulement les capacités humaines.
Cela amplifie également les choix des gens.
J'espère qu'un jour dans le futur, nous pourrons utiliser la technologie la plus avancée pour protéger la gentillesse la plus ancienne et la plus simple de l'humanité.
J'espère aussi pour ceux qui sont gentils.
Ne soyez jamais obligé de le faire à cause de votre propre gentillesse.
Et je me blesse à nouveau.
Commentaires