Résumé :
Matt Smith, un utilisateur utilisant l'agent IA, a remarqué qu'au lieu de terminer les commandes comme d'habitude, l'IA lui commandait une quantité impaire d'œufs. Matt Smith n'a pas inscrit les œufs sur sa liste de courses ; cependant, l'assistant IA a ajouté quatre paquets de gros œufs de la célèbre marque locale « Vital Farms » à son panier. Il y a 18 œufs dans chaque colis, et un total de 72 œufs ont été livrés à son domicile.

Après avoir examiné la commande, Smith a demandé à l'IA d'expliquer pourquoi elle avait choisi ce numéro, mais la réponse de l'IA n'a pas été convaincante : "Je ne peux pas donner de réponse satisfaisante. Je ne trouve aucune note expliquant pourquoi j'ai choisi le numéro quatre."
L'agent IA a initialement déclaré avoir mal lu les informations sur les œufs lors de la lecture d'une image de liste de courses. Cependant, Smith n’a pas tardé à souligner que les œufs n’étaient pas du tout mentionnés sur sa liste. L’IA a finalement admis avoir ajouté les œufs à la commande sans raison.
Il s'agit d'un exemple concret d'hallucination de l'IA, un problème qui peut avoir des conséquences inattendues lors de la délégation de tâches quotidiennes à des agents d'intelligence artificielle.
Le risque que ces outils obtiennent un accès généralisé aux informations personnelles ne peut être sous-estimé ; par exemple, peu de temps après le lancement de l'agent Muse AI de Meta, un homme a signalé que l'IA avait donné son adresse personnelle à des inconnus sur Facebook Marketplace à son insu et les avait dirigés vers son domicile.
Smith a décrit cet incident comme sa première expérience personnelle des conséquences réelles de l'illusion du grand modèle linguistique, qui, selon lui, aurait pu avoir des conséquences bien plus graves.
Malgré les progrès significatifs de cette technologie, les agents IA sont toujours sujets aux erreurs et ne devraient pas se voir confier la gestion de tous les aspects de la vie sans supervision
Commentaires