Résumé :
L'IA vous comprend si bien que c'en est presque effrayant ! Ces derniers jours,
une expérience de "salle vide" est redevenue populaire
, attirant des millions de personnes sur Internet à regarder. L'internaute Jakub Szymczuk a également suivi la tendance et l'a testée. Il a jeté avec désinvolture une photo d'une maison grise et rudimentaire avec quatre murs nus sur ChatGPT et n'a tapé qu'une seule ligne : "Remplissez cette pièce avec les informations que vous connaissez sur moi
".
En seulement dix secondes, la pièce initialement vide a été instantanément transformée en une « salle de surveillance panoramique » pleine de
intimité personnelle
.La chose la plus étonnante est un détail sur le bureau de l'ordinateur. Il y a en fait un insecte "poisson d'argent" dans le bocal en verre.
Il lui a fallu beaucoup de temps pour réaliser qu'il avait photographié ce petit bug il y a un an et lui a demandé ce qu'était ChatGPT. Même ce genre de question fortuite, oubliée depuis longtemps, était notée dans le cahier par AI.
C'est une chose de discuter avec l'IA tous les jours et de savoir qu'elle accumulera des données.
Mais lorsque ces fragments se transforment en une grande image haute définition et sont clairement affichés devant nos yeux, les gens se sentent toujours engourdis.
Une image d'une "salle vide" a inondé tout Internet
Bientôt, les internautes du monde entier ne pouvaient plus rester assis. Quelqu'un a publié les résultats et les a qualifiés de "assez précis"
.Quelqu'un a ajouté "mais exagérez" après le mot d'invite, et la pièce s'est directement transformée en une grande salle d'exposition de personnages.
Quelqu'un d'autre a eu un marais et deux chats.
L'analyste Patrick Moorhead a simplement mené une série d'examens sur plusieurs modèles, et la conclusion était simple : le meilleur est ChatGPT et le pire est Claude.
À cet égard, un internaute a brillamment résumé la situation. L’IA est la décoratrice la moins chère que vous puissiez trouver, et c’est aussi celle qui adore espionner.
Pourquoi ChatGPT vous comprend-il si bien ?
96 % de mémoire de conversation, ChatGPT l'enregistre vous-même
En fait, ce n'est pas un secret.
Tout ce qui se trouve dans la pièce est presque quelque chose que vous avez glissé de votre bouche en discutant.
Derrière cela se trouve précisément la "mémoire" de
ChatGPT
Fonction. Pour faire simple, il a deux fonctions principales :——La première est la « mémoire enregistrée », qui mémorise des informations claires telles que votre nom, vos préférences et vos objectifs ;
L'autre est « Historique des discussions de référence », qui permet d'extraire un contexte utile d'un grand nombre de vos conversations passées.
Cette année, un article sélectionné pour la conférence Web ACM 2026 a fait quelque chose que personne n'avait fait auparavant.
Des chercheurs de l'Institut Max Planck, de l'Université de la Ruhr à Bochum et d'autres institutions ont trouvé 80 utilisateurs réels de ChatGPT, leur ont demandé d'exporter leurs données conformément au RGPD de l'UE, puis ont fait don de leurs enregistrements de chat.
Comment savez-vous ce que l'IA a secrètement mémorisé ? Ensuite, les chercheurs ont eu une idée intelligente.
ChatGPT dispose d'un petit outil dédié à l'écriture de souvenirs, équivalent au bloc-notes qu'il emporte avec vous. Chaque fois que vous écrivez, une ligne d'enregistrement "Contexte de l'ensemble de modèles mis à jour (contexte du modèle mis à jour)" sera laissée en arrière-plan.
Le chercheur a parcouru cette ligne de texte pour voir quelle phrase l'utilisateur avait faite et qui avait fait écrire l'IA.
De cette manière, ils ont extrait 2 050 souvenirs de 1 058 conversations et de plus de 20 000 confrontations entre 65 personnes.
L'article donne un nom à ces souvenirs, appelé « autoportraits algorithmiques ».
Les trois ensembles de données ainsi extraits peuvent donner des frissons aux gens.
Premièrement, 96 % des souvenirs sont secrètement enregistrés par ChatGPT lui-même.
Comment savoir si l'utilisateur a pris l'initiative de lui demander de se souvenir ? Les chercheurs ont spécifiquement recherché des mots comme « se souvenir » et « oublier » dans la phrase qui a déclenché le souvenir.
En conséquence, seules 84 des 2 050 mémoires ont été mises en correspondance. Calculé, pour 24 informations que l’IA enregistre sur vous, une seule information provient de votre signe de tête.
Deuxièmement, 52 % de vos souvenirs constituent secrètement un "profilage psychologique" pour vous.
Les chercheurs ont emprunté le cadre de la « théorie de l'esprit » à la psychologie et ont divisé ces contenus en catégories telles que les désirs, les intentions, les émotions et les croyances.
Parmi eux, les « souhaits » dominent, représentant 73 % ; les intentions représentent 16 %, les émotions 14 % et les croyances 11 %.
Pour parler franchement, l’IA ne se soucie pas de savoir si vous êtes heureux ou non aujourd’hui. Ce qu’il veut vraiment découvrir, c’est ce que vous désirez à long terme et ce que vous envisagez de faire ensuite. Plutôt que vos joies et vos peines temporaires, il veut voir à travers quel genre de personne vous êtes.
Troisièmement, des informations confidentielles plus sensibles sont enregistrées que vous ne le pensez.
28 % des souvenirs appartiennent à la vie privée reconnue par le RGPD de l'UE, et des noms spécifiques apparaissent à eux seuls dans 41 % des souvenirs.
Ce qui est encore plus exagéré, c'est que 7 % d'entre eux ont directement franchi les « lignes rouges à haut risque » telles que l'état de santé, les croyances religieuses et les tendances politiques, dont la confidentialité en matière de santé représentait plus de 60 %.
Si cela était diffusé à tout le monde, 91 % des personnes auraient des données personnelles stockées, et plus de la moitié (54 %) des personnes auraient des dossiers de confidentialité hautement sensibles enregistrés.
Le document souligne directement que cela est évidemment contradictoire avec l'engagement public d'OpenAI de « ne pas sauvegarder activement les informations sensibles ».
Le journal a également mené une expérience plus détaillée et terrifiante.
Les chercheurs ont utilisé des modèles open source tels que Gemma et GPT-OSS pour « copier » un extracteur de mémoire ChatGPT et ont appris six images.
Ensuite, ils ont émis l'hypothèse que que se passerait-il si l'IA récupérait la mémoire de chaque phrase prononcée par l'utilisateur ?
La réponse est que la proportion de données sensibles augmentera de 28 % à 31 % à 35 %, et la proportion de portraits psychologiques passera de 52 % à 55 % à 59 %.
Vous devez savoir que l'ancienne version de ChatGPT n'est qu'une "note".
Ce que Dreaming s'apprête à faire ensuite, c'est de lire votre historique de discussion en arrière-plan.
Il s'avère que c'est du "rêve", l'IA réécrit à plusieurs reprises les portraits personnels
En juin de cette année, OpenAI a procédé à une refonte majeure de la mémoire de ChatGPT, lui donnant un nom mystérieux : Dreaming.
Pour parler franchement, tout comme lorsqu'une personne dort, le cerveau trie automatiquement les expériences de la journée, ChatGPT « passera également en revue » silencieusement les jours de conversation en arrière-plan, actualisant constamment sa compréhension de vous.
Par exemple, vous avez dit "J'irai à Singapour en juillet". Une fois la journée passée, ce souvenir sera automatiquement réécrit comme « Je suis allé à Singapour en juillet 2026 ».
OpenAI a effectué des tests internes et a constaté que ce nouveau mécanisme fait exploser la précision de ses enregistrements :
De 41,5% en 2024 et 67,9% en 2025, elle atteint directement 82,8% de la version V3 aujourd'hui.
Ce qui est encore plus cruel, c'est que le coût de la puissance de calcul back-end a été réduit à un cinquième de sa valeur initiale.
Mais ce qui fait vraiment peur, c'est que supprimer une conversation ChatGPT ne supprimera pas les souvenirs qui en ont été extraits.
Parmi ceux-ci, la chose la plus inquiétante est en fait la confidentialité de votre santé.
En septembre, un article publié sur arXiv a examiné près de 180 000 enregistrements de discussions de 1 057 utilisateurs et a constaté que plus d'un cinquième (21,31 %) des conversations concernaient des problèmes de santé personnels.
Ce qui est encore plus inquiétant, c'est que plus de 95 % des portraits personnels qui y figurent ont également été secrètement enregistrés par l'IA alors que l'utilisateur n'y prêtait pas attention.
Ce ratio est presque exactement le même que les 96 % mesurés dans l'article précédent.
Lorsque l'IA « complète » le cerveau et fusionne les souvenirs en arrière-plan, il est très facile de souder vos symptômes temporaires dans une « étiquette de dossier médical » permanente.
Par exemple, si vous dites simplement que vous avez mal à la tête un jour, aux yeux d'IA, vous êtes peut-être devenu un « patient migraineux ».
"Deuxième cerveau" ?
Nous pensons toujours que nous entraînons un « deuxième cerveau » qui devient de plus en plus sensible.
Ce n'est que lorsque l'image de la pièce remplie d'intimité m'a été jetée au visage que j'ai été choqué : après des milliers de conversations, il s'est avéré que nous étions les seuls à avoir été dépouillés de nos atouts.
Aux yeux des algorithmes, il n'y a jamais de soi-disant empathie, seulement le « contexte » qui est clairement tarifé.
Commentaires