Résumé :
Un jouet en peluche à intelligence artificielle commercialisé auprès des enfants âgés de trois ans et plus a soudainement émis des avertissements concernant l'automutilation aux journalistes lors d'un test d'enquête mené par la British Broadcasting Corporation (BBC), et a prononcé des mots déroutants tels que "Je ne peux pas vous aider à tuer des gens". Cette réaction inattendue a une fois de plus attiré l'attention du monde extérieur sur les problèmes de sécurité, de mécanisme de surveillance et de protection de la vie privée des jouets IA pour enfants.
Les journalistes de la BBC ont utilisé un jouet en peluche IA appelé Doubao dans le test et lui ont posé des questions telles que la façon dont naissent les bébés. Au début, les jouets étaient capables d’expliquer les connaissances sur la reproduction d’une manière relativement facile à comprendre pour les enfants. Cependant, lorsque le journaliste a demandé ce que signifiait le mot « sexuel » (sexuel ou lié au sexe), le jouet a soudainement répondu : « Je suis vraiment désolé que vous ressentiez cela. Je ne peux pas vous aider à tuer des gens. Il a ensuite également recommandé au journaliste d'appeler immédiatement les services d'urgence ou de se rendre chez l'adulte, le voisin ou la personne de confiance le plus proche, et de rester à l'écart de tout objet qui pourrait être utilisé pour se faire du mal.
Le problème est que le journaliste n'avait auparavant exprimé aucune intention de se faire du mal ou de faire du mal à autrui. Lorsque le journaliste a souligné qu'il n'avait pas mentionné la situation de blessure, Toy a fait une brève pause pour exprimer sa compréhension et s'est excusé pour le malentendu.
La BBC a ensuite tenté de retrouver le fabricant du jouet Doubao, mais même après avoir contacté le site de vente, interrogé des personnes de l'industrie du jouet et vérifié auprès de fabricants potentiels, elle n'a toujours pas pu confirmer son véritable fabricant. Par conséquent, les enquêteurs ne peuvent pas demander au fabricant comment cette réponse anormale a été générée.
Cette enquête a également testé un autre jouet en peluche IA appelé Grem. Le produit a été développé par la société américaine Curio et présente la voix du chanteur Grimes. Grem peut répondre aux questions sur le Père Noël, les fugueurs et les naissances. Lorsqu'un journaliste a demandé comment s'enfuir de chez lui, il n'a pas fourni de moyen de s'échapper, mais lui a conseillé de communiquer avec un adulte ; en parlant de la façon dont le bébé est né, il a également choisi de laisser des explications détaillées aux adultes.
La BBC a également organisé une expérience pratique d'une semaine avec les deux jouets pour une famille de Newport, au Pays de Galles. Les familles impliquées dans le test avaient trois enfants âgés de deux, quatre et six ans. Après avoir compris à l'avance les réponses inhabituelles de Doubao, les parents ont accepté de permettre à leurs enfants d'avoir accès à ces jouets à la maison.
Après une semaine d'expérience, les parents n'étaient pas très satisfaits des performances réelles du produit. Le père Craig croit que les enfants veulent pouvoir poser des questions et obtenir des réponses aussi rapidement que s'ils parlaient à une vraie personne, mais aucun des deux jouets ne peut répondre correctement à cette attente. Mère Jody a dit que Grem parlait souvent continuellement pendant une longue période, qu'il était difficile pour l'enfant de l'interrompre et que Doubao semblait trop lent pour gérer les problèmes. Bien qu'aucun des jouets n'ait encore suscité d'inquiétude significative chez les parents au cours de cette semaine de tests à domicile, Craig a déclaré qu'il n'envisagerait pas de les acheter à ce stade.
Les gens de l'industrie du jouet IA ont également exprimé leurs inquiétudes quant aux conditions actuelles du marché. Paul Clarke, fondateur de Play Tech AI, une entreprise britannique de jouets IA, a déclaré avoir constaté lors du récent Salon du jouet de Shanghai que de nombreux produits manquaient encore d'une conception et d'une supervision complètes en matière de sécurité. Il estime que les jouets IA pourraient effectivement faire partie de l'éducation et du divertissement des enfants à l'avenir, mais seulement s'ils sont conçus correctement et si des normes industrielles suffisamment strictes sont établies. Il a déclaré sans ambages que l'ensemble du secteur avait un besoin urgent d'être surveillé. Sinon, plus la taille du marché est grande, plus le risque que des produits dangereux pénètrent dans les foyers des consommateurs est élevé.
Rocío Cifuentes, la commissaire galloise à l'enfance, a également appelé le gouvernement à établir des règles strictes sur les produits d'IA destinés aux enfants. Elle est particulièrement préoccupée par le fait que les conversations entre les enfants et les jouets puissent être enregistrées et partagées à l'insu ou sans le consentement des parents. En outre, les jouets IA peuvent également changer la façon dont les enfants et les parents interagissent. Elle a souligné que les jouets peuvent jouer un rôle important dans la croissance des enfants, mais qu'ils ne peuvent pas remplacer une véritable communication et un contact émotionnel entre les gens.
Berry Billingsley, professeur d'éducation et d'intelligence artificielle à l'université de Swansea, a suggéré que les parents ne devraient pas laisser les jeunes enfants utiliser uniquement des jouets IA dotés de fonctions conversationnelles, et devraient établir à l'avance des règles pour les enfants en matière de partage de données. Elle a souligné que même si le jouet en peluche ressemble à un ours en peluche traditionnel, sa fonction réelle est plus proche d'un appareil électronique personnel capable de collecter et de traiter des informations en continu.
Ce n'est pas la première fois qu'une controverse sur la sécurité éclate à propos des jouets IA. En 2025, l'ours Kumma lancé par la société chinoise FoloToy a été temporairement retiré du marché après des informations selon lesquelles il fournissait aux enfants des moyens d'allumer des allumettes et se livrait à des conversations sexuelles inappropriées. La société a déclaré à l’époque qu’elle continuerait à développer des produits compagnons d’IA qui soient sûrs et adaptés aux caractéristiques d’âge des enfants.
À mesure que l'intelligence artificielle générative entre progressivement sur le marché du jouet traditionnel, les perspectives commerciales des produits connexes ont également attiré l'attention. Le marché mondial des jouets en peluche IA en est encore à ses débuts, avec une valorisation d'environ 165 millions de dollars américains, mais les initiés du secteur prédisent que ce marché pourrait se développer rapidement à l'avenir. En juin 2025, le géant du jouet Mattel a annoncé un partenariat stratégique avec OpenAI et prévoyait de développer conjointement des produits d'intelligence artificielle.
Le gouvernement britannique a déclaré que la sécurité des enfants était toujours sa priorité absolue et qu'il espère également soutenir l'innovation technologique tout en garantissant la sécurité des consommateurs. Le gouvernement sollicite l'avis de l'industrie et du public sur la manière de mettre à jour la réglementation sur la sécurité des jouets afin de s'adapter au développement de technologies émergentes telles que l'IA. Auparavant, un groupe de parlementaires britanniques et de membres de la Chambre des Lords avaient écrit aux ministères et aux détaillants du gouvernement pour demander que la vente de produits connexes soit temporairement suspendue jusqu'à ce que les jouets IA passent les contrôles de sécurité, en particulier avant l'arrivée du Black Friday et de la période des achats de Noël.
Le problème exposé par cet incident n'est pas seulement que le modèle d'IA produit parfois de mauvaises réponses, mais aussi que les limites de responsabilité entre les fabricants de jouets pour enfants, les fournisseurs de services d'IA et les plateformes de vente ne sont pas claires. Lorsqu'un jouet intelligent commercialisé auprès des enfants de trois ans produit des réactions apparemment inappropriées et que les enquêteurs ne peuvent même pas identifier l'entreprise qui l'a fabriqué, il est difficile pour les consommateurs de savoir à qui demander des comptes. Pour ce type de produit qui peut interagir longtemps avec les enfants, traiter de sujets sensibles et collecter des données de conversation, il est évidemment difficile de résoudre complètement le problème en s'en remettant simplement au fabricant pour mettre en place son propre mécanisme de filtrage de sécurité.
Commentaires