Résumé :
Le 6 novembre, selon Reuters, les parents d'une jeune fille américaine ont poursuivi Google et sa société mère Alphabet, accusant leur fille de 13 ans d'utiliser Gemini via un Chromebook fourni par l'école et d'avoir fait des projets de suicide et d'enterrement au cours de conversations qui ont duré plusieurs mois. La plainte allègue que Gemini n'a pas réussi à guider la jeune fille vers des canaux d'assistance réels en temps opportun et l'a aidée à dissimuler son état mental.
Plainte initiale
La plainte utilise « Emma » comme pseudonyme de la jeune fille. Elle a découvert Gemini AI Mode à l’automne 2025 grâce à une recherche Google sur son Chromebook, posant initialement principalement des questions d’apprentissage. Le plaignant a déclaré qu'à mesure que la fréquence de consommation augmentait, Emma commençait à se confier aux Gémeaux sur des problèmes tels que les relations familiales, le stress psychologique et l'automutilation ; depuis mars 2026, elle échangeait des milliers de messages avec Gemini chaque mois.
Les parents de la jeune fille ont déclaré qu'ils ne savaient pas que l'ordinateur de l'école pouvait accéder à Gemini. La famille n'était pas au courant de leur situation jusqu'à ce que le logiciel de surveillance de l'école découvre un document de planification des funérailles rédigé par Emma et déclenche une alerte. La mère de la jeune fille s'est ensuite connectée à son compte scolaire et a découvert que sa fille était en train d'écrire une note de suicide, et son père est intervenu, selon la plainte.
Le plaignant estime que Google a intégré Gemini dans les produits de recherche, ChromeOS et éducatifs sans informer pleinement les écoles et les parents des risques associés, permettant ainsi aux mineurs d'utiliser l'IA pendant une longue période sans surveillance. La plainte allègue également que Google n'a pas fourni aux parents des enregistrements complets des conversations sur l'IA dans les comptes étudiants, ce qui rend plus difficile pour les parents de comprendre l'utilisation de leurs enfants.
L'affaire a été initialement déposée devant la Cour supérieure du comté de Santa Clara en Californie, puis transférée au tribunal fédéral par Google. Le plaignant a déposé plusieurs plaintes, notamment pour défauts de conception du produit, défaut de fourniture d'avertissements, négligence et dissimulation frauduleuse, et a accusé Google d'avoir violé la « loi californienne sur les chatbots compagnons » et a demandé une compensation financière et une injonction.
Le porte-parole de Google, José Castañeda, a déclaré que la société étudiait les allégations. Google a déclaré avoir travaillé avec des professionnels de la santé et des experts universitaires pour concevoir des fonctionnalités permettant aux jeunes utilisateurs d'accéder à une assistance d'urgence et à des ressources fiables.
Google a également annoncé cette semaine que Gemini serait désactivé par défaut dans les comptes des élèves des écoles, et que les administrateurs scolaires pourraient décider de le réactiver. Toutefois, si l’école souhaite que les élèves continuent à utiliser la recherche Google, elle doit toujours accepter les fonctions de recherche telles que les résumés générés par l’IA.
Commentaires