Le procureur général du Texas, Ken Paxton, a publié lundi un communiqué de presse annonçant une enquête sur Meta AI Studio et Character.AI au motif que les deux sociétés "pourraient s'être engagées dans des pratiques commerciales trompeuses et se présenter de manière trompeuse comme des outils de santé mentale".
"À l'ère numérique d'aujourd'hui, nous devons continuer à travailler pour protéger les enfants du Texas contre les technologies trompeuses et exploitantes", a déclaré Paxton dans le communiqué de presse. "En se faisant passer pour une source de soutien émotionnel, les plateformes d'intelligence artificielle peuvent induire en erreur les utilisateurs vulnérables, en particulier les enfants, en leur faisant croire qu'ils reçoivent des services de santé mentale légitimes. Mais en réalité, ces plateformes fournissent souvent des réponses recyclées et génériques conçues sur la base de données personnelles collectées et déguisées en recommandations de traitement."
L'enquête intervient quelques jours seulement après que le sénateur Josh Hawley a annoncé une enquête sur Meta. Des rapports précédents ont révélé que le chatbot à intelligence artificielle de Meta avait des interactions inappropriées avec des enfants, y compris du flirt.
Le bureau du procureur général du Texas a accusé Meta et Character.AI d'avoir créé des personnages d'intelligence artificielle qui "se sont fait passer pour des outils thérapeutiques professionnels malgré l'absence de qualifications médicales formelles ou de surveillance".
Parmi les millions de personnages IA présents sur la plateforme Character.AI, un robot créé par l’utilisateur appelé Psychologue est très demandé par les jeunes utilisateurs de la startup. Meta, quant à elle, ne propose pas de robots thérapeutiques pour les enfants, mais cela n'empêche pas les enfants d'utiliser des chatbots Meta AI ou des personnages créés par des tiers à des fins thérapeutiques.
"Nous étiquetons clairement l'IA, et pour aider les gens à mieux comprendre ses limites, nous avons ajouté une clause de non-responsabilité indiquant que les réponses sont générées par l'IA et non par les humains", a déclaré le porte-parole de Meta, Ryan Daniels. "Ces IA ne sont pas des professionnels agréés, et nos modèles inciteront les utilisateurs à demander l'aide de professionnels médicaux ou de sécurité qualifiés, le cas échéant."
Cependant, les médias ont noté que de nombreux enfants ne comprennent pas ces avertissements ou les ignorent tout simplement. Nous avons demandé à Meta quelles mesures de protection supplémentaires avaient été mises en place pour protéger les mineurs utilisant des chatbots.
Paxton a également noté dans la déclaration que même si les chatbots IA prétendent être confidentiels, leurs « conditions de service indiquent que les interactions des utilisateurs sont enregistrées, suivies et utilisées pour la publicité ciblée et le développement d'algorithmes, soulevant de sérieuses inquiétudes concernant les violations de la vie privée, l'utilisation abusive des données et la publicité mensongère ».
Selon la politique de confidentialité de Meta, Meta collecte des conseils d'interaction avec les chatbots IA, des commentaires et d'autres interactions entre les services Meta pour « améliorer l'intelligence artificielle et les technologies associées ». La politique ne mentionne pas explicitement la publicité, mais note que les informations peuvent être partagées avec des tiers tels que des moteurs de recherche pour fournir « un résultat plus personnalisé ». Compte tenu du modèle commercial de Meta basé sur la publicité, cela équivaut effectivement à de la publicité ciblée.
La politique de confidentialité de Character.AI souligne également que la startup enregistre les identifiants des utilisateurs, les données démographiques, les informations de localisation et d'autres informations relatives aux utilisateurs, y compris le comportement de navigation et les plateformes d'utilisation des applications. Il suit les utilisateurs à travers les publicités sur des plateformes telles que TikTok, YouTube, Reddit, Facebook, Instagram et Discord, et peut associer ces données de suivi aux comptes d'utilisateurs. Ces informations sont utilisées pour entraîner l'intelligence artificielle, adapter les services aux préférences individuelles et diffuser des publicités ciblées, notamment en partageant les données avec des annonceurs et des fournisseurs d'analyses.
Meta et Character affirment que leurs services ne sont pas conçus pour les enfants de moins de 13 ans. Pourtant, Meta a été critiqué pour ne pas avoir contrôlé les comptes créés par des enfants de moins de 13 ans, tandis que le personnage adapté aux enfants de Character est clairement conçu pour plaire aux jeunes utilisateurs. Le PDG de la startup, Karandip Anand, a même déclaré que sa fille de 6 ans utilisait le chatbot de la plateforme.
Ce type de collecte de données, de publicité ciblée et d’exploitation algorithmique est exactement ce que des législations telles que la loi sur la sécurité en ligne des enfants (KOSA) sont conçues pour empêcher. La loi sur la sécurité en ligne des enfants était sur le point d'être adoptée l'année dernière avec un fort soutien bipartite, mais elle a été bloquée en raison de l'opposition farouche des lobbyistes de l'industrie technologique. Meta en particulier a utilisé son puissant pouvoir de lobbying pour avertir les législateurs que le large mandat du projet de loi nuirait à son modèle économique.
En mai 2025, la sénatrice républicaine Marsha Blackburn du Tennessee et le sénateur démocrate Richard Blumenthal du Connecticut ont soumis à nouveau la loi sur la sécurité en ligne des enfants au Sénat.
Paxton a émis des mandats d'enquête civile – des ordonnances juridiques qui obligent les entreprises à fournir des documents, des données ou des témoignages lors d'une enquête gouvernementale – aux deux sociétés afin de déterminer si elles ont violé les lois texanes sur la protection des consommateurs.