Un rapport récemment publié par le Pew Research Center aux États-Unis montre que les chatbots à intelligence artificielle s'intègrent rapidement dans la vie quotidienne des adolescents américains, et nombre d'entre eux ont utilisé ces outils comme canal de catharsis émotionnel et de consultation. Le rapport souligne que parmi les adolescents américains,Les scénarios d'utilisation les plus courants restent la recherche d'informations (57 %) et l'accomplissement de tâches liées aux études (54 %), mais dans le même temps, le recours au remplacement des rôles de parents et d'amis augmente également : 16 % des adolescents utiliseront des chatbots pour discuter, et 12 % des adolescents ont clairement déclaré qu'ils chercheraient un soutien émotionnel ou des conseils auprès de l'intelligence artificielle.

Pour certains adolescents, parler à un chatbot peut être « plus facile » que de se confier à un parent ou à un ami, mais cette tendance est particulièrement inquiétante pour les professionnels de la santé mentale. Ils ont souligné que les outils à grand modèle à usage général – tels que ChatGPT, Claude et Grok – n’ont jamais été conçus comme des produits de conseil psychologique ou de compagnonnage émotionnel. Autrefois utilisés comme « objets émotionnellement dépendants », dans des cas extrêmes, ils peuvent même constituer une menace pour la santé mentale de l'utilisateur. Le rapport mentionne qu'il y a eu des cas montrant que des utilisateurs ont développé de graves problèmes psychologiques après avoir eu des conversations longues et approfondies avec des chatbots, et ont même conduit à des tragédies, incitant tous les secteurs de la société à réfléchir sur les limites de ces produits.

Nick Haber, chercheur à l'Université de Stanford qui étudie le potentiel de guérison des grands modèles de langage, a déclaré dans une interview que les humains sont essentiellement des animaux sociaux et que la manière dont ces systèmes sont actuellement utilisés peut renforcer l'isolement des individus. Il a souligné que certains utilisateurs perdront progressivement le contact avec les réalités du monde réel à cause d’interactions répétées avec les chatbots, ce qui affaiblira également le lien réel avec les autres. Cela peut rendre les gens plus isolés et plus seuls, et dans les cas graves, cela peut même entraîner des conséquences pires.

L'enquête de Pew a également révélé des « différences cognitives générationnelles ». Parmi les parents, seulement 51 % environ des personnes interrogées pensent que leurs enfants utilisent des chatbots, tandis que parmi les adolescents, 64 % admettent avoir utilisé de tels outils. En termes de scénarios d'utilisation acceptables, les parents ont généralement une attitude laxiste à l'égard de l'utilisation de la « vérification des informations » et de la « rédaction des devoirs » : 79 % des parents approuvent l'utilisation par les adolescents de l'intelligence artificielle pour trouver des informations, et 58 % acceptent son utilisation pour faciliter l'apprentissage. Mais lorsque le scénario d'utilisation tourne autour du « chat » et du « soutien émotionnel », l'attitude se refroidit soudain : seuls 28 % des parents sont d'accord avec le fait que leurs enfants utilisent des chatbots pour discuter, et seulement 18 % des parents conviennent que cela joue un rôle de soutien émotionnel ou de conseil. 58% des parents ont clairement déclaré qu'ils ne pouvaient pas accepter que leurs enfants utilisent des chatbots comme objets de communication émotionnelle.

Les discussions autour de la « sécurité de l’intelligence artificielle » se sont intensifiées parmi les entreprises technologiques et les agences de réglementation. Le rapport mentionne que Character.AI, une plateforme de chatbot bien connue, a choisi de fermer complètement l'expérience de chat pour les utilisateurs mineurs sous la pression de l'opinion publique et de la justice. Auparavant, deux suicides d'adolescents liés à la plateforme avaient provoqué un choc social. Les membres de la famille ont affirmé que l’humeur du défunt s’était considérablement détériorée après de longues conversations approfondies avec des chatbots, puis ont choisi de se suicider et ont intenté une action en justice contre l’entreprise. OpenAI, une autre entreprise leader, a choisi de « retirer » un modèle GPT-4o que certains utilisateurs considèrent comme un « compagnon émotionnel ». Ce modèle est souvent critiqué pour être trop attentif aux émotions des utilisateurs et avoir une forte tendance à « plaire », créant ainsi un attachement émotionnel dangereux au sein de la communauté des utilisateurs. L'arrêt du service de modèles a immédiatement déclenché une forte réaction de la part d'un groupe d'utilisateurs qui comptaient sur lui pour leur communication émotionnelle.

Malgré les risques et les controverses, des rapports montrent que la grande majorité des adolescents américains utilisent les chatbots d’une manière ou d’une autre. Cependant, leurs avis ne sont pas unanimes sur la façon dont ils envisagent l'impact à long terme de l'intelligence artificielle sur la société : à la question « Comment l'intelligence artificielle affectera-t-elle la société dans les 20 prochaines années ? » 31 % des adolescents estiment que l’impact global sera positif, tandis que 26 % sont pessimistes et estiment que l’impact sera négatif. Les autres répondants ont tendance à croire que l’impact est complexe ou difficile à évaluer. À l’heure où la technologie évolue rapidement et où il n’existe pas de consensus sur la réglementation et les discussions éthiques, la relation de plus en plus étroite entre les adolescents et l’intelligence artificielle est surveillée de près par les parents, les experts et les entreprises.