À partir de la semaine prochaine, Instagram lancera une nouvelle fonctionnalité : lorsque des utilisateurs adolescents tenteront de rechercher plusieurs fois des mots-clés manifestement liés à l'automutilation ou au suicide dans un court laps de temps, la plateforme enverra un rappel à leurs parents et leur recommandera de prendre l'initiative de se soucier de l'état mental de leurs enfants. La société mère Meta a également déclaré qu'un mécanisme d'alerte précoce similaire prévoyait également d'étendre ses produits de chatbot IA plus tard cette année.
Cette fonctionnalité sera lancée pour la première fois aux États-Unis, au Royaume-Uni, en Australie et au Canada, et n'est applicable qu'aux comptes jeunes qui ont activé le paramètre de « surveillance parentale ». Autrement dit, les parents ne recevront des notifications pertinentes que si les parents et les adolescents choisissent activement d'activer la fonction de surveillance. Meta a déclaré que la fonctionnalité devrait être étendue à davantage de régions plus tard cette année.
Selon la déclaration d’Instagram dans l’annonce, la plupart des utilisateurs adolescents ne recherchent pas activement de contenu lié au suicide ou à l’automutilation. Lorsque les utilisateurs effectuent de telles recherches, la politique existante de la plateforme consiste à bloquer directement les résultats de recherche pertinents et à les diriger vers des pages de ressources proposant un soutien psychologique et des lignes d’assistance téléphonique. Instagram a souligné que l'objectif du nouveau mécanisme d'avertissement n'est pas d'assouplir les restrictions de contenu, mais de maintenir la politique de blocage tout en donnant aux parents la possibilité d'intervenir et de fournir un soutien en temps opportun lorsque leurs enfants peuvent envoyer des « signaux d'aide ». La plateforme a également indiqué qu'elle tenterait de trouver un équilibre entre « l'information nécessaire des parents » et « éviter les interruptions excessives » afin d'éviter des notifications trop fréquentes et d'affaiblir son effet d'avertissement.
En termes de méthodes de présentation spécifiques, lorsque le système détermine qu'un jeune utilisateur a recherché à plusieurs reprises des mots liés à l'automutilation ou au suicide dans un court laps de temps, les parents recevront des rappels via des canaux tels que l'e-mail, les SMS ou WhatsApp, et une notification apparaîtra également dans l'application. La notification rappelle non seulement aux parents le comportement de recherche récent de leurs enfants, mais est également accompagnée de ressources d'orientation sur la manière de communiquer avec les adolescents sur des sujets sensibles, aidant ainsi les parents à mieux se préparer à la conversation.