Un matin de mai, un garçon de 11 ans portant une fausse barbe a tenté de tromper le système d'estimation de l'âge de Roblox en lui faisant croire qu'il était plus âgé. Cependant, en quelques secondes, le système a déterminé que sa tranche d'âge était comprise entre 9 et 12 ans, prouvant que les nouvelles mesures de vérification de l'âge promues par la plateforme de jeu ne peuvent pas être facilement contournées.

La démonstration, organisée par Roblox à son siège social, faisait partie des efforts de l'entreprise pour présenter aux médias son dernier outil de détection biométrique de l'âge. Cet outil est disponible dans le monde entier depuis cette année et a été utilisé pour classer les utilisateurs mineurs dans des comptes classés par âge à partir de ce mois-ci. L'entreprise espère répondre aux doutes de longue date sur la sécurité des enfants sur la plateforme et prouver aux utilisateurs, aux parents et aux investisseurs qu'elle prend des mesures plus strictes pour garantir que les utilisateurs mineurs puissent agir dans un environnement virtuel relativement « adapté à leur âge ».

Depuis son lancement en 2006, Roblox est devenue la plus grande plateforme de jeux sociaux au monde destinée aux enfants. Les mondes virtuels de la plateforme sont créés par les utilisateurs eux-mêmes et sont officiellement appelés « expériences ». Ces dernières années, Roblox a renforcé les règles sur la manière dont les utilisateurs communiquent entre eux sur la plateforme, alors que de multiples affaires et poursuites judiciaires accusent la plateforme d'être un « terrain de chasse pour les prédateurs d'enfants ».

Lors de la dernière série d'ajustements, la société a officiellement lancé un système de comptes hiérarchiques pour les mineurs. Les utilisateurs âgés de 5 à 8 ans seront classés comme comptes « Roblox Kids », dont toutes les fonctions de messagerie sont désactivées par défaut et ne pourront jouer qu'à des jeux marqués comme ayant un contenu « minimal » ou « doux » pour la maturité. Les utilisateurs âgés de 9 à 15 ans accéderont au compte « Roblox Select ». La plateforme ouvrira progressivement davantage de fonctions de chat et leur permettra d'accéder aux jeux dont le contenu a la maturité la plus élevée jusqu'à "moyenne". Les utilisateurs âgés de 16 ans et plus peuvent accéder à la bibliothèque complète de jeux et aux fonctions de chat de la plateforme dans des circonstances normales.

Ce système de notation s'appuie sur les règles précédemment lancées par Roblox : la plate-forme exige déjà que tous les utilisateurs soumettent une pièce d'identité émise par le gouvernement pour vérifier leur âge ou réussissent un test d'âge biométrique avant de pouvoir utiliser la fonction de chat. Le système estime automatiquement l'âge des utilisateurs et leur permet de discuter uniquement avec des utilisateurs d'une tranche d'âge similaire. Les autorités affirment qu'il s'agit d'une étape cruciale pour la sécurité des mineurs après l'époque des « anniversaires auto-déclarés ».

Toutefois, le renforcement des mesures de sécurité a eu un impact direct sur les performances commerciales de la plateforme. Le nombre d'utilisateurs actifs quotidiens de Roblox est passé d'environ 152 millions au troisième trimestre de l'année dernière à 132 millions au premier trimestre de cette année. Le marché a réagi en conséquence et le cours de l'action de la société a chuté de 18 % en un seul jour de bourse. De nombreux joueurs se sont plaints en ligne du fait que leur expérience était gravement affaiblie par des facteurs tels que le « chat verrouillé », le « résumé du chat généré par l'IA » et le « nouveau seuil d'âge du jeu ».

Eliza Jacobs, vice-présidente de la politique des produits de sécurité de Roblox, a déclaré dans une interview au siège de la société à San Mateo que la société considérait les changements comme "un investissement dans la vision à long terme de Roblox". Elle a reconnu que les nouvelles réglementations provoqueraient un mécontentement et un choc dans la communauté à court terme, mais elle a estimé que la persévérance pendant la période de transition était nécessaire. "Tout le monde ne sera pas toujours heureux", a-t-elle déclaré. "La communauté est profondément attachée à Roblox et considère la plateforme comme son espace. Je comprends donc parfaitement ses sentiments lorsque nous introduisons des changements qui les impactent."

Roblox fait actuellement face à une pression juridique croissante. Au moins neuf États américains ont poursuivi l'entreprise en justice pour des raisons de sécurité des enfants, et trois autres États ont choisi de régler avec Roblox comme alternative au litige. Plus de 150 familles ont également poursuivi Roblox dans des cas individuels, accusant la plateforme de ne pas avoir empêché les enfants d'être soignés ou agressés sexuellement sur la plateforme. Ces poursuites ont été regroupées dans une poursuite conjointe multi-districts devant la Cour fédérale du district nord de Californie.

En réponse aux critiques, Roblox a souligné dans une déclaration écrite que l'entreprise est "profondément engagée à créer un environnement sûr, sain et adapté à l'âge de la communauté". Le communiqué indique que les accusations portées contre la plateforme « méconnaissent fondamentalement le fonctionnement de Roblox et ignorent les nombreuses mesures que nous avons prises de manière proactive et que nous mettons en œuvre pour établir de nouvelles normes de sécurité en ligne ».

Cependant, le système de vérification de l’âge de Roblox a également soulevé des problèmes de confidentialité et d’exactitude. La société a déclaré que son fournisseur de services tiers, Persona, supprime les données biométriques des utilisateurs immédiatement après que l'estimation de l'âge soit terminée afin de répondre aux préoccupations des utilisateurs concernant les violations de la vie privée. Dans le même temps, certains utilisateurs discutent encore du problème du jugement inexact du système ou des joueurs trouvant des moyens de le contourner.

Les outils d’estimation de l’âge sont de plus en plus adoptés sur Internet au sens large. Des mesures de vérification de l’âge de toutes sortes apparaissent alors que les plateformes sociales sont critiquées pour leur incapacité à protéger les enfants. Mais les défenseurs des droits numériques et de la liberté d’expression préviennent qu’une telle technologie pourrait à son tour créer de nouveaux risques en matière de sécurité et de confidentialité, notamment en ce qui concerne la manière dont les données sont stockées et utilisées.

Jacobs a déclaré que la technologie d'intelligence artificielle utilisée par Roblox estime l'âge de l'utilisateur en fonction de la structure du visage de l'utilisateur, qui peut généralement fluctuer dans un délai de 1,4 an par rapport à l'âge réel de l'enfant. Selon elle, cette méthode est bien plus précise que la sélection d’un anniversaire dans une liste déroulante. "Cocher une case pour indiquer au système que vous avez 13 ans ou plus ne suffit plus", a-t-elle déclaré, ajoutant que l'entreprise pensait que "l'ère de l'âge auto-déclaré est révolue".

Roblox a mis en place plusieurs canaux d'appel pour les utilisateurs dont l'âge a été mal estimé par le système. Jacobs a déclaré que les utilisateurs jugés par le système comme étant plus jeunes qu'ils ne le sont réellement peuvent soumettre des documents d'identité gouvernementaux pour corriger les informations d'âge dans leurs comptes ; les parents peuvent également modifier manuellement l'âge des comptes enfants liés. Dans le même temps, l'entreprise utilise en arrière-plan un système « d'estimation continue de l'âge » pour vérifier s'il existe des anomalies dans l'âge d'enregistrement du compte grâce à « l'âge comportemental » de l'utilisateur.

Le système prend en compte des signaux tels que la période pendant laquelle un utilisateur joue, le type de jeu qu'il choisit et le style de langage utilisé dans les discussions (par exemple, « les enfants autour de la puberté utilisent un langage très différent de celui des générations plus âgées ») pour déterminer s'il doit inviter l'utilisateur à revérifier son âge. "Aucun système n'est parfait et nous savons que parfois nous faisons des erreurs", a admis Jacobs. L'entreprise espère trouver un équilibre entre la correction des erreurs et la prévention des abus des utilisateurs.

Krista Carroll, une mère qui a participé à la manifestation au siège de Roblox, a déclaré qu'élever des enfants à l'ère numérique et surveiller leur comportement en ligne peut être stressant. Elle estime que les mesures de sécurité des entreprises peuvent alléger dans une certaine mesure le fardeau des parents. "Je suis heureuse de voir Roblox prendre ce problème au sérieux et mettre en place davantage de barrières de confidentialité", a-t-elle déclaré. "J'espère que davantage d'entreprises utiliseront cela comme exemple pour réfléchir à la manière de protéger nos enfants."

Dans le même temps, Roblox a également rencontré des frictions avec sa vaste communauté de développeurs dans le processus de lutte contre les contenus nuisibles. Il y a plus de 24 500 développeurs de jeux sur la plateforme, dont beaucoup ne sont que des passionnés indépendants. Ensemble, ils ont créé des dizaines de millions de jeux créés par les utilisateurs. Dans le passé, presque tout le monde pouvait publier ces œuvres à volonté, ce qui rendait extrêmement difficile la réglementation du contenu sur la plateforme.

En mai de cette année, Roblox a introduit de nouvelles exigences pour les développeurs : pour tout jeu ouvert aux joueurs de moins de 16 ans, les développeurs doivent effectuer une vérification d'identité, activer l'authentification à deux facteurs et payer un « dépôt financier ». Plus précisément, les développeurs achètent un abonnement payant ou paient des frais de publication uniques de 1 000 Robux (la monnaie virtuelle de la plateforme) par jeu. La société considère cela comme l’ajout d’une couche de mécanisme de filtrage pour empêcher les utilisateurs malveillants de télécharger en grand nombre des jeux avec du contenu illégal. Dans le passé, les jeux créés par les utilisateurs contenant du contenu pornographique, violent ou autre interdit apparaissaient fréquemment sur la plateforme et étaient difficiles à détecter à temps par les évaluateurs.

Mais cette nouvelle règle a immédiatement déclenché une forte réaction au sein de la communauté, de nombreux créateurs accusant la plateforme d'élever la barrière d'entrée pour les petits développeurs, ce qui rend difficile pour eux de payer le coût de chaque œuvre. Jacobs a répondu que ce type d'engagement financier est crucial pour garantir que les développeurs se soucient réellement de la plateforme et de la communauté et soient prêts à « créer de manière responsable ». « Nous voulons garantir, grâce à des mécanismes de « friction » appropriés, que les développeurs qui publient du contenu pour des millions d’utilisateurs sont engagés et responsables », a-t-elle déclaré.

Selon la société, tout jeu ouvert aux comptes « Kids » et « Select » doit faire l’objet d’un examen supplémentaire avant d’être mis en ligne. Le processus d'examen comprend un jeu d'essai en temps réel par des joueurs âgés de 16 ans et plus, et des observateurs de la plateforme surveillant le déroulement du jeu sur place pour identifier les risques de sécurité potentiels ou les violations de la politique. Jacobs a déclaré que l'entreprise recueillait des commentaires par le biais d'un « Conseil de sécurité communautaire » mondial, un groupe de créateurs Roblox qui fournissent des recommandations mensuelles à l'entreprise sur les mesures de sécurité. Mais elle a reconnu que quelle que soit la manière dont l’entreprise communique, certains changements seront forcément controversés.

« Nous construisons une vision d’un avenir sûr et civilisé en laquelle nous croyons sincèrement », a déclaré Jacobs. « Si certaines personnes sont contrariées de temps en temps, cela nous convient. »