Au début de cette année, la plateforme sociale Discord a mis en place un "adolescent par défaut" en réponse à la pression réglementaire mondiale, traitant tout le monde comme des mineurs par défaut et verrouillant directement certaines fonctions. Pour débloquer le mode adulte, vous devez réussir la vérification de l’âge.Il existe deux méthodes de vérification principales: Soit prendre une courte vidéo selfie avec l'appareil photo et laisser l'IA estimer l'âge localement sur notre téléphone mobile ; ou téléchargez honnêtement la carte d'identité.
结果互联网老哥们开始各种极限测试，有人拿游戏截图糊弄，有人用 3D 模型，最离谱的是用手指简笔画。
Quelqu'un a dessiné deux yeux et une bouche sur son pouce, l'a levé devant la caméra, a suivi les invites du système pour centrer, aligner, tourner à gauche, tourner à droite... Une fois l'analyse de l'IA terminée, la conclusion était :13-15 ans, vérifié !
Internet n'a jamais manqué d'imagination lorsqu'il s'agit de « profiter des failles ». Il y avait aussi un garçon de 12 ans qui a dessiné une barbe avec un crayon à sourcils et qui a été jugé par le système comme ayant 15 ans et a réussi l'examen.
Pourquoi cela se produit-il ?
Afin de faire face à la supervision tout en minimisant les conflits liés à la vie privée, ces plateformes ont choisi une solution d'estimation de l'âge du visage côté appareil, dans laquelle l'utilisateur enregistre une vidéo devant la caméra. Le modèle d'IA est entièrement exécuté sur le téléphone mobile ou l'ordinateur local, et seuls les résultats finaux du jugement par tranche d'âge sont renvoyés au serveur. La vidéo complète ou les données du visage ne seront pas téléchargées.
Cela semble être un faible risque pour la vie privée et le processus de vérification est relativement léger, mais le compromis est que les ressources informatiques disponibles sont limitées, que le modèle ne peut pas être trop complexe et qu'il ne peut pas s'appuyer sur une analyse approfondie côté serveur.
Ces modèles s'appuient principalement sur des caractéristiques visuelles telles que les yeux, la bouche, les contours du visage et la texture de la peau pour déduire l'âge. Un simple pouce dessiné avec deux points et une ligne se conforme de manière inattendue au motif abstrait d'un « visage jeune et lisse » sous une lumière, un angle et une basse résolution spécifiques.
Lorsque le système nécessite que le « visage » soit centré et tourné à gauche et à droite, les légères secousses naturelles et les mouvements suivants des doigts fournissent un signal de mouvement de base, qui est suffisant pour que la détection d'activité relativement légère considère cet objet comme « vivant » et le libère directement.
Les modèles d’estimation de l’âge de l’IA sont principalement formés à l’aide de quantités massives de données de visages réels et manquent intrinsèquement de robustesse face à des entrées aussi abstraites et non standard.
Au début du déploiement, afin d'éviter que les utilisateurs normaux échouent fréquemment en raison d'un mauvais éclairage, de mauvais angles ou d'un aspect spécial, la plate-forme a dû fixer le seuil de manière relativement souple, ce qui a donné à cette méthode maléfique de faible technologie l'occasion d'en tirer parti.
Des situations similaires se sont produites sur des plateformes telles que Roblox. On peut constater que la technologie actuelle de l’âge du visage est loin d’être étanche face à des méthodes de tromperie soigneusement conçues.
Les plates-formes ne restent pas immobiles.
前段时间，Meta 宣布要用 AI 主动扫描用户上传的照片和视频，Utilisez des indices visuels généraux tels que la taille et la structure osseuse pour déterminer si le propriétaire du compte a moins de 13 ans, puis supprimez-le directement.
Meta souligne spécifiquement : « Il ne s’agit pas d’une reconnaissance faciale. » Il ne porte que des jugements approximatifs sur la tranche d’âge. "
De plus, Meta ne se contente pas d'examiner des images, mais combine également le contenu textuel de l'ensemble du récit avec des portraits complets de comportements interactifs, tels que des gâteaux d'anniversaire, la mention de la note scolaire, etc., qui seront inclus dans le jugement.
Une fois que l’IA estime qu’elle est mineure, elle va d’abord tuer le compte. Si vous souhaitez le récupérer, vous devez passer par le processus de vérification officielle. Ce système est actuellement en ligne dans certains pays et sera progressivement étendu à davantage de régions à l'avenir. Il est également prévu de l'étendre à Instagram Live, aux groupes Facebook et à d'autres scénarios.
La plate-forme utilise l’IA pour combler les failles, et les utilisateurs trouvent des moyens d’exploiter les failles.
Ce jeu du chat et de la souris va très probablement continuer.