Après avoir fait face à une forte opposition et aux critiques de nombreux partis, le géant de la technologie Meta a officiellement fermé une nouvelle fonctionnalité Instagram qui vient d'être lancée cette semaine. Cette fonctionnalité permettait à l'origine aux utilisateurs de simplement mentionner (@ tag) n'importe quel compte Instagram public dans Meta AI, et les images IA peuvent être générées directement en fonction du contenu de ce compte.
Cette fonctionnalité, initialement conçue comme un outil de création, a suscité une énorme controverse dès sa sortie. En raison de son mécanisme de conception initial, le portrait et le contenu de tout compte public peuvent être utilisés pour la création secondaire d'IA sans autorisation explicite du propriétaire. Même si Meta offrait initialement la possibilité de désactiver cette fonctionnalité dans les paramètres, ce mécanisme fastidieux consistant à « le rejoindre par défaut et à obliger les utilisateurs à l'annuler eux-mêmes » a suscité des critiques plus intenses.
Haley McNamara, directrice exécutive et directrice de la stratégie du Centre national sur l'exploitation sexuelle, a publiquement exprimé de vives protestations contre cette mesure, soulignant que cette fonctionnalité non seulement porte atteinte de manière flagrante aux droits légitimes des individus à leur propre image, mais constitue également un outil extrêmement risqué et pratique pour la fraude en ligne et l'extorsion malveillante. Elle a critiqué le fait qu'il est totalement inacceptable de lancer un projet à haut risque tout en transférant la responsabilité de la prévention aux utilisateurs et en obligeant les individus à trouver des voies de sortie dans des contextes encombrants.
Dans le même temps, la Screen Actors Guild of America (SAG-AFTBC) a rapidement émis un avertissement à ses membres, leur recommandant fortement de désactiver cette fonction, et a publié un guide étape par étape.
Face à un tsunami d'opinion publique négative, Meta a mis à jour sa déclaration sur son blog officiel concernant le nouveau modèle d'IA d'image « Muse ». Meta a officiellement admis que son intention initiale était de fournir un outil créatif utile et de permettre aux utilisateurs de contrôler la façon dont le contenu public est cité, mais ils ont entendu des commentaires de tous les horizons - cette fonctionnalité "n'a évidemment pas réussi à atteindre les résultats escomptés". Par conséquent, Meta a actuellement complètement mis cette fonctionnalité hors ligne.