Les outils automatisés utilisés par la société mère de Facebook, Meta, pour contrôler les contenus potentiellement dangereux ont inutilement supprimé deux vidéos liées à la guerre entre Israël et le Hamas, a déclaré mardi le comité de surveillance de Meta dans un communiqué. La technologie de modération pourrait empêcher les utilisateurs de consulter du contenu lié à la souffrance humaine des deux côtés du conflit, indique le rapport.
Ces commentaires, résultat du premier « examen rapide » du conseil de surveillance, mettent en évidence l'examen minutieux auquel les sociétés de médias sociaux sont confrontées concernant leur gestion des contenus liés aux conflits.
Le conseil d'administration a annulé la décision initiale de Meta de supprimer deux éléments de contenu. Dans le cadre de sa décision, le groupe a exhorté Meta à respecter les droits des utilisateurs à « la liberté d'expression... et leur capacité à communiquer pendant cette crise ».
"Le comité se concentre sur la protection des droits à la liberté d'expression des personnes de tous bords concernant ces événements horribles tout en garantissant qu'aucun témoignage n'incite à la violence ou à la haine", a déclaré le coprésident du comité, Michael McConnell, dans un communiqué. déclaration. "Ces témoignages sont importants non seulement pour les orateurs, mais aussi pour les utilisateurs du monde entier qui recherchent des informations diverses et actuelles sur des événements révolutionnaires."
En réponse à la décision du conseil d'administration, Meta a déclaré que puisque les deux éléments avaient été rétablis avant la décision du conseil d'administration, aucune autre mesure ne serait prise. "L'expression et la sécurité sont importantes pour nous et pour les personnes qui utilisent nos services", a déclaré la société dans un article de blog.
Le 2 février 2023, un agent de sécurité se tenait à côté d'une pancarte au siège de Meta à Menlo Park, en Californie. La société mère de Facebook, Meta, a annoncé des résultats meilleurs que prévu au quatrième trimestre, avec un chiffre d'affaires de 32,17 milliards de dollars.
Le conseil de surveillance de Meta évaluera la manière dont l'entreprise traite le contenu de la guerre entre Israël et le Hamas
Le Conseil de surveillance de Meta est une entité composée d’experts dans des domaines tels que la liberté d’expression et les droits de l’homme. Elle est souvent décrite comme la Cour suprême de Meta car elle permet aux utilisateurs de faire appel des décisions relatives au contenu sur la plateforme de l'entreprise. Le conseil d'administration conseille l'entreprise sur la manière de gérer certaines décisions de modération de contenu, ainsi que des recommandations politiques plus larges.
La commission a déclaré plus tôt ce mois-ci qu'elle avait décidé d'examiner l'affaire plus rapidement car les décisions concernant les contenus liés à la guerre pourraient avoir « des conséquences urgentes dans le monde réel ». Le comité a déclaré que le nombre quotidien moyen de plaintes d'utilisateurs concernant des décisions de contenu « pertinentes pour la région du Moyen-Orient et de l'Afrique du Nord » a presque triplé dans les semaines qui ont suivi le début du conflit entre Israël et le Hamas.
Meta a déclaré à CNN en octobre qu'elle avait créé « un centre d'opérations spéciales composé d'experts, y compris ceux qui parlent couramment l'hébreu et l'arabe, pour surveiller de près et répondre à cette situation régionale en évolution rapide et qu'elle se coordonne avec des vérificateurs de faits tiers ».
Le conseil de surveillance a déclaré mardi qu'après l'éclatement du conflit, Meta avait pris des mesures provisoires pour lutter contre les contenus potentiellement dangereux, notamment en abaissant le seuil de suppression automatique des contenus susceptibles de violer ses politiques en matière de discours de haine, de violence et d'incitation, ainsi que d'intimidation et de harcèlement.
"En d'autres termes, Meta utilise de manière plus agressive ses outils automatisés pour supprimer les contenus potentiellement interdits", a déclaré le conseil d'administration, ajoutant que la société a pris ces mesures pour donner la priorité à la sécurité, mais que cette décision "augmente également la probabilité que Meta supprime par erreur du non-non-non-non-contenu". Au 11 décembre, Meta n'avait pas ramené les seuils de modération de contenu de ses systèmes automatisés à des niveaux normaux, a indiqué le conseil d'administration.
L'examen du comité a porté sur deux parties : une vidéo publiée sur Instagram qui semblait montrer les conséquences de la frappe à l'extérieur de l'hôpital Al-Shifa de la ville de Gaza, et une autre vidéo publiée sur Facebook qui montrait deux otages kidnappés par des militants du Hamas.
La première vidéo semblait montrer « des personnes, y compris des enfants blessés ou morts, allongés sur le sol et/ou en train de pleurer ». Le comité a déclaré que les légendes en arabe et en anglais sous la vidéo faisaient référence aux forces israéliennes et que l'hôpital était devenu "la cible d'une 'occupation usurpée'".
Les systèmes automatisés de Meta ont initialement supprimé la publication car elle enfreignait les règles relatives au contenu graphique et violent. Un utilisateur a fait appel de la décision, demandant le rétablissement de la vidéo, mais les systèmes de Meta ont automatiquement rejeté la demande après avoir déterminé avec un « degré élevé de confiance » que le contenu violait ses règles. Après que le conseil d'administration ait décidé d'accepter l'affaire, Meta a publié la vidéo et émis un avertissement concernant son contenu inquiétant ; l'avertissement empêchait également les mineurs de visionner la vidéo et de la recommander aux utilisateurs adultes.
Le conseil de surveillance a déclaré mardi que la vidéo n'aurait jamais dû être supprimée et a critiqué la décision de Meta de restreindre sa diffusion, la jugeant "incompatible avec la responsabilité de l'entreprise de respecter la liberté d'expression".
Une deuxième vidéo examinée par le comité montrait une femme et un homme à moto emmenés par des militants du Hamas, avec une légende appelant les gens à la regarder pour avoir « une compréhension plus approfondie » de l'attaque du 7 octobre contre Israël.
Meta a initialement supprimé le message parce qu'il violait sa politique sur les organisations et individus dangereux, qui interdit la publication d'images d'attaques terroristes visant des victimes apparentes, même si elles sont partagées pour sensibiliser l'opinion à de telles attaques. (Meta désigne le Hamas comme une organisation dangereuse au regard de sa politique et a qualifié l’attaque du 7 octobre d’attaque terroriste.)
Après que le conseil d'administration s'est saisi de l'affaire, la société a rétabli la vidéo avec un écran d'avertissement dans le cadre d'un effort plus large visant à autoriser des exemptions limitées de sa politique sur les organisations et les individus dangereux lorsque le contenu est destiné à condamner, sensibiliser ou signaler des enlèvements. , ou appeler à la libération des otages. Comme pour les autres vidéos, l'écran d'avertissement limite la visibilité des vidéos aux mineurs et empêche qu'elles soient recommandées à d'autres utilisateurs de Facebook.
Comme ce fut le cas pour la première vidéo, le conseil d'administration a déclaré que le contenu ne devait pas être supprimé, affirmant qu'empêcher la recommandation de la vidéo mettrait Meta en violation de ses responsabilités en matière de droits de l'homme.
Meta a déclaré mardi qu'elle ne modifierait pas les limites recommandées pour deux vidéos examinées par le conseil d'administration, car celui-ci n'était pas d'accord avec les limites mais n'avait formulé aucune recommandation formelle sur ce qu'il fallait faire avec les vidéos.
"Le Comité considère qu'exclure des recommandations les contenus qui sensibilisent à de potentielles violations des droits de l'homme, à des conflits ou à des actes de terrorisme ne constitue pas une restriction nécessaire ou appropriée à la liberté d'expression, étant donné le niveau élevé d'inquiétude du public concernant de tels contenus", a-t-il déclaré dans sa décision.