Le nouveau conseil irlandais de régulation des médias, Coimisiúnna Meán (Code de sécurité en ligne), a invité le public à réagir sur le Code de sécurité en ligne, la première plateforme de partage de vidéos d'Irlande. Le projet de code suggère que les plateformes envisagent d’ajouter une fonctionnalité permettant de désactiver par défaut les algorithmes de recommandation basés sur les profils d’utilisateurs.

Des mesures de sécurité visant à tenir les fournisseurs de services de plateformes de partage de vidéos (VPSP) légalement responsables de la sécurité des personnes en ligne, telles que l'adoption d'une technologie de vérification de l'âge plus stricte et la prévention du téléchargement ou du partage de contenus violents ou incitant à la haine, sont attendues. Les suggestions de Coimisiúnna Meán (CnaM) concernant les algorithmes de recommandation sont peut-être moins prometteuses. Étant donné que des géants de la technologie tels que Google, Microsoft, Apple, TikTok et Meta ont fait de l’Irlande le siège de leurs opérations européennes, les changements proposés pourraient avoir de graves conséquences.

Les sources de recommandation ou les algorithmes de recommandation utilisent les préférences de l'utilisateur, ses recherches ou actions précédentes et d'autres données pertinentes pour recommander du contenu vidéo susceptible d'intéresser l'utilisateur. Nous avons tous vécu cette expérience : vous avez cliqué sur une vidéo de chat parce que votre ami la trouvait mignonne ou drôle, et avant que vous ne vous en rendiez compte, YouTube vous a recommandé des centaines de vidéos similaires que vous ne vouliez pas regarder.

Mais l’objectif du CnaM, ce ne sont pas les vidéos de chats. Le système de recommandation amplifiera également les contenus préjudiciables sur toutes les plateformes. C'est pourquoi la Commission a adopté une approche de « sécurité dès la conception », exigeant que les VPSP « prennent des mesures raisonnables, proportionnées et efficaces, lorsque cela est possible, pour réduire le risque de préjudice (en particulier pour les enfants) causé par la manière dont les systèmes de recommandation regroupent et fournissent du contenu aux utilisateurs ». L’essentiel est que les fournisseurs doivent (selon la formulation utilisée dans le Code) garantir que les algorithmes de recommandation n’exposent pas les utilisateurs à des contenus préjudiciables.

Mais les obligations du VPSP ne s’arrêtent pas là. Si les projets de codes sont adoptés « tels quels », ils devraient rendre compte au comité des mesures prises sur les algorithmes recommandés chaque année, « ou à tout autre intervalle déterminé par le comité » ; il s'agit donc essentiellement de rapports sur demande. De plus, les fournisseurs « doivent élaborer, publier et mettre en œuvre un plan de sécurité des systèmes recommandé qui comprend des mesures efficaces pour réduire le risque de préjudice pouvant être causé par les systèmes recommandés ». Lors de l'élaboration du plan de sécurité ci-dessus, les VPSP doivent « au moins » déterminer s'ils doivent inclure une fonctionnalité qui permet aux utilisateurs de réinitialiser les algorithmes de profilage « afin qu'ils fonctionnent de la même manière que les nouveaux utilisateurs », ou s'ils doivent inclure une fonctionnalité qui garantit que les algorithmes de recommandation basés sur le profilage sont désactivés par défaut.

Le CnaM entend mener des consultations distinctes sur ces questions, qui ont été soulevées comme préoccupations par les parties prenantes à l'élaboration du Code de cybersécurité. Ils ne prévoient pas d’inclure des mesures de modification des algorithmes dans le premier Code.

Retour aux vidéos de chats. En 2022, les chercheurs de Mozilla ont analysé sept mois d'activité YouTube auprès de plus de 20 000 participants et ont découvert qu'une seule vidéo rejetée déclenchait en moyenne 115 mauvaises recommandations très similaires aux vidéos que les utilisateurs disaient à la plateforme qu'ils ne voulaient pas voir.

Souhaitez-vous que l'algorithme ne vous fournisse pas de recommandations qui vous conviennent ? La date limite pour recueillir les commentaires du public sur tous les aspects du Code de cybersécurité, y compris les recommandations algorithmiques du CnaM, est le 19 janvier 2024.

Le projet de code et le document de consultation sont disponibles ici (PDF) :

https://www.cnam.ie/wp-content/uploads/2023/12/Draft_Online_Safety_Code_Consultation_Document_Final.pdf