Résumé :
Selon Reuters, Tom Siegel, fondateur de l'équipe confiance et sécurité de Google, a appelé cette semaine à un ralentissement du développement de l'IA et a averti que l'industrie technologique répétait les erreurs de l'ère des médias sociaux et pourrait causer davantage de tort aux enfants.
Ségal
Les sociétés de médias sociaux paient désormais d'énormes compensations et font face à des milliers de poursuites judiciaires pour avoir porté atteinte aux jeunes utilisateurs. Pendant ce temps, les gouvernements du monde entier s’efforcent de restreindre l’accès des mineurs aux plateformes de médias sociaux.
Reuters a rendu compte en exclusivité d'un document de politique interne de Meta l'année dernière. Le document indique que son chatbot pourrait « engager des conversations romantiques ou érotiques avec des enfants », ce qui a déclenché une enquête du Congrès. Malgré tout, les mesures réglementaires n’ont pas suivi le développement rapide de l’IA.
Segal, qui a été vice-président de la confiance et de la sécurité chez Google, a déclaré à Reuters : "Nous sommes actuellement dans une très mauvaise situation en termes d'impact de l'IA sur les enfants. L'idée selon laquelle l'industrie peut résoudre le problème par elle-même sans aide extérieure est irréaliste."
Ses inquiétudes reflètent une crainte croissante parmi certains acteurs de l'industrie technologique et des chercheurs universitaires : l'IA constitue une menace plus grave pour les enfants que les médias sociaux. Aujourd’hui, l’industrie s’empresse d’ajouter des fonctionnalités de plus en plus avancées aux chatbots, et des millions de jeunes utilisent déjà ces robots quotidiennement.
Segal a annoncé mardi qu'il avait rejoint Common Sense Media, un groupe de défense de la sécurité des enfants en ligne. L'association à but non lucratif, fondée en 2003, mène des recherches et évalue la pertinence de divers médias pour les enfants. En mai, l'organisation a créé le Youth AI Safety Institute, un organisme de recherche conçu pour évaluer l'utilisation de l'IA par les enfants, et Siegel en sera le premier directeur exécutif. Anthropic et la Fondation OpenAI, l'organisation à but non lucratif qui contrôle OpenAI, soutiennent l'institut.
Segal a déclaré qu'il prévoyait d'élaborer des normes pour responsabiliser les entreprises d'IA et qu'il espérait travailler avec ces entreprises et des organisations tierces pour atteindre cet objectif.
Il a travaillé chez Google de 2004 à 2019, mais a ensuite quitté Google en pensant que la capacité de l'industrie technologique à créer un espace en ligne sécurisé pour les consommateurs avait « atteint un goulot d'étranglement ». Il a ensuite cofondé TrustLab, une startup qui développe des outils pour aider les entreprises à identifier les menaces de sécurité. Plus tôt ce mois-ci, il a quitté son poste de PDG pour assumer un nouveau rôle.
Siegel a déclaré qu'actuellement, les grandes sociétés d'IA lancent diverses fonctions pour les enfants sans établir de mesures de protection adéquates.
"Je pense que nous sommes confrontés à un risque de préjudice très, très sérieux", a-t-il déclaré. Siegel a déclaré qu'il existe des mesures que les entreprises d'IA peuvent prendre immédiatement pour mieux protéger les jeunes, citant des risques allant du suicide à la folie en passant par le « déchargement cognitif ». Le soi-disant déchargement cognitif fait référence au déclin des capacités de pensée critique provoqué par le recours à l’IA pour répondre aux questions.
Anthropic et OpenAI pourraient mettre en œuvre des mesures de vérification de l'âge plus strictes pour empêcher les mineurs d'utiliser leurs chatbots, a-t-il déclaré. Il a également déclaré que son ancien employeur, Google, pourrait ajouter la possibilité de désactiver l'aperçu et le mode IA dans son moteur de recherche, tout comme il propose actuellement un commutateur permettant aux utilisateurs de filtrer le contenu pornographique.
Segal a ajouté que même si ces mesures peuvent avoir un impact sur l'utilisation ou les bénéfices à court terme, les entreprises d'IA qui n'agissent pas seront confrontées au risque de poursuites et de réglementations, ce qui pourrait nuire plus gravement à leurs activités.
En réponse aux remarques de Siegel, un porte-parole de Google a déclaré que les parents peuvent désactiver complètement l'accès de leurs enfants aux moteurs de recherche grâce à des fonctions de contrôle appropriées. Le porte-parole a déclaré : "Nos capacités de recherche IA constituent un moyen puissant pour les enfants et les adolescents d'apprendre, d'explorer et de comprendre l'information et le monde."
Un porte-parole d'OpenAI a déclaré qu'en plus de l'âge déclaré par les utilisateurs, la société utilise également des « signaux de compte et de comportement » pour identifier les utilisateurs mineurs. "Bien qu'aucune méthode de vérification de l'âge ne soit parfaite, nous continuons de tester et d'améliorer ces systèmes, notamment en empêchant les tentatives de contournement des protections de sécurité", a déclaré le porte-parole.
Commentaires