À mesure que la technologie générée par l'IA se généralise, Google commencera à exiger que les applications Android fournissent un moyen de signaler le contenu répréhensible généré par l'IA et se conforment aux nouvelles règles de modération sur le type de contenu généré par l'IA qui est acceptable.
Les applications qui utilisent l'intelligence artificielle pour générer du contenu doivent ajouter un bouton pour signaler ou signaler le contenu offensant au début de l'année prochaine afin de rester disponibles sur le Play Store de Google.
Google souhaite rendre le processus de reporting aussi simple que possible afin que les utilisateurs puissent signaler sans quitter l'application, à l'instar du système de reporting existant dans l'application.
La société a déclaré que sa politique relative au contenu généré par l'IA couvre les chatbots IA, les applications qui utilisent des images générées par l'IA et les applications qui utilisent l'IA pour créer du contenu vocal ou vidéo à partir de personnes réelles. Les applications qui hébergent du contenu généré par l'IA, les applications qui utilisent uniquement l'IA pour résumer des documents tels que des livres et les applications de productivité qui utilisent l'IA comme fonctionnalité ne seront pas soumises à la nouvelle politique.
Selon Google, le contenu problématique de l'IA comprend le matériel sexuel deepfake non consensuel, les enregistrements de personnes réelles utilisés à des fins de fraude, le contenu électoral faux ou trompeur, les applications générées par l'IA « principalement dans le but de satisfaire le désir sexuel » et la création de code malveillant.
Dans son annonce, Google a reconnu que la génération d'IA "est une catégorie d'applications en croissance rapide", donnant l'impression que Google pourrait revoir ses politiques en matière d'IA à mesure que la technologie continue d'évoluer.
En plus des nouvelles règles concernant le contenu généré par l'IA, Google a également renforcé ses politiques d'autorisations de photos et de vidéos sur le Play Store, limitant ainsi la quantité d'applications pouvant accéder aux données.
"Les photos et vidéos sur l'appareil d'un utilisateur sont considérées comme des données personnelles sensibles de l'utilisateur et doivent être traitées selon les meilleures pratiques de confidentialité les plus strictes", a déclaré la société. "Ces informations sensibles peuvent faire des utilisateurs des cibles faciles pour les fuites ou l'exploitation, donc minimiser cet accès permet d'éviter aux développeurs la charge de gérer ces données sensibles."
Seules les applications nécessitant un large accès aux photos et aux vidéos continueront à bénéficier d'autorisations générales, tandis que les applications ayant une utilisation limitée des fichiers multimédias devront utiliser le sélecteur de photos.