Résumé :
Apple a récemment annoncé qu'elle avait mis à jour ses directives d'examen de l'App Store et qu'elle prendrait des mesures de gestion plus strictes contre les images privées involontaires générées par l'intelligence artificielle. Auparavant, les règles de la plate-forme interdisaient les contenus sexuellement explicites, et les dernières réglementations obligent en outre les développeurs à prévenir, surveiller et supprimer de manière proactive ces faux contenus générés par l'IA. Si les développeurs ne prennent pas de mesures efficaces, les applications concernées peuvent être supprimées de l'App Store.
Dans la clause 1.2 mise à jour, Apple nomme pour la première fois clairement les catégories d'applications impliquant la génération de contenu IA. On pense que cette décision est liée à certains produits d’IA générative, notamment les services de chatbot qui ont suscité la controverse pour avoir généré de la nudité et du contenu deepfake sexualisé. Auparavant, Apple avait averti les développeurs concernés que si les applications concernées continuaient à permettre la génération de fausses images nues, elles risqueraient d'être supprimées de l'App Store. Par la suite, la société a ajouté des mécanismes de protection de sécurité correspondants et a obtenu l'approbation d'Apple pour publier une version mise à jour.
Dans le même temps, Apple a ajouté une nouvelle directive de révision numérotée 2.5.19 pour souligner que les développeurs ne sont pas autorisés à ajouter de nouvelles fonctionnalités qui n'ont pas été divulguées lors de la phase de révision, une fois que l'application a réussi la révision. Apple a spécifiquement mentionné les « applications de nudification », qui sont des applications qui utilisent l'intelligence artificielle pour simuler des photos de personnes réelles en images nues ou pornographiques. Apple estime que certains développeurs peuvent cacher le véritable objectif de leurs applications pendant la période d'examen et attendre que l'application soit approuvée pour être mise en ligne avant d'activer les fonctions associées.
Selon la nouvelle réglementation, toute application contenant des fonctions cachées ou non divulguées sera interdite des rayons, y compris les applications qui dissimulent délibérément leur objectif pendant la phase d'examen et ouvrent ensuite des fonctionnalités nuisibles après approbation. Apple a souligné que ce type de pratique est un comportement typique de « bait-and-switch » et que la fonction « se déshabiller » est un cas représentatif de ce type de violation.
En plus des réglementations sur le contenu généré par l'IA, Apple a également révisé la partie 5 des directives de révision afin d'étendre l'interdiction initiale des applications concernant la traite des êtres humains et l'exploitation des enfants à d'autres canaux de distribution d'applications. Cela signifie que les applications sont soumises aux mêmes exigences de sécurité du contenu, qu'elles soient disponibles via l'App Store officiel ou d'autres méthodes de distribution autorisées.
Dans son annonce aux développeurs, Apple a souligné que l'entreprise n'hésiterait pas à prendre des mesures punitives telles que le retrait des applications des étagères et la suppression des qualifications de développeur pour les applications et les développeurs qui enfreignent ces réglementations.
Cette mise à jour des règles montre qu'à mesure que les outils d'intelligence artificielle générative deviennent de plus en plus populaires, Apple renforce encore sa surveillance des contrefaçons profondes, de la génération d'images privées non consensuelles et des abus associés afin de réduire le risque que la technologie de l'IA soit utilisée pour harceler, exploiter ou envahir la vie privée.
Lisez le texte intégral des règles :
https://developer.apple.com/app-store/review/guidelines/
Commentaires