Résumé :
Selon un rapport d'analyse inversée publié par le chercheur en sécurité Xusheng Li, Microsoft ajoutera des filigranes aveugles invisibles aux images générées par l'IA dans les applications Paint et Photo/Album. L'identifiant utilisé par le filigrane aveugle provient des serveurs Microsoft, et ce mécanisme est totalement indépendant du filigrane Microsoft Copilot que les utilisateurs peuvent activer/désactiver eux-mêmes, de sorte que les utilisateurs ne peuvent pas désactiver complètement le filigrane aveugle.
La génération locale d'images sur AI PC nécessite toujours une connexion aux serveurs Microsoft :
La recherche a révélé que bien que la fonction de création de l'application Paint peut utiliser AI PC Un modèle de diffusion stable local génère des images, mais l'ensemble du processus n'est pas complètement hors ligne. Avant de démarrer la génération, l'application Paint enverra les mots d'invite et le style sélectionné remplis par l'utilisateur au serveur Microsoft pour examen. Le serveur renverra ensuite les mots d'invite modifiés, l'ID de génération de mot d'invite et l'ID de filigrane, puis l'image sera générée localement sur l'ordinateur via l'unité NPU.
Une fois l'image générée, l'application Paint appellera le contrôle de filigrane aveugle pour écrire les paramètres liés au filigrane aveugle de 16 octets renvoyés par le serveur dans les pixels de l'image. Le filigrane aveugle lui-même est invisible à l'œil nu, mais Microsoft peut identifier si l'image a été générée par l'application Paint grâce à certains mécanismes de détection.
Les identifiants GUID sont écrits directement dans les pixels de l'image :
L'analyse inverse montre que le mécanisme de filigrane aveugle 16 L'octet Le GUID a été étendu aux données de 144 bits, puis intégré en apportant de légères modifications à plusieurs blocs de l'image. Les chercheurs ont utilisé une image de 512 x 512 pixels pour les tests. Après que Microsoft ait ajouté un filigrane aveugle, plus de 190 000 pixels ont légèrement changé.
Ce qui est plus remarquable, c'est que dans l'application de dessin, si le mécanisme de filigrane aveugle ne parvient pas à être écrit, la tâche de génération d'image AI sera directement considérée comme un échec, au lieu de renvoyer une image sans filigrane. On peut voir que Microsoft considère ce processus comme un lien nécessaire dans la génération de l'IA, et aucune image ne sera générée à moins que le filigrane aveugle ne soit terminé.
Les captures d'écran/recadrage, etc. n'affectent pas la reconnaissance Microsoft :
En plus de modifier les pixels, l'application Paint ajoutera également le certificat de contenu C2PA à l'échelle de l'industrie à l'image. Après avoir vérifié le fichier PNG réellement généré, les chercheurs ont découvert que la liste C2PA marquait non seulement clairement l'image comme générée par l'IA, mais enregistrait également les informations de filigrane aveugle Microsoft InvisMark.
La valeur du filigrane enregistrée ici est exactement la même que l'ID de filigrane aveugle précédemment renvoyé par le serveur et réellement écrit dans les pixels de l'image, ce qui signifie que Microsoft utilise en fait deux couches de preuve d'origine : métadonnées C2PA + filigrane invisible caché dans les pixels de l'image. Par conséquent, même si les utilisateurs suppriment les métadonnées C2PA via certains outils, Microsoft peut toujours identifier le filigrane grâce aux pixels. Par exemple, de simples captures d’écran, un recadrage, etc. ne peuvent pas détruire complètement le filigrane aveugle.
De plus, les fonctions de génération d'images AI et de conversion de style dans l'application Photos/Album de Microsoft utilisent également le mécanisme de filigrane aveugle. Certaines différences sont les suivantes : si l'application Paint ne parvient pas à écrire le filigrane, elle mettra directement fin à la génération de l'image, tandis que l'application Album enregistrera l'erreur et continuera à renvoyer les résultats générés.
Commentaires