Le développement rapide actuel de l'industrie de l'IA a rendu la génération d'images de plus en plus facile, mais les images générées peuvent parfois être présentées comme des photographies ou des images en direct d'actualités. Par exemple, une photo de l’arrestation de Trump a été largement diffusée sur X/Twitter.
D'un autre côté, il existe également des artistes qui ont délibérément utilisé l'IA pour générer des images afin de participer au Sony World Photography Competition. En conséquence, ils ont réussi à tromper le comité organisateur et à remporter le prix. L'artiste a refusé d'accepter le prix. Après tout, c'était à l'origine utilisé pour se moquer du comité d'organisation.
À certains égards, avec le développement de la technologie de l'IA, les images générées à l'avenir pourraient devenir de plus en plus difficiles à identifier. C'est pourquoi les entreprises japonaises, qui contrôlent environ 90 % du marché mondial des appareils photo numériques, ont lancé une nouvelle méthode : l'intégration de signatures numériques dans les photos.
Une nouvelle alliance formée par Nikon, Sony, Canon, certains organes de presse et sociétés technologiques a lancé un outil appelé Verify, qui peut être utilisé gratuitement pour détecter si les photos sont authentiquement prises.
Si l'outil détecte que la photo possède une signature numérique, il affichera la date, le lieu et d'autres informations d'identification de la photo prise. Bien entendu, il ne peut pas déterminer si la photo a été générée par l’IA. Cependant, les photos portant une signature numérique peuvent être considérées comme de véritables prises de vue plutôt que générées par l'IA ou créées par des artistes via un logiciel.
Actuellement, Nikon, Sony et Canon ont adopté cette norme. En 2024, ils lanceront davantage de caméras prenant en charge les signatures numériques ou fournissant des fonctions de signature pour certaines caméras existantes via des mises à jour du micrologiciel.
Pour que cette norme devienne courante, il ne suffit certainement pas de lancer de nouveaux modèles. L'idée de Sony est donc que les modèles existants devraient également la prendre en charge autant que possible, afin que davantage de photos aient une signature numérique et puissent être vérifiées.
Afin de prévenir les attaques et les falsifications, cette vérification n'est pas effectuée localement. Autrement dit, lorsque l'outil de vérification détecte l'image, il envoie ses informations aux serveurs Sony pour détection. Sony fait également pression sur d'autres organisations médiatiques pour qu'elles adoptent des technologies et des normes pertinentes.
En plus de lancer cette année davantage d'appareils photo prenant en charge les signatures numériques intégrées, Canon étudie également l'ajout de signatures numériques aux vidéos afin de pouvoir vérifier qu'elles ont été filmées de manière authentique.