Récemment, la police de Vancouver, au Canada, a publié une série de photos de descentes de drogue sur les réseaux sociaux dans le but de montrer les résultats d'une opération dans la région de Commercial-Broadway. Cependant, ils sont tombés dans un tourbillon de l’opinion publique parce que les images étaient étiquetées « réalisées avec l’IA ». L'incident a rapidement soulevé des doutes dans l'opinion publique quant à savoir si la police utilisait l'intelligence artificielle générative pour « embellir ses dossiers », et a été critiqué comme un cas typique de « slop d'IA ».

Il est rapporté que cette série de photos a été utilisée à l'origine pour coopérer avec le rapport de police, soulignant qu'au cours de la semaine de paiement de l'aide sociale, le service de police de Vancouver « a fait des progrès significatifs » dans la lutte contre le trafic de drogue et les nuisances de rue dans le quartier Commercial-Broadway, procédant à de multiples arrestations en 24 heures. Cependant, non seulement l’image porte clairement la marque « réalisée avec l’IA », mais elle présente également des problèmes détaillés tels qu’un marquage incorrect des coupures en espèces. Par exemple, certains billets de 50 CAD étaient libellés à 20 CAD, déclenchant une forte méfiance quant à l'authenticité et au traitement des images.

Alors que les critiques continuaient de s'intensifier, la police de Vancouver a d'abord répondu en affirmant qu'elle avait effectivement utilisé un « logiciel » pour modifier les noms des personnes impliquées dans l'affaire, tentant de classer l'utilisation de l'IA comme une simple mesure de confidentialité. Cependant, de nombreux internautes et médias ont souligné qu'à en juger par les effets visuels globaux et les annotations de texte, l'image a évidemment été profondément modifiée au-delà de la « diffamation du nom », et s'apparente davantage à une régénération ou à une reconstruction d'une prise de vue en direct via des outils d'IA.

Alors que l'opinion publique s'intensifiait, la police a ensuite supprimé le lot original de photos portant la mention « réalisées avec l'IA » et les a remplacées par une nouvelle série de photos. La nouvelle version n'affichait plus la marque AI. Malgré cela, le public reste très sceptique quant à « quelle version des anciennes et des nouvelles photos constitue le véritable enregistrement sur place ». Certaines personnes sur les plateformes sociales ont directement demandé si la police comparait les soi-disant « vraies photos » avec les précédents « contenus indésirables de l'IA » pour dissimuler les pratiques inappropriées initiales.

Cet incident a également amené le service de police de Vancouver à être inclus dans la liste des organisations qui « s'appuient sur le contenu de spam de l'IA pour améliorer artificiellement leurs performances » par de nombreux commentaires technologiques et médiatiques. Certains analystes ont souligné que la crédibilité des forces de l’ordre dépend fortement de l’authenticité des preuves présentées. S'il y a un débat sur le fait que même les photos des éléments impliqués dans l'affaire sont soupçonnées d'être générées par l'IA ou trop retouchées, cela affaiblira inévitablement la confiance du public dans leurs rapports d'action.

Le rapport mentionne également qu'il ne s'agit pas d'un cas isolé. Les entreprises et le secteur du marketing augmentent collectivement leurs investissements dans les outils de génération de contenu d’IA, dans l’espoir de réduire les coûts et d’augmenter la production. Cependant, selon des enquêtes précédentes, seulement 26 % environ des consommateurs interrogés ont exprimé une attitude positive à l'égard de ce type de contenu généré par l'IA. Les utilisateurs grand public n'ont pas une grande tolérance à l'égard du « contenu de spam IA » et ont plutôt des exigences plus strictes en matière de transparence et d'authenticité.

Dans cette affaire de « renversement » du service de police de Vancouver, l'échec initial de la suppression de la marque « fabriqué avec l'IA » est devenu le déclencheur, qui a également révélé les lacunes techniques et réglementaires de l'agence dans l'utilisation de l'IA générative. L’opinion publique actuelle estime généralement que, en particulier les contenus graphiques liés aux forces de l’ordre et au pouvoir public, si les images générées par l’IA ou fortement retouchées continuent d’être mélangées de manière aléatoire en l’absence de règles claires et d’instructions publiques, cela aggravera inévitablement la suspicion du public à l’égard des informations officielles.