Résumé :
La ville de Dallas, au Texas, installe des caméras à intelligence artificielle sur les véhicules de collecte des déchets pour prendre des photos des maisons le long du parcours et leur attribuer un « score de fléau » basé sur les violations potentielles du code de la ville identifiées par le système. Le projet a déclenché une réaction de la part des résidents locaux concernant la vie privée, les erreurs judiciaires et les amendes injustes.
Les archives municipales obtenues par NBC 5 à Dallas montrent que la ville de Dallas a commencé à tester des caméras à intelligence artificielle sur des camions de collecte d'ordures encombrants en avril de cette année et a progressivement étendu leur utilisation au cours de l'été.
Les caméras ont identifié une ou plusieurs violations possibles dans au moins 21 000 propriétés, notamment des hauteurs de pelouse excessives, des détritus, des débris, des mauvaises herbes envahissantes et des problèmes structurels.
Le système attribuera ensuite à la propriété une note basée sur le degré de violation, allant de 1 à 4, 1 représentant le problème le moins grave et 4 le problème le plus grave. Certains propriétaires ont reçu des « avis de rappel de bonne foi » de la part du service d’application des codes de la ville après que leurs propriétés soient apparues sur la liste. Les propriétaires s’exposent à des amendes si les problèmes ne sont pas résolus.
La maison d'un propriétaire a été signalée par une caméra et notée 2 pour un problème de peinture de cheminée. Il a estimé que cette note était trop sérieuse et a même déclaré que même une note de 1 lui paraissait un peu excessive.
De nombreux autres résidents locaux sont également mécontents du système de caméras. La préoccupation la plus évidente est que les caméras prennent des photos des maisons sans le consentement du propriétaire ; Les résidents se demandent également qui fixe les critères selon lesquels une maison est considérée comme « délabrée » ou « sale ».
Le système se compose d'un total de 100 caméras, installées par paires sur 50 véhicules utilisés pour collecter les broussailles, les gros objets et autres déchets encombrants, une de chaque côté du véhicule. La résolution de la caméra est de 1920 × 1080, équipée d'un objectif à mise au point fixe et ne dispose pas de fonctions de zoom optique ou de zoom numérique.
La ville de Dallas a déclaré que les caméras fonctionnent au niveau de la rue et ne peuvent pas voir au-dessus du haut de la clôture. La ville prévoit que les camions poubelles pourront effectuer des analyses visuelles de la ville de Dallas environ tous les 30 jours.
City Detect, la société qui exploite les caméras, a déclaré qu'elle n'avait aucune autorité pour déterminer comment la ville de Dallas utilise les données collectées à des fins d'application de la loi. Le PDG Gavin Baum-Blake a déclaré que le système flouterait les visages et les plaques d'immatriculation.
City Detect configurera le système d'intelligence artificielle selon les exigences définies par la ville de Dallas. Le gouvernement de la ville a déclaré que les échantillons de formation pour les modèles concernés couvrent différentes saisons, styles architecturaux, quartiers, conditions d'éclairage, conditions météorologiques et zones géographiques, dans le but de réduire les incohérences dans les résultats de détection et les biais potentiels.
Les images pertinentes et autres données sont stockées sur des serveurs cloud situés aux États-Unis et sont conservées par City Detect pendant la durée du contrat.
Les systèmes d'intelligence artificielle peuvent commettre des erreurs, voire « halluciner » en identifiant des problèmes qui n'existent pas, ce qui est également un sujet d'inquiétude pour le monde extérieur. Un incident similaire s'est produit l'année dernière lorsqu'un lycéen de 16 ans a été encerclé par la police et menotté après qu'un système de caméra à intelligence artificielle ait confondu un sac de Doritos qu'il transportait avec une arme à feu.
La plus grande préoccupation concernant le projet de caméra pour camion poubelle de Dallas est qu'il pourrait imposer des amendes supplémentaires aux résidents déjà confrontés à des difficultés financières, en particulier dans les zones économiquement défavorisées. Le gouvernement de la ville de Dallas a déclaré avoir émis jusqu'à présent 1 800 avis de rappel de bonne volonté et que l'objectif futur est d'émettre environ 5 200 avis par an.
Cependant, pour les résidents locaux, le projet de caméra risque de ne pas durer longtemps. Chad West, membre du conseil municipal de Dallas, a proposé un amendement budgétaire pour cesser de financer le contrat de caméra de 2,5 millions de dollars sur trois ans.
West a déclaré qu'il avait accepté de suspendre sa demande de réduction du financement du programme de caméras après que le directeur municipal ait accepté de tenir une audience sur la question en décembre. Il pense que les caméras ont certaines utilités, comme la détection des décharges illégales, mais la ville doit encore étudier plus en détail l'impact du projet sur les ménages et qui a exactement accès aux images.
Commentaires