Selon des informations du 7 juin, un certain nombre de forces de police d'Angleterre et du Pays de Galles ont été priées de cesser d'utiliser des outils d'IA pour préparer des déclarations judiciaires et des documents de justice pénale, car des erreurs dans les résultats concernés affecteraient la fiabilité des procédures judiciaires ultérieures. Selon un article du Financial Times du 5 juin, la demande émanait d'Alex Murray, responsable du travail d'IA au sein de la police britannique.

Murray est également directeur de la National Crime Agency et responsable des affaires d'IA au Conseil national des chefs de police (NPCC). Le Royaume-Uni vient d'annoncer en janvier de cette année qu'il investirait 115 millions de livres pour construire un centre national d'IA de la police afin de promouvoir une utilisation plus unifiée de l'IA par les 43 forces de police d'Angleterre et du Pays de Galles.

Les documents judiciaires ne peuvent pas s’appuyer uniquement sur une « vérification préalable à la soumission »

Ce qui est bloqué cette fois, ce sont les documents susceptibles d'entrer dans le processus de justice pénale, y compris les déclarations judiciaires et les documents connexes. Pour les policiers, les rapports rédigés par l’IA semblent faire gagner du temps ; mais pour les témoins, les accusés et les procureurs, le problème est que ces mots peuvent devenir la base pour juger si les faits et les procédures de l'affaire sont conformes.

Si AI écrit des faits inexistants, des délais confus ou des résumés erronés dans des documents, et que le personnel ultérieur utilise ces documents pour trier l'affaire, préparer des déclarations de preuves ou les soumettre au tribunal, l'erreur n'est plus simplement une « peine erronée », mais peut se propager tout au long de la chaîne de traitement de l'affaire. La soi-disant « vérification des résultats de l'IA » dans ce type de scénario est également difficile à résoudre avec une seule invite : le vérificateur doit-il vérifier chaque fait et chaque citation, ou simplement juger si le texte est fluide ? Si la réponse est de tout refaire, le temps gagné par l’IA sera compensé.

Le Crown Prosecution Service (CPS) britannique a publié une déclaration éthique sur l’IA, soulignant que les outils d’IA doivent être utilisés sous surveillance humaine, avec un accent particulier sur l’équité, la transparence et la responsabilité. Cependant, une fois que les documents de la police de première ligne entrent dans le cadre d’une procédure pénale, les limites de responsabilité sont plus sensibles que dans un bureau ordinaire : des enregistrements clairs doivent être laissés sur qui a rédigé les documents, qui les a vérifiés et qui est responsable des erreurs.

Le match de football fictif de janvier de cette année a tiré la sonnette d'alarme

La police britannique est devenue prudente quant aux risques liés aux documents d’IA, ce qui n’est pas sans précédent. En janvier de cette année, l'ancien chef de la police des West Midlands, Craig Guildford, s'est excusé auprès de la commission spéciale des affaires intérieures du Parlement britannique pour un document de renseignement contenant une erreur d'IA.

Ce document mentionnait que les supporters du club de football israélien Maccabi Tel Aviv (Maccabi Tel Aviv) avaient eu des conflits avec la Premier League West Ham United, mais que le match concerné n'existait pas. Le Guardian a rapporté que Guildford avait admis que l'erreur provenait d'un contenu fictif généré par la police à l'aide de Microsoft Copilot.

Cet incident a révélé que lorsque le contenu généré par l'IA est intégré dans des documents formels d'application de la loi ou de prise de décision publique, il est difficile pour les lecteurs externes de juger à partir du texte quel contenu a été initialement vérifié et lequel n'est qu'une représentation secondaire après la génération du modèle. Lorsqu’il s’agit de documents judiciaires, cette opacité affectera directement les droits des parties et la crédibilité de l’affaire.

Les promoteurs de la police de l'IA prennent l'initiative de retirer les liens les plus sensibles

Le gouvernement britannique a annoncé la création du Police AI Center en janvier de cette année dans le but d'accélérer la mise en place d'un mécanisme unifié de test, de formation et de gestion. Le NPCC avait déclaré à l'époque que l'investissement de 115 millions de livres sterling aiderait la police à résoudre les crimes plus rapidement et devrait libérer environ 6 millions d'heures de police par an, ce qui équivaut à la charge de travail d'environ 3 000 policiers à temps plein.

Par conséquent, cette suspension revient plutôt à tracer une limite pour le contrôle de l’IA : l’IA peut d’abord être utilisée pour un travail back-end qui est à faible risque, traçable et facile à examiner, comme la désensibilisation des données, le filtrage préliminaire des alarmes non urgentes et le tri des informations internes ; cependant, les témoignages judiciaires et les documents de justice pénale constituent des liens à haut risque et ne peuvent pas être couverts uniquement par « les êtres humains sont en dernier ressort responsables ».

Si vous êtes témoin, journaliste, suspect ou accusé dans une affaire, les documents de déclaration auxquels vous êtes confronté doivent provenir de quelqu'un qui peut être tenu responsable, et non d'un ensemble de textes d'IA dont le processus de génération est difficile à restaurer par la suite. Il est bien entendu important que la police gagne du temps dans la rédaction des rapports, mais pas au détriment de la crédibilité des documents judiciaires.

La suspension du Royaume-Uni ne sera cette fois pas un cas isolé. Au cours des deux dernières années, il y a eu des cas aux États-Unis, au Canada, en Australie et ailleurs dans lesquels des avocats ont cité des cas d’IA artificielle et des tribunaux ont publié des lignes directrices pour l’utilisation de l’IA. Aujourd'hui, le risque a augmenté depuis que les avocats soumettent des documents aux documents sous-jacents du dossier de la police. La véritable difficulté de l’entrée de l’IA dans le système judiciaire ne réside pas dans la qualité de la génération des textes, mais dans la question de savoir si chaque déclaration susceptible d’affecter les droits d’autrui peut être vérifiée, tracée et tenue pour responsable.