US LAWMAKERS DEMAND DOJ TO HALT FUNDING FOR BIASED PREDICTIVE POLICING TOOLS
Le Département de la Justice des États-Unis n’a pas réussi à convaincre un groupe de législateurs américains que les agences de police d’État et locales ne recevaient pas de subventions fédérales pour acheter des outils de « police prédictive » basés sur l’IA connus pour être inexacts, voire pour exacerber les biais depuis longtemps observés dans les forces de police américaines.
Les membres du Congrès ont écrit une lettre au DOJ, obtenue en premier par WIRED, dans laquelle ils affirment que les informations qu’ils ont obtenues de l’agence n’ont fait que renforcer leurs préoccupations concernant le programme de subventions de la police du DOJ. Rien dans les réponses jusqu’à présent, ont déclaré les législateurs, n’indique que le gouvernement ait pris la peine d’enquêter sur le fait que les départements bénéficiaires de subventions ont acheté des logiciels de police discriminatoires.
Les législateurs exhortent le DOJ à suspendre toutes les subventions du Département de la Justice pour les systèmes de police prédictive jusqu’à ce que le DOJ puisse garantir que les bénéficiaires de subventions n’utiliseront pas de tels systèmes de manière discriminatoire. Le Département de la Justice a précédemment reconnu qu’il n’avait pas suivi si les départements de police utilisaient le financement, octroyé dans le cadre du programme de subventions de la justice commémorative Edward Byrne, pour acheter des outils de police prédictive.
Dirigés par le sénateur Ron Wyden, un démocrate de l’Oregon, les législateurs affirment que le DOJ est légalement tenu de « revoir périodiquement » si les bénéficiaires de subventions respectent le titre VI de la loi sur les droits civils du pays. Selon eux, le DOJ est clairement interdit de financer des programmes prouvant qu’ils discriminent sur la base de la race, de l’ethnie ou de l’origine nationale, que ce résultat soit intentionnel ou non.
Des enquêtes indépendantes dans la presse ont révélé que les outils de police « prédictifs » populaires, formés sur des données historiques sur la criminalité, reproduisent souvent des biais de longue date, offrant aux forces de l’ordre, au mieux, un vernis de légitimité scientifique tout en perpétuant la sur-policing des quartiers à prédominance noire et latino. Un titre d’octobre de The Markup indique clairement : « Logiciels de police prédictive terribles pour prédire les crimes ». L’histoire relate comment les chercheurs de la publication ont récemment examiné 23 631 prédictions de crimes de police – et les ont trouvées précises environ 1 % du temps.
« Les systèmes de police prédictive reposent sur des données historiques faussées par des rapports de crimes falsifiés et des arrestations disproportionnées de personnes de couleur », ont écrit Wyden et les autres législateurs, prédisant – comme de nombreux chercheurs l’ont fait – que la technologie ne sert qu’à créer des boucles de rétroaction « dangereuses ». La déclaration note que « les prédictions biaisées sont utilisées pour justifier des arrêts et des arrestations disproportionnés dans les quartiers minoritaires », biaisant encore plus les statistiques sur l’endroit où les crimes se produisent.
Les sénateurs Jeffrey Merkley, Ed Markey, Alex Padilla, Peter Welch et John Fetterman ont également cosigné la lettre, tout comme la représentante Yvette Clarke.
Les législateurs ont demandé qu’un prochain rapport présidentiel sur la police et l’intelligence artificielle examine l’utilisation des outils de police prédictive aux États-Unis. « Le rapport devrait évaluer l’exactitude et la précision des modèles de police prédictive parmi les classes protégées, leur interprétabilité et leur validité », ont-ils ajouté, « ainsi que d’éventuelles limites pour évaluer leurs risques posés par un manque de transparence des entreprises qui les développent ».
Si le DOJ souhaite continuer à financer la technologie après cette évaluation, ont déclaré les législateurs, il devrait au moins établir des « normes de preuve » pour déterminer quels modèles prédictifs sont discriminatoires – et ensuite refuser le financement pour tous ceux qui ne répondent pas à ces normes.
Pour plus d’informations sur ce sujet, consultez les liens suivants :
– Lettre au DOJ
– Le rapport de The Markup sur les logiciels de police prédictive
– Étude sur les dangers des systèmes de police prédictive
