Il a été démontré que la police prédictive est un outil de police inefficace et biaisé. Pourtant, le ministère de la Justice finance depuis des années la technologie de surveillance et d’analyse de la criminalité et proceed de le faire malgré les critiques des chercheurs, des défenseurs de la vie privée et des membres du Congrès.
Le sénateur Ron Wyden, D-Ore., et la représentante américaine Yvette Clarke, DN.Y., rejoints par cinq sénateurs démocrates, ont appelé le procureur général Merrick Garland à suspendre le financement des applied sciences de police prédictive dans une lettre publiée le 29 janvier 2024. La police prédictive consiste à analyser les données sur la criminalité pour tenter d’identifier où et quand les crimes sont susceptibles de se produire et qui est prone de les commettre.
La demande est intervenue des mois après que le ministère de la Justice n’a pas répondu à des questions fondamentales sur la manière dont les fonds de la police prédictive étaient utilisés et sur qui était lésé par des algorithmes sans doute racistes dont il n’a jamais été prouvé qu’ils fonctionnaient comme prévu. Le ministère de la Justice ne savait pas qui utilisait la technologie, remark elle était évaluée et quelles communautés étaient touchées.
Bien qu’elle soit axée sur la police prédictive, la demande des sénateurs soulève ce que moi, professeur de droit qui étudie la surveillance des mégadonnées, considère comme un problème plus vaste : quel est le rôle du ministère de la Justice dans le financement des nouvelles applied sciences de surveillance ? La réponse est surprenante et révèle tout un écosystème sur la manière dont les entreprises technologiques, les providers de police et les universitaires bénéficient du flux de {dollars} fédéraux.
Le pipeline d’argent
L’Institut nationwide de la justice, la branche recherche, développement et évaluation du DOJ, fournit régulièrement des fonds de démarrage pour des subventions et des projets pilotes visant à tester des idées telles que la police prédictive. C’est une subvention de l’Institut nationwide de la justice qui a financé la première conférence sur la police prédictive en 2009, qui a lancé l’idée selon laquelle les données sur la criminalité passée pourraient être analysées through un algorithme pour prédire les risques criminels futurs. L’institut a consacré 10 thousands and thousands de {dollars} à des projets de police prédictive depuis 2009.
Grâce aux subventions disponibles pour tester de nouvelles théories, les universitaires et les startups pouvaient se permettre d’investir dans de nouvelles idées. La police prédictive n’était qu’une théorie académique jusqu’à ce qu’il y ait des fonds pour commencer à la tester dans divers providers de police. Soudain, les entreprises se sont lancées avec la sécurité financière que les subventions fédérales pourraient payer leurs premières factures.
La recherche financée par l’Institut nationwide de la justice se transforme souvent en entreprises à however lucratif. Les providers de police bénéficient également de l’argent nécessaire pour acheter la nouvelle technologie sans avoir à puiser dans leurs budgets locaux. Cette dynamique est l’un des moteurs cachés de la technologie policière.
Une fois qu’une nouvelle technologie devient suffisamment importante, une autre entité du DOJ, le Bureau of Justice Help, finance des projets avec des subventions financières directes. Le bureau a financé les providers de police pour tester l’une des plus grandes applied sciences de police prédictive basée sur le lieu – PredPol – au cours de ses premières années. Le bureau a également financé l’achat d’autres applied sciences prédictives.
Le Bureau of Justice Help a financé l’un des plus tristement célèbres projets pilotes de police prédictive basée sur la personne à Los Angeles, l’opération LASER, qui ciblait les « délinquants chroniques ». Les deux expériences – PredPol et LASER – n’ont pas fonctionné comme prévu. Le Bureau de l’Inspecteur général de Los Angeles a identifié l’influence négatif des programmes sur la communauté – et le fait que les théories prédictives n’ont pas permis de réduire la criminalité de manière significative.
Comme l’indiquent les pratiques de ces entités du DOJ, l’argent fédéral non seulement amorce mais alimente la croissance de nouvelles applied sciences policières. Depuis 2005, le Bureau of Justice Help a donné plus de 7,6 milliards de {dollars} de fonds fédéraux aux agences chargées de l’utility de la loi au niveau des États, des collectivités locales et des tribus pour une multitude de projets. Une partie de cet argent est allée directement aux nouvelles applied sciences de surveillance. Un rapide survol des subventions publiques montre qu’environ 3 thousands and thousands de {dollars} sont consacrés à la reconnaissance faciale, 8 thousands and thousands de {dollars} à ShotSpotter et 13 thousands and thousands de {dollars} à la development et au développement de centres de lutte contre la criminalité en temps réel. ShotSpotter (maintenant rebaptisé SoundThinking) est la marque chief en matière de technologie de détection de coups de feu. Les centres criminels en temps réel combinent les flux de caméras de sécurité et d’autres données pour assurer la surveillance d’une ville.
Les questions non posées
Rien de tout cela n’est nécessairement néfaste. Le ministère de la Justice s’occupe des poursuites, il n’est donc pas surprenant qu’il finance des outils de poursuite. L’Institut nationwide de la justice existe en tant qu’organisme de recherche au sein du Bureau des programmes de justice, de sorte que son rôle dans la promotion de stratégies policières fondées sur les données n’est pas intrinsèquement problématique. Le Bureau of Justice Help existe pour aider les forces de l’ordre locales grâce à des subventions financières. Le DOJ alimente le pouvoir de surveillance de la police parce que cela profite aux intérêts des forces de l’ordre.
Le problème, comme l’indique la lettre du sénateur Wyden, est qu’en subventionnant les applied sciences de surveillance expérimentales, le ministère de la Justice n’a pas effectué d’évaluation de base des risques ni d’évaluation de la justice raciale avant d’investir de l’argent dans une nouvelle resolution technologique. Ayant étudié la police prédictive pendant plus d’une décennie, je peux dire que les questions posées par les sénateurs n’ont pas été posées dans le cadre des projets pilotes.
Les questions fondamentales de savoir qui serait concerné, s’il pourrait y avoir un influence raciste, remark cela modifierait le fonctionnement de la police et si cela fonctionnait n’ont pas été soulevées de manière sérieuse. Pire encore, l’accent était mis sur le déploiement de quelque selected de nouveau, sans vérifier si cela fonctionnait. Si vous envisagez de semer et d’alimenter une technologie potentiellement dangereuse, vous avez également l’obligation de l’éliminer dès qu’elle s’avère nuire aux gens.
Ce n’est que maintenant, après que les militants ont protesté, après que les universitaires ont critiqué et après que les premières sociétés de police prédictive ont fermé ou ont été rachetées par de plus grandes entreprises, que le DOJ begin à poser les questions difficiles. En janvier 2024, le DOJ et le Division of Homeland Safety ont demandé que les commentaires du public soient inclus dans un rapport sur l’utilisation par les forces de l’ordre de la technologie de reconnaissance faciale, d’autres applied sciences utilisant des informations biométriques et des algorithmes prédictifs.
Issu d’un mandat en vertu du décret 14074 sur la promotion de pratiques de police et de justice pénale efficaces et responsables pour renforcer la confiance du public et la sécurité publique, le Bureau de la politique juridique du DOJ va évaluer l’influence de la police prédictive sur les droits civils et les libertés civiles. Je pense qu’il s’agit d’un bon pas – même s’il est une décennie trop tard.
Des leçons non apprises ?
Le plus gros problème est que le même processus se reproduit aujourd’hui avec d’autres applied sciences. À titre d’exemple, des centres criminels en temps réel sont construits partout aux États-Unis. Des milliers de caméras de sécurité sont diffusées vers un centre de commande distinctive relié à des lecteurs automatisés de plaques d’immatriculation, des capteurs de détection de coups de feu et des appels au 911. Les centres utilisent également la technologie d’analyse vidéo pour identifier et suivre les personnes et les objets dans une ville. Et ils exploitent des données sur les crimes passés.
AP Photograph/Susan MontoyaBryan
Des thousands and thousands de {dollars} fédéraux provenant de l’American Rescue Plan Act vont aux villes spécifiquement désignées pour lutter contre la criminalité, et une partie de ces {dollars} a été détournée pour construire des centres de criminalité en temps réel. Ils sont également financés par le Bureau of Justice Help.
Les centres de lutte contre la criminalité en temps réel peuvent effectuer des analyses prédictives similaires à la police prédictive simplement en tant que sous-produit de toutes les données qu’ils collectent au cours d’une journée normale. Les centres peuvent également scanner des villes entières avec de puissantes caméras compatibles avec la imaginative and prescient par ordinateur et réagir en temps réel. Les capacités de ces applied sciences avancées font pâlir en comparaison les craintes en matière de libertés civiles et de justice raciale autour de la police prédictive.
Ainsi, pendant que le public américain attend des réponses sur une technologie, la police prédictive, qui a connu son apogée il y a ten ans, le DOJ sème et alimente un système de surveillance beaucoup plus invasif avec peu de questions posées. Peut-être que les choses se passeront différemment cette fois-ci. Peut-être que le rapport du DOJ/DHS sur les algorithmes prédictifs examinera la propre culpabilité du ministère dans l’apparition des problèmes de surveillance de demain.
