Les gouvernements s’appuient de plus en plus sur de grandes quantités de données pour fournir des services allant de la mobilité et de la qualité de l’air aux programmes de protection de l’enfance et de police. Si les gouvernements se sont toujours appuyés sur les données, leur recours croissant aux algorithmes et à l’intelligence artificielle a fondamentalement modifié la manière dont ils utilisent les données pour les services publics.
Ces technologies ont le potentiel d’améliorer l’efficacité et l’efficience des services publics. Mais si les données ne sont pas gérées de manière réfléchie, elles peuvent conduire à des résultats inéquitables pour différentes communautés, car les données recueillies par les gouvernements peuvent refléter les inégalités existantes. Pour minimiser cet effet, les gouvernements peuvent faire de l’inclusion un élément de leurs pratiques en matière de données.
Pour mieux comprendre comment les pratiques en matière de données affectent l’inclusion, nous – spécialistes des affaires publiques, de la politique et de l’administration – décomposons les pratiques gouvernementales en matière de données en quatre activités : la collecte, le stockage, l’analyse et l’utilisation des données.
Collection
Les gouvernements collectent des données sur toutes sortes de sujets via des enquêtes, des enregistrements, les réseaux sociaux et en temps réel via des appareils mobiles tels que des capteurs, des téléphones portables et des caméras corporelles. Ces ensembles de données offrent des opportunités pour façonner l’inclusion sociale et l’équité. Par exemple, les données ouvertes peuvent être utilisées pour mettre en lumière les disparités en matière de santé ou les inégalités dans les déplacements domicile-travail.
Dans le même temps, nous avons constaté que des données de mauvaise qualité peuvent aggraver les inégalités. Les données incomplètes, obsolètes ou inexactes peuvent entraîner une sous-représentation des groupes vulnérables, car ils peuvent ne pas avoir accès à la technologie utilisée pour collecter les données. En outre, la collecte de données gouvernementales pourrait conduire à une surveillance excessive des communautés vulnérables. Par conséquent, certaines personnes peuvent choisir d’éviter de fournir des données aux institutions gouvernementales.
Pour favoriser des pratiques inclusives, les praticiens gouvernementaux pourraient travailler avec les citoyens pour développer des protocoles de collecte de données inclusifs.
Stockage
Le stockage des données fait référence à l’endroit et à la manière dont les données sont stockées par le gouvernement, par exemple dans des bases de données ou des services de stockage de données dans le cloud. Nous avons constaté que les décisions gouvernementales concernant l’accès aux données stockées et la propriété des données pouvaient conduire à une exclusion administrative, ce qui signifie restreindre involontairement l’accès des citoyens aux avantages et services. Par exemple, les erreurs administratives d’enregistrement dans les demandes de services et les difficultés rencontrées par les citoyens lorsqu’ils tentent de corriger les erreurs dans les données stockées peuvent entraîner des différences dans la manière dont les gouvernements les traitent, voire une perte de services publics.
Nous avons également constaté que les données personnelles pouvaient être stockées auprès des fournisseurs de cloud dans des entrepôts de données hors de l’influence des organisations gouvernementales qui ont initialement créé et collecté les données. Alors que les gouvernements sont généralement tenus de suivre des pratiques rigoureuses de collecte de données, les sociétés de stockage de données ne doivent pas nécessairement se conformer aux mêmes normes.
Pour surmonter ce problème, les gouvernements peuvent définir des exigences de transparence et de responsabilité pour le stockage des données qui favorisent l’inclusion.
Analyse
Les gouvernements analysent les données pour en extraire des informations en utilisant des algorithmes. Par exemple, la police prédictive utilise des algorithmes pour prédire où un crime aura lieu.
Une question clé est de savoir qui mène l’analyse. Ceux qui pourraient fournir des données, comme les citoyens ou les organisations de la société civile, sont moins susceptibles de les analyser. Les citoyens n’ont peut-être pas les compétences, l’expertise ou les outils nécessaires pour le faire. Souvent, des experts externes effectuent l’analyse et peuvent ignorer le contexte historique, la culture et les conditions locales des données. De cette manière, les données peuvent également construire et renforcer les inégalités.
Pour favoriser l’inclusion, les gouvernements pourraient diversifier et accroître la formation des équipes qui effectuent les analyses et rédigent les algorithmes afin qu’elles puissent interpréter les données dans un contexte historique et politique plus large.
Utiliser les données
Enfin, les gouvernements utilisent les résultats de l’analyse des données pour éclairer la prestation de services publics. Par exemple, des visualisations basées sur des données, telles que des cartes, peuvent être utilisées pour décider où diriger les policiers. Toutefois, cela pourrait également conduire à une surveillance disproportionnée des différents groupes.
Un autre problème est celui du « glissement des fonctions ». Les données peuvent être collectées dans un but précis, mais sont souvent finalement utilisées à d’autres fins ou par d’autres agences gouvernementales, ce qui peut conduire à une mauvaise utilisation des données et à la reproduction d’inégalités.
Les programmes d’alphabétisation numérique destinés aux professionnels du gouvernement et au public peuvent faciliter une meilleure compréhension de la manière dont les données sont visualisées et utilisées.
Intégrer l’inclusion dans le processus
Il est important de souligner que ces activités – collecte, stockage, analyse et utilisation – sont liées. Les inégalités au début peuvent éventuellement conduire à des résultats inéquitables sous la forme de politiques, de décisions et de services.
De plus, nous avons découvert une énigme : d’une part, l’invisibilité des groupes vulnérables dans la collecte de données peut entraîner des inégalités. Par conséquent, différents groupes doivent être inclus dans les activités du traitement des données. D’un autre côté, cela peut également poser problème, car les empreintes numériques peuvent conduire à une sursurveillance des mêmes groupes.
Concilier ces préoccupations contradictoires nécessite une réflexion éthique : faire une pause avant d’adopter les données et réfléchir à leur objectif, leurs limites et leurs implications à long terme pour l’inclusion.
Les quatre activités constituent un processus répété plutôt que linéaire dans lequel les gouvernements, les citoyens et les tiers adoptent des stratégies de données inclusives. Cela signifie examiner ce qui a été créé, y compris les diverses voix et comprendre l’analyse, les résultats et les conséquences des décisions. Et cela signifie changer constamment les aspects du processus qui ne favorisent pas l’inclusion.