Le 4 octobre 2022, le Bureau de la politique scientifique et technologique de la Maison Blanche a publié le Plan pour une déclaration des droits de l’IA : une imaginative and prescient pour protéger nos droits civils à l’ère de l’algorithme. Le plan a lancé une dialog sur la manière dont l’innovation en matière d’intelligence artificielle peut se dérouler selon plusieurs principes équitables. Ceux-ci incluent des systèmes sûrs et efficaces, des protections contre la discrimination algorithmique, la confidentialité et la transparence.
De plus en plus de preuves mettent en lumière les droits civils et des consommateurs que l’IA et la prise de décision automatisée mettent en péril. Les communautés qui ont été historiquement confrontées à la discrimination la plus flagrante sont désormais confrontées à des formes complexes et très opaques de discrimination dans le cadre des systèmes d’IA. Cette discrimination se produit dans les domaines de l’emploi, du logement, du vote, des prêts, de la justice pénale, des médias sociaux, du ciblage des applied sciences publicitaires, de la surveillance et du profilage. Par exemple, il y a eu des cas où les systèmes d’IA ont contribué à la discrimination à l’égard des femmes lors de l’embauche et à la discrimination raciale dans le système de justice pénale.
Dans les mois qui ont suivi la publication du plan, l’arrivée de systèmes d’IA génératifs comme ChatGPT a ajouté de l’urgence aux discussions sur la meilleure façon de gouverner les applied sciences émergentes de manière à atténuer les risques sans étouffer l’innovation.
Un an après le dévoilement du projet, l’administration Biden a publié le 30 octobre 2023 un vaste décret intitulé IA sûre, sécurisée et digne de confiance. Bien qu’une grande partie de l’ordonnance soit axée sur la sécurité, elle intègre de nombreux principes du plan directeur.
L’ordonnance comprend plusieurs tendencies axées sur les droits civils et l’équité. Par exemple, il exige que le gouvernement fédéral élabore des directives à l’intention des entrepreneurs fédéraux sur la manière d’empêcher que les algorithmes d’IA ne soient utilisés pour exacerber la discrimination. Il appelle également à une formation sur la meilleure façon d’aborder les enquêtes et les poursuites concernant les violations des droits civils liées à l’IA et à garantir l’équité de l’IA dans l’ensemble du système de justice pénale.
La imaginative and prescient exposée dans le plan a été incorporée dans le décret à titre d’orientation pour les agences fédérales. Mes recherches sur la technologie et les droits civils soulignent l’significance des droits civils et des principes d’équité dans la réglementation de l’IA.
Droits civiques et IA
Les lois sur les droits civils mettent souvent des décennies, voire des vies, à progresser. La technologie de l’intelligence artificielle et les systèmes algorithmiques introduisent rapidement des préjudices de kind boîte noire, tels que la prise de décision automatisée, qui peuvent entraîner des impacts disparates. Il s’agit notamment des préjugés raciaux dans les systèmes de reconnaissance faciale.
Ces préjudices sont souvent difficiles à contester, et les lois et réglementations actuelles en matière de droits civiques risquent de ne pas être en mesure d’y remédier. Cela soulève la query de savoir remark garantir que les droits civils ne soient pas compromis à mesure que les nouvelles applied sciences d’IA imprègnent la société.
Dans la lutte contre la discrimination algorithmique, à quoi ressemble un arc qui se dirige vers la justice ? À quoi ressemble une « Lettre de la jail de Birmingham » lorsqu’un militant des droits civiques proteste non pas contre la détention physique injuste, mais contre les contraintes numériques telles que les préjudices disparates causés par les formes numérisées de profilage, de ciblage et de surveillance ?
Le plan 2022 a été élaboré sous la path d’Alondra Nelson, alors directrice par intérim du Bureau de la politique scientifique et technologique, et de son équipe. Le plan énonce une série de principes équitables qui tentent de limiter une constellation de dommages que l’IA et les systèmes automatisés peuvent causer.
Au-delà de cela, le plan relie les ideas de principes équitables et d’équité de l’IA à la Structure américaine et à la Déclaration des droits. En associant ces principes équitables aux droits civils et à la Déclaration des droits, le dialogue peut s’éloigner d’une dialogue axée uniquement sur une série d’engagements methods, tels que rendre les systèmes d’IA plus transparents. Le débat peut plutôt porter sur la manière dont l’absence de ces principes pourrait menacer la démocratie.
Quelques mois après la publication du projet, la Division des droits civils du Département américain, le Bureau de safety financière des consommateurs, la Fee pour l’égalité des possibilities en matière d’emploi et la Fee fédérale du commerce se sont engagés conjointement à respecter l’engagement des États-Unis envers les principes fondamentaux d’équité, d’égalité et de justice alors que les systèmes automatisés émergents deviennent de plus en plus courants dans la vie quotidienne. Des lois fédérales et étatiques ont été proposées pour lutter contre l’influence discriminatoire de l’IA et de la prise de décision automatisée.
Les organisations de défense des droits civiques s’attaquent à la technologie
Plusieurs organisations de défense des droits civiques, dont la Management Convention on Civil and Human Rights, ont fait de la discrimination basée sur l’IA une priorité. Le 7 septembre 2023, la Management Convention a lancé un nouveau Centre pour les droits civils et la technologie et a fait appel à Nelson, auteur du Blueprint for an AI Invoice of Rights, comme conseiller.
Avant la publication du nouveau décret, le sénateur Ed Markey, la représentante Pramila Jayapal et d’autres membres du Congrès ont envoyé une lettre à la Maison Blanche exhortant l’administration à incorporer les principes du projet dans le décret attendu. Ils ont déclaré que « l’engagement du gouvernement fédéral envers la Déclaration des droits de l’IA montrerait que les droits fondamentaux ne passeront pas au second plan à l’ère de l’IA ».
De nombreuses organisations de défense des droits civiques et de la société civile ont envoyé une lettre similaire à la Maison Blanche, exhortant l’administration à prendre des mesures sur les principes du plan dans le décret.
Alors que le projet de Déclaration des droits de l’IA célébrait son premier anniversaire, son influence à lengthy terme était inconnu. Mais, fidèle à son titre, il présente une imaginative and prescient de la safety des droits civils à l’ère de l’algorithme. Cette imaginative and prescient a désormais été intégrée dans le décret sur une IA sûre, sécurisée et digne de confiance. L’ordre ne peut pas être correctement compris sans ce contexte de droits civiques.
