Le vrai suspense de la nuit était, à quel level les législateurs européens vont résister aux lobbies ? Depuis le début de sa rédaction, l’IA Act zigzague entre « régulation » et « innovation ». Le mantra de Bruno le Maire, « il faut innover avant de réguler » semble avoir gagné. Après 37 heures de dialogue entre les parlementaires et les États membres, le projet de règlement voté cet été au Parlement européen a été sensiblement vidé de sa substance. Le commissaire en cost du file, Thierry Breton, se dit néanmoins ravi : « Historique ! L’UE devient le premier continent à fixer des règles claires pour l’utilisation de l’IA ».
La grande avancée de l’IA Act à l’origine était qu’il était centré sur le droit des individus, avec par exemple l’interdiction ferme de la surveillance biométrique, comme la reconnaissance faciale en temps réel. Mais des pays membres, dont la France, ont obtenu des exemptions pour certaines missions des forces de l’ordre comme la lutte contre le terrorisme. Sans cela, loi JO qui introduit sur le territoire la surveillance algorithmique, aurait été contraire au droit européen.
Recours inconceivable
Non seulement il n’y a plus dans cet IA Act d’interdictions fermes, mais les garde-fous pour les systèmes jugés à hauts risques ont été aussi rabotés. Cela concerne l’utilisation d’intelligences artificielles dans les infrastructures critiques (centrales nucléaires, hôpitaux…), l’éducation nationale, les ressources humaines ou la police « prédictive » Ces systèmes seront soumis à une série d’obligations comme celles de prévoir un contrôle humain sur la machine, l’établissement d’une documentation method, ou encore la mise en place d’un système de gestion du risque. Il n’est en revanche plus fait point out d’audits par une autorité publique. Résultat, c’est le propriétaire de l’IA qui s’évalue lui-même. La grande crainte de la LDH va se confirmer : « Il va être inconceivable d’exercer un recours pour les personnes victimes de systèmes d’IA. Remark montrer dans ces circumstances qu’on a été radié de la CAF, déconnecté d’Uber ou discriminé à l’embauche par un algorithme ? » alertait déjà cet été Maryse Artiguelong, qui représente la Ligue des droits de l’homme au sein de l’Observatoire des libertés et du numérique. Le travail, grand absent de l’IA Act lorsqu’il a été voté par le Parlement, n’est pas plus présent aujourd’hui.
Cela reste encore trop de régulation pour les lobbies : « La rapidité semble avoir prévalu sur la qualité, avec des conséquences potentiellement désastreuses pour l’économie européenne », s’est plaint Daniel Friedlaender, responsable Europe du CCIA (1).
(1) Affiliation de l’industrie de l’informatique et des communications.
