Mme Bartoletti est responsable mondiale de la confidentialité et de la gouvernance de l’IA de la société multinationale informatique Wipro, conseillère auprès du Conseil de l’Europe et co-fondatrice du réseau Women Leading in AI.
Elle s’inquiète du manque de représentation des femmes et des pays du Sud dans l’industrie de l’IA.
Elle s’est entretenue avec ONU Info en décembre lors du Forum sur la gouvernance de l’Internet 2024 à Riyad, en Arabie Saoudite, un forum annuel de l’ONU pour discuter des questions critiques de politique numérique.
Cette interview a été éditée pour plus de clarté et de longueur
Ivana Bartoletti En Europe, seulement 28 % des personnes travaillant dans le secteur de l’IA sont des femmes, ce qui a d’énormes conséquences. Chaque produit d’IA est composé d’éléments choisis par les utilisateurs. Ainsi, ne pas avoir suffisamment de femmes et de diversité dans les conversations est problématique. Mais il ne s’agit pas seulement d’avoir davantage de femmes codeuses et programmeuses. Il s’agit également de ceux qui décident de l’avenir de l’intelligence artificielle.
Le biais inhérent à ces outils a été un sujet clé dans chaque panel auquel j’ai participé au Forum sur la gouvernance de l’Internet, ainsi que la manière de garantir que le Sud global ait une voix beaucoup plus forte.
ONU Info Quels conseils donneriez-vous aux femmes et aux filles intéressées à travailler dans ce domaine ?
Ivana Bartoletti Qu’il existe de nombreuses façons d’accéder à l’IA et à la technologie, et qu’il n’est pas nécessaire d’être un codeur. J’ai toujours été intéressé par la politique des données. Par exemple, si nous parlons d’une base de données, la manière dont les données sont collectées n’est pas neutre, quelqu’un décide quelles données sont incluses. Et par conséquent, les prédictions faites par l’IA à notre sujet ne sont pas neutres.
Nous avons besoin que des femmes et des personnes issues d’horizons très divers s’impliquent dans la gouvernance de l’IA, de l’audit, du journalisme d’investigation, afin d’identifier où les choses ne vont pas.
ONU Info/ Martin Samaan
Ivana Bartoletti, co-fondatrice du réseau Women Leading in AI.
ONU Info Comment pouvons-nous garantir que les systèmes d’IA sont déployés de manière équitable et transparente ?
Ivana Bartoletti De nombreuses collaborations ont lieu entre les gouvernements, le secteur privé, les grandes entreprises technologiques, les entreprises et la société civile. Mais il faut faire plus, car la nécessité d’exactitude et de transparence pourrait devenir de plus en plus une exigence légale.
Des discussions doivent avoir lieu dans tous les pays pour garantir que l’IA n’exacerbe pas les inégalités existantes dans notre société ou ne rende pas Internet encore plus dangereux.
ONU Info Dans un monde où il est si facile de diffuser de fausses vidéos, images et désinformations, comment pouvons-nous garantir que chacun comprend comment utiliser en toute sécurité la technologie à laquelle il est exposé ?
Ivana Bartoletti Je pense que l’éducation est importante et que la maîtrise de l’IA est importante, y compris dans les écoles, pour développer un esprit critique. Mais l’éducation ne peut pas remplacer la responsabilité des entreprises, car il existe trop d’asymétrie entre nous en tant qu’individus et l’ampleur de la collecte de données et le pouvoir des grandes entreprises technologiques.
Il est totalement injuste de dire aux individus qu’ils sont responsables de leur sécurité en ligne. Je pense que la maîtrise de l’IA est cruciale, mais nous devons être très clairs sur le fait que la responsabilité incombe aux entreprises qui commercialisent les produits et au gouvernement qui réglemente leur utilisation.
