ChatGPT, Quillbot ou encore Midjourney, sont parmi les outils d’intelligence artificielle les plus populaires du moment. Les IA sont en train d’envahir à grande vitesse notre quotidien numérique et ce n’est que le début. On en parle comme des entités autonomes, pourtant ce sont bien les humains qui les créent. Or, il n’y a que 12% de femmes parmi eux ! Le manque de diversité contribue à créer des intelligences artificielles sexistes, reproduisant les biais machos de la société. Le livre L’intelligence artificielle, pas sans elles d’Aude Bernheim et Flora Vincent, sonne l’alerte pour développer des IA garantes de l’égalité femmes-hommes.
L’urgence de lutter contre les stéréotypes dans l’univers des intelligences artificielles
Les intelligences artificielles sexistes sont un enjeu essentiel de notre monde d’aujourd’hui et de demain. Supposées neutres, les IA sont codées par des humains et vont influencer tous les domaines de notre vie. Notamment dans les process de recrutement, où si les algorithmes amplifient les inégalités de la société, on va se retrouver avec des salaires moins élevés proposés automatiquement aux femmes à poste égal. Ou éventuellement voir les CV de femmes rejetés automatiquement par les outils sur certains postes et pas d’autres.
Pour que l’Ia fonctionne, il faut des bases de données, or les bases de données sont pleines de biais et de préjugés. Mentionnons également la question du gender data gap, le fossé entre le nombre de données disponibles sur les hommes et les femmes, dans tous les secteurs.
Les IA à l’image des hommes blancs qui les programment
Où sont les femmes ? Voici la première question posée par Cédric Villani, dans la préface de L’intelligence artificielle, pas sans elles. Alors que les filles sont nombreuses en terminale scientifique, elles disparaissent comme par (dés)enchantement des filières scientifiques post-bac.
On ne peut pas employer des femmes dans le secteur de l’IA si elles n’accèdent pas aux formations. Elles n’accèdent pas aux formations si elles ne s’y projettent pas. Elles ne s’y projettent pas si on ne les y encourage pas ; et on ne les y encourage pas si les systèmes de représentation ne changent pas. »
L’intelligence artificielle, pas sans elles, Aude Bernheim et Flora Vincent
En France et ailleurs, alors que 90% des emplois requièrent des compétences numériques selon la CEE, des programmes de formation dédiés aux femmes se développent. La ville de Paris a par exemple lancé la Web@cadémie Ambition Féminine avec ParisCode. La formation recrute des femmes à partir de 18 ans, avec ou sans bac, gratuitement !
Pour créer des outils inclusifs et empêcher d’avoir des intelligences artificielles sexistes, il faut des équipes diversifiées. Le livre nous apprend qu’en 2018, Microsoft mettait à jour son appli Face Detect pour limiter les biais de ses algos de reconnaissance faciale. Pourquoi ? Car une jeune étudiante noire du MIT, Joy Buolamwini, utilisait Face Detect et a signalé le manque de performance de l’outil pour reconnaître les femmes à la peau sombre.Or, aujourd’hui, 85% des architectes de l’IA sont des hommes, majoritairement blancs, qui formatent les algorithmes selon leurs biais.
Une personne qui code une intelligence artificielle y intègre sa vision du monde. Nous avons le pouvoir d’influencer positivement sur le monde, en prônant une vision égalitaire dans nos IA. Allons-nous donc laisser les intelligences artificielles sexistes dominer ou oeuvrer pour qu’elles soient égalitaires ? Femmes et personnes racisées de tous pays, formez-vous en informatique et en IA, c’est important !
L’intelligence artificielle, pas sans elles. Aude Bernheim et Flora Vincent. Editions Belin. 8,50€.
