Julie Henry, chercheuse et cheffe de projet à l’Université de Namur
Question – Un chiffre récurrent : il y a seulement une femme sur cinq travailleurs dans les TIC. En Belgique et principalement dans tout ce qui est intelligence artificielle, ce n’est pas assez.
Julie Henry – Ce n’est effectivement pas assez parce que ça a quand même une grosse influence sur notre monde. On est quand même dans une révolution numérique depuis quelques années, une transformation numérique de la société et le fait d’être toujours avec des outils qui sont pensés par des hommes pour des hommes, cela a un impact sur notre vie, sur ce qui va être notre futur. Pas forcément là tout de suite maintenant. Mais en tout cas, il y a une discrimination qui se fait par les outils numériques et qui fait en sorte qu’effectivement des jeunes filles ne vont pas aller vers certains milieux, les STEM (Science, Technology, Engineering, Mathematics). Tout simplement parce que l’image que le numérique en renvoie n’est pas forcément attractive pour elles.
En quoi consiste le biais de genre dans les algorithmes qui façonnent nos réseaux sociaux ?
Dans tout ce qui est problématique de genre, on sait déjà que le neutre est masculin, en fait, parce que par la force des choses, il y a plus d’hommes qui développent certains outils. Les exemples qu’on utilise le plus, c’est le GSM qui est trop grand pour la main d’une femme, ou est trop grand pour la poche arrière d’une femme, donc plutôt pensé pour des hommes. Maintenant, le souci avec les IA, c’est qu’elles ont besoin de beaucoup de données pour s’entraîner. Donc on est là sur un programme informatique qui se nourrit de données, des données qui sont produites par des utilisateurs qui ne sont pas toujours complètes et qui sont aussi empreintes de stéréotypes parce que ce sont des choses ancrées dans la société. Et donc, si le développeur de l’IA est un homme, par exemple, s’il a des stéréotypes genrés qui sont ancrés en lui, d’office, l’IA va les avoir. Il y a en plus les données qui parfois le sont aussi puisqu’on sait utiliser aux données des utilisateurs. Et puis il va y avoir en plus le comportement de l’utilisateur lui-même qui va en plus amplifier ce phénomène de discrimination au niveau des femmes. Mais ça peut aussi être au niveau de toutes les minorités qui peuvent exister.
On aboutit à quoi concrètement comme effet?
Il y a des effets qui sont moins graves que d’autres. Mais le souci de toute cette discrimination, c’est qu’elle est invisible pour les utilisateurs, alors c’est difficile de la quantifier. Mais les experts disent qu’elle peut être potentiellement massive. En ce qui concerne la présence de discrimination au niveau des réseaux sociaux, il y a des études qui ont été faites, pas mal d’études d’ailleurs, sur le fait de pouvoir toucher un public féminin pour certains postes en tant qu’employeur. Donc il y a eu des études où on faisait passer des annonces publicitaires d’offres d’emploi.
Et alors, c’est assez étonnant de voir comment l’algorithme qui est derrière les réseaux sociaux va choisir le public vers qui va être destinée cette publicité. C’est que majoritairement, ce sont des hommes ! Alors que les réseaux sociaux sont majoritairement utilisés par des femmes dans le monde entier. Donc majoritairement, ça touche les hommes.
Il y a eu des développements intéressants. Par exemple, une offre d’emploi de camionneur est majoritairement lu par des hommes et à destination d’hommes, donc, c’est à dire que les femmes ne le voient même pas sur leur profil. Si on met camionneuse… pareil !
Ce sont quand même des hommes qui vont la recevoir majoritairement. Si on met les deux, donc camionneur, camionneuse, même chose, ce sera toujours les hommes en majorité.
On a aussi joué sur les aspects de photo. Et donc là, si on met une photo de camion, ce sont des hommes qui sont touchés. Si c’est une photo de route qui est assez neutre, ce sont encore des hommes. Par contre, sur une photo de cosmétiques avec le mot camionneur en dessous, là, ce sont des femmes qui sont ciblées par l’algorithme. Donc on voit que malgré tout, il y a des stéréotypes qui existent puisque les cosmétiques, en fait, sont très vite liés aux femmes. Et donc là, l’algorithme se dit : « voilà peut-être, potentiellement un contenu qui est intéressant pour les femmes. »
L’effet pervers est de tenir les femmes à l’écart voire dans l’ignorance de certains postes…
Cela se passe avant même l’emploi, en fait : dès les annonces pour des filières de formations. Pour une école d’ingénieurs en France, une étude a montré que malheureusement, avec quatre photos différentes (un homme de dos, un homme de face, une femme de dos, une femme de face), l’algorithme a décidé de diffuser majoritairement l’annonce avec l’homme de face parce qu’en fait il y avait plus d’interaction. Donc ce sont les utilisateurs qui ont généré cette décision et de ce fait là, du coup, vous perdez une partie du public parce que les femmes ne le voient même pas, ça n’apparaît même pas sur leur feed. Sur les profils féminins, vous ne recevez tout simplement pas certaines informations et donc les gens restent dans leur bulle de filtre et dans leurs informations. Alors qu’en fait les femmes pourraient aimer cette formation si elles recevaient l’information.
C’est profondément injuste.
Exactement parce que nous, on se bat pour attirer les jeunes femmes vers les métiers des STEM. Mais même si les universités décident de faire des belles promotions, des belles annonces, tout ça ne sert à rien parce qu’en fait on ne touchera pas le public.
Quels sont les arguments que vous donnez aux filles lorsque, comme vous dites effectivement, ce n’est pas toujours le premier choix d’aller vers des métiers scientifiques?
Les arguments que je donne, c’est souvent des arguments qui sont liés à la société justement, et donc au fait qu’elles peuvent aussi faire partie de cette transformation numérique de la société. Et elles peuvent y trouver quelque chose qui n’est pas seulement cette logique et cette mathématique qu’on peut mettre en avant quand on fait des études. Par exemple, moi j’ai fait chimie à la base et puis j’ai fait informatique par après. Pour aucun des deux, je n’ai gardé la trace du numérique et de la logique. Mais j’y ai vu des métiers qui étaient utiles à la société. Et donc je pense que ces aspects là qu’il faut promouvoir. Maintenant, je vous avoue que, en ayant fait une petite recherche pour votre interview ici, je me rends compte que c’est compliqué. Parce que même si cette question de mettre en avant un message féminin textuel dans les réseaux sociaux, en fait il faudrait mettre une image de cosmétique pour être sûr de toucher les femmes. Pour pouvoir faire des études en informatique, ça devient complètement illogique.
Vous-même, avez-vous connu ce genre de discrimination, ce genre de préjugés ou de stéréotypes dans votre carrière ?
Les stéréotypes, oui, ça c’est sûr. Et de toute façon, c’est un monde assez difficile, dans le sens où on n’a pas beaucoup de femmes. Et malheureusement, ces stéréotypes y sont tellement ancrés dans la société, qu’on a l’impression qu’une petite blague sexiste, ça reste une blague. Mais non ! Au bout d’un moment, on se rend compte que, en recevoir tous les jours, c’est parfois assez compliqué et j’ai la chance d’être dans un milieu universitaire où, justement, la recherche pousse aussi vers ces questions-là. Donc ça va, je suis encore assez bien lotie. Maintenant, c’est vrai que les témoignages des anciennes étudiantes m’interpellent. Dans le domaine du travail, il faut être assez courageuse. Je pense que justement, l’idée ici, c’est de se dire que ça ne va pas continuer comme ça parce que les choses vont bouger et elles ne seront plus toutes seules. Et puis surtout, les hommes seront informés. Dans la société, ça va aussi disparaître parce que les gens sont de plus en plus informés et sensibilisés. Donc d’une façon assez naturelle, ça devrait se réguler par la formation et par la sensibilisation du grand public.
Si vous étiez disons Commissaire européenne, quels seraient les grands axes de votre programme pour y remédier ?
Ça va être assez bateau, mais ce sera la formation en genre, donc la formation à la problématique de genre. Elle est importante, que ce soit pour le numérique, mais pour tout le reste. Et en fait, ça démarre très tôt. La sensibilisation et donc la future orientation, c’est est quelque chose qui apparaît dans l’ordre de trois ans, quatre ans chez l’enfant. Et donc il y a à la fois les parents et les enseignants. C’est comme ça pour les études, parce que les parents et les enseignants qui découragent le plus les filles à aller vers les STEM. Donc, c’est quand même l’environnement proche qui décourage le plus. Et donc moi, je passerais par une formation de tous nos enseignants au niveau de la formation initiale, ce qui n’existe pas encore.
