Intelligence artificielle : « Une élite d’hommes blancs hétéros pour concevoir une technologie inclusive, c’est un non-sens »

Le

par

Chloé Tran Phu est formatrice en éducation aux médias, chargée de mission à Média Animation.

IMG 0213

D’où viennent les représentations de genre et à quels besoins de la société correspondent-elles ?

Les représentations de genre qui sont véhiculées à travers les médias et les médias sociaux sont des représentations qui ne viennent pas d’une seule origine, ce sont des représentations véhiculées par la société. J’aborde dans mes ateliers avec les enseignant.es les enjeux des adolescent.es dans la performance d’un genre ; à un âge charnière comme l’âge de l’adolescence où l’identité des individus se construit, les réseaux sociaux sont un lieu où ils peuvent expérimenter cette identité.

Iels peuvent l’expérimenter, iels peuvent aussi la mesurer par rapport à la norme de la société, qui est une norme qui distingue deux genres, le genre féminin, le genre masculin. Et donc c’est en cela que les représentations médiatiques peuvent être utilisées par les adolescent.es pour se mesurer à un genre, s’en inspirer dans la construction identitaire de ce moment charnière de leur vie.

Comment ces représentations de genre sont-elles colportées par les réseaux sociaux? Et comment on s’y mesure en tant qu’adolescent.e ?

On s’y mesure par ce que l’on poste sur les réseaux sociaux et par la validation de la communauté sur ce post. En fait, cette identité est constamment négociée entre la personne qui l’expose et les personnes qui la suivent et la valident ou non. On est vraiment dans une expérimentation de soi qui est régulée aussi par le corps social direct, par les pairs de l’adolescent.e. Il s’agit d’identifier et d’attraper les codes des genres qu’ils veulent performer : c’est quoi « faire fille » ou « faire garçon » ?

Malheureusement on voit aussi que dans nos sociétés, l’identité masculine et féminine sont fortement codifiées et ces codes sont assez prégnants à l’adolescence : ils sont importants pour les jeunes, ce sont des points de repères à partir desquels ils vont négocier ou qu’ils vont s’approprier totalement.

Pour l’adolescent.e, il y a sur les réseaux sociaux une pression hétéronormative forte, voire même sexiste et patriarcale, comme vous l’écrivez.

Cette pression que vous décrivez ici, c’est un système qui est le reflet de la société, et ce système, c’est le sexisme ou le régime du patriarcat, qui distingue en fait deux genres, hommes et femmes, comme antagonistes et complémentaires. Donc pour une femme, le tout, c’est de ne pas ressembler à un homme, et pour être homme, c’est de rejeter les attributs de la féminité. Donc on a deux antagonismes qui sont présentés comme complémentaires.

On va ainsi avoir la promotion d’une image de femme traditionnelle, en tout cas telle que le sens commun la perçoit, comme étant une femme tournée vers le soin aux autres, l’éducation, la gestion du ménage. Cette image est complémentaire avec une figure masculine qui est tournée vers l’extérieur, le travail, pour apporter l’argent à la maison, le sport pour être actif dans le milieu public, l’activité en politique.

Ces deux profils sont conçus comme complémentaires comme si cela allait de soi qu’une femme soit la complémentaire de l’homme et donc on a ici les rôles genrés qui sont construits pour être mis ensemble.

Et quand on veut sortir de ces rôles ou les mettre en cause, que se passe-t-il sur les réseaux sociaux ?

Dès lors qu’on sort des normes du genre auquel la société nous assigne, qu’on soit un homme ou une femme, il y a une sanction sociale qui arrive. Par exemple si une femme affiche le fait qu’elle a des poils sous les bras sur les réseaux sociaux, elle va se ramasser une volée de commentaires très négatifs, d’insultes et parfois du harcèlement systématique.

Mais aussi peut-être des soutiens et des encouragements ?

En effet, mais la norme est toujours rappelée. Et les commentaires peuvent avoir un impact très négatif sur la personne.

Les réseaux ne peuvent pas aider les personnes qui s’identifient différemment en leur permettant d’avoir des témoignages en écho et trouver une communauté ?

Oui, c’est d’ailleurs un des effets positifs des réseaux sociaux, c’est d’avoir permis une parole plus horizontale et du coup on a donné la parole à des minorités qui ne l’avaient pas jusqu’à présent puisque ils étaient rarement représentés dans les médias en général. Cela a permis à ces personnes minorisées d’avoir une parole qui soit écoutée et pour les utilisateurs.trices des réseaux sociaux, de trouver en eux.elles des modèles épanouis tout en vivant la discrimination dont iels témoignent.

La sanction dont vous parliez sur les réseaux sociaux, c’est le simple reflet de la société qui doit évoluer, ou y a-t-il un phénomène encore d’amplification du côté genré ?

Il y a un reflet de la société telle quelle mais qui est amplifiée par des mécanismes propres aux plateformes de réseaux sociaux. Ce sont des mécanismes où la logique est la rentabilité pour les plateformes. L’intérêt des entreprises de réseaux sociaux n’est pas philanthrope, c’est un intérêt économique.

Les réseaux sociaux basent leur économie sur la réputation des contenus publiés et l’engagement des personnes vis-à-vis de ces contenus. Plus le contenu est clivant, haineux, plus le contenu peut avoir du succès. Un contenu n’a pas forcément du succès parce qu’il plaît. Un bon contenu pour la plateforme est un contenu rentable, un contenu qui génère de l’engagement, que ce soit positif ou négatif.

Par exemple sur Facebook, le petit emoji « colère » a plus d’impact sur l’algorithme que les pouces. La plateforme favorise certains types de contenus et déforme un peu la réalité des discours de la vie réelle, de la société. Certains discours problématiques connaissent in fine un phénomène amplificateur.

Concrètement, quand vous faites de l’éducation sur ces questions face à une classe d’adolescent.es, ou de citoyens Lambda, quels sont les points d’attention que vous mettez en avant ?

Je les questionne sur certains comportements en ligne qu’on n’aurait pas dans la vie réelle : les insultes, sexistes, homophobes, racistes. Pourquoi cela reste-t-il impuni, pourquoi cela est-il perçu comme sans conséquence par les auteurs? Pourquoi ce genre de chose arrive plus facilement en ligne que dans la vie réelle ?

C’est ce qui se passe en ligne, ce n’est pas anecdotique, c’est une réalité pour beaucoup de gens, une réalité prégnante qui a des impacts sur la santé physique, mentale, qui a des impacts économiques.

Ce que j’aime aussi faire, c’est aller sur le terrain du questionnement des masculinités, puisque le problème du sexisme vient en majorité des comportements toxiques masculins.

C’est quoi en tout cas être un homme? En jeu vidéo, c’est quoi « jouer comme une fille » ? Cela fait quoi de perdre face à une fille ? Est-ce que tu penses qu’une fille joue moins bien qu’un garçon ?

Les intelligences artificielles risquent-elle d’accentuer le modèle binaire et sexiste ?

C’est un risque. Maintenant il faut voir quel usage on va faire de cette technologie. Le développement de l’intelligence artificielle doit être discuté, pas seulement dans les espaces de pouvoir, de décision étatique, pas seulement dans les entreprises qui sont concernées, mais aussi d’un point de vue citoyen. Selon moi, l’intérêt, c’est d’apprendre comment fonctionne l’algorithme, pour qu’on puisse à la fois se servir de cette technologie tout en envisageant les limites. Une petite partie de la population bien définie, une élite d’hommes blancs hétéros : c’est un peu ça la règle dans le milieu du digital. Que cette élite conçoive une technologie à destination de tout le monde, sans connaître les réalités de tout le monde, c’est un non-sens. Cela ne peut pas marcher.