Publié

L'algorithme de Facebook est sexiste pour les offres d'emploi

Algorithmes sexistes [RTS]
Algorithmes sexistes / Mise au point / 13 min. / dimanche à 20:11
Une expérience menée par l'organisation AlgorithmWatch, en collaboration avec la RTS, prouve que les algorithmes de Facebook et Google diffusent de manière discriminatoire des offres d’emploi en fonction du sexe des utilisateurs.

Les femmes sont-elles systématiquement exclues de certaines offres d’emploi sur Facebook? C’est la question que s’est posée l'ONG AlgorithmWatch, spécialisée dans la surveillance des algorithmes.

Son équipe s’est glissée dans la peau de recruteurs et a acheté des encarts publicitaires sur Facebook et Google simultanément en Suisse, en Allemagne, en Pologne, en France et en Espagne pour poster les offres d’emploi suivantes: développeur de machines d'apprentissage, camionneur, coiffeur, éducateur de jeunes enfants, conseiller juridique et infirmier. A l'exception de la zone géographique, aucun ciblage (sexe, âge, niveau de diplôme) n’a été utilisé et les annonces ont volontairement été rédigées au masculin.

Les résultats de l'expérience sont sans appel: les algorithmes de Google, dans une certaine mesure, mais surtout de Facebook, ont automatiquement ciblé un sexe pour diffuser ces offres d'emploi. En Suisse, l’annonce pour les chauffeurs de poids-lourds a été diffusée à 3607 hommes, contre 631 femmes.

Les résultats obtenus en Allemagne sont encore plus contrastés, avec une diffusion ciblée auprès de 4864 hommes contre seulement 386 femmes.

A l’inverse, l’offre d’emploi postée au même moment pour le poste d’éducateur de jeunes enfants a été montrée à 6456 femmes en Allemagne, mais seulement à 258 hommes. En Suisse, le ratio était de 1203 femmes pour 369 hommes.

>> Toutes les données de l'expérience <<

"Pas objectif"

Ces données n'étonnent pas les spécialistes: "On est dans un mythe techniciste qui nous dit: puisque c’est un logiciel, c’est objectif. Non pas du tout! Puisqu'il y a des hommes et très peu de femmes qui, derrière, développent ces logiciels, ce n’est pas objectif", réagit Isabelle Collet, professeure en Sciences de l’éducation à l'Université de Genève et auteure de "Les oubliées du numériques".

"Nous ne nous attendions pas à ce que nos annonces soient diffusées aux hommes et aux femmes en proportion égale. Mais nous nous attendions à ce que nos annonces soient diffusées à peu près au même public. Après tout, nous n'avions ciblé personne en particulier", explique pour sa part Nicolas Kayser-Bril, à la tête de l'expérimentation.

L'importance des images

Pour AlgorithmWatch, les choix opérés par Facebook pour optimiser les publicités ne se basent sur aucune logique commerciale: "On pensait que la discrimination était peut-être liée aux comportements et aux clics des hommes et femmes dans les premières heures. Or, ce n'est pas du tout ça. Dans notre expérience, la discrimination a lieu avant que quiconque n'ait cliqué sur la publicité", précise Nicolas Kayser-Bril, journaliste spécialisé dans les données.

Pour pousser l’expérience plus loin, AlgorithmWatch a modifié l'intitulé et la photo de ses offres d'emploi. Par exemple, une annonce utilisant la formulation épicène "chauffeur-se" a été testée, une autre uniquement avec "chauffeuse" et dans la troisième, la photo de camion a été remplacée par une photo de produits cosmétiques.

Les résultats diffèrent du tout au tout: "Il semble que Facebook n'utilise que l'image pour décider s'ils vont montrer une publicité à des hommes ou des femmes. Si vous faites une publicité pour un emploi de 'chauffeuse de poids-lourds' avec une image de cosmétiques, la publicité ne sera montrée quasiment qu’à des femmes. Inversement, si vous écrivez à Facebook que vous recherchez des chauffeuses de poids-lourds et que vous mettez une image de camion, ça sera quand même montré majoritairement à des hommes", alerte Nicolas Kayser-Bril.

Pour diffuser une offre d’emploi sur Facebook ou Google, les entreprises doivent faire des offres, un peu comme dans une vente aux enchères. Les plateformes affichent ensuite les annonces de celui qui a payé le plus cher pour obtenir le clic d'un ou une internaute.

C’est donc l'algorithme lui-même et non le recruteur qui prédit qui sont les personnes les plus susceptibles de cliquer sur une offre d’emploi. Les autres ne verront donc tout simplement pas l'annonce apparaître dans leur fil d’actualité. "Il est tout à fait possible que quelqu’un rate une offre d’emploi parce qu’elle ne lui a pas été montrée. Globalement, ce système renforce les stéréotypes des comportements passés et façonne d’une certaine manière les comportements futurs", affirme Nicolas Kayser-Bril.

Google moins discriminant?

Les annonces postées sur Google pour cette expérience ont aussi abouti à des discriminations de genre, mais moins marquées que sur Facebook. La différence entre l'annonce la plus montrée aux femmes et celle la plus montrée aux hommes n'a jamais dépassé 20 points de pourcentage.

Plus important encore, l'optimisation de l'égalité des sexes sur Google n'a pas suivi un modèle cohérent. En Allemagne, par exemple, l'annonce pour les chauffeurs de camion était celle qui était la plus diffusée aux femmes. Cependant, Google n’a pas permis de placer des enchères "illimitées" sur ces annonces. Il a donc fallu définir manuellement le montant potentiel pour chaque personne qui cliquerait sur l'annonce, à la différence de Facebook qui décide automatiquement du prix du clic, en fonction du budget de l'annonceur. Les résultats des deux plateformes ne sont donc pas directement comparables.

Contactés à plusieurs reprises, aucun des deux géants américains n’a souhaité faire de commentaire sur les résultats de cette expérience. Pour seule réponse, Google a décidé d’effacer la plupart des offres d’emploi mises en ligne et payées par AlgorithmWatch.

Cécile Tran-Tien et Dimitri Zufferey

Cette enquête a été réalisée avec le soutien du Journalismfund.eu

Publié

Une pratique légale en Suisse?

Les algorithmes n’ont pas été prévus par la loi fédérale sur l’égalité (LEg) entre hommes et femmes puisque celle-ci est entrée en vigueur en 1996. Cette loi interdit toutefois clairement toute discrimination basée sur le sexe des candidats à l’embauche et prévoit des indemnités en cas de discrimination reconnue.

Cette interdiction ne s’applique toutefois qu’à l’embauche au sens strict, précise à la RTS l’avocate genevoise Bettina Fleischmann. Selon elle, il est important de distinguer une discrimination directe à l’embauche d’une simple offre discriminatoire. Les offres d’emplois présentes sur Facebook et Google ne pourraient donc pas à elles seules entraîner le droit à une indemnisation. Mais "une offre qui ne s'adresse par exemple qu'à un seul sexe peut constituer un indice de discrimination" précise la Confédération dans un message sur la LEg.