Modifié

Facebook a-t-il finalement échappé au contrôle de ses créateurs?

Facebook s’empêtre dans une nouvelle polémique après les révélations d’une ancienne employée sur les défaillances du réseau social dans la modération [RTS]
Facebook s’empêtre dans une nouvelle polémique après les révélations d’une ancienne employée sur les défaillances du réseau social dans la modération / 19h30 / 2 min. / le 26 octobre 2021
De nouvelles fuites de documents internes prouvent que Facebook a ignoré des alertes de ses employés concernant la modération du réseau social. Les contenus haineux ou incitations à la haine se retrouvent régulièrement mis en avant par les algorithmes, et le géant du numérique manque de personnel humain pour les réguler.

Facebook a-t-il échappé à ses créateurs? Les nouveaux éléments fournis par la lanceuse d'alerte Frances Haugen, publiés mardi par plusieurs médias internationaux, semblent étayer cette hypothèse. L'entreprise semble en effet dépassée lorsqu'il s'agit de lutter contre les propos haineux ou les fausses informations.

La faille principale concerne les contenus dans différentes langues. Car sur 2,9 milliards d'utilisateurs et utilisatrices, la majorité publie ou commente des contenus dans une autre langue que l'anglais.

Régulation insuffisante en langues étrangères

"Je suis profondément préoccupée par leur manque d'investissement dans des langues autre que l'anglais et par la façon dont ils induisent le public en erreur en leur disant qu'ils s'en occupent", dénonce Frances Haugen. Selon la lanceuse d'alerte, Facebook prétend prendre en charge 50 langues alors qu'en réalité la plupart d'entre elles ne reçoivent qu'une infime fraction des systèmes de sécurité dont dispose l'anglais.

Or, cette faille peut présenter un danger tout particulier dans certains pays. En Inde, qui compte 340 millions de comptes inscrits, les contenus appelant à la haine raciale ou religieuse fleurissent et alimentent parfois les violences inter-communautaires. Dans l'Etat du Bengale, une note interne de Facebook révèle que sur un échantillon de personnes publiant beaucoup de contenus politiques, 40% étaient en réalité de faux profils.

"Facebook cause des divisions dans beaucoup d'espaces", confirme Brian Boland, également ex-employé du groupe, qui souligne un manque de volonté de combattre ce phénomène. "Si vous faites la balance entre réduire les contenus blessant ou réduire le temps des gens sur la plateforme, vous choisissez de maintenir les gens sur la plateforme", témoigne-t-il.

Défaillance structurelle

Ce manque de volonté est essentiellement lié au modèle économique du groupe, explique Joëlle Toledano, professeure émérite d'économie à l'université Paris-Dauphine et spécialiste de la régulation du numérique. Selon elle, les critiques qui estiment que l'algorithme est "hors de contrôle" font fausse route. Car Facebook contrôle parfaitement sa rentabilité.

"En général, chez les économistes, on dit que pour chaque objectif, il y a un outil. L'algorithme de Facebook n'est pas fait pour contrôler les messages haineux, il est fait pour améliorer la rentabilité. Donc il est sous contrôle, même s'il y a des effets pas toujours voulus", indique-t-elle dans Forum mardi.

Dès le début, les rails étaient posés pour qu'on en arrive là aujourd'hui, sans que personne n'ait jamais tiré le frein.

Anna Jobin, chercheuse en éthique des algorithmes et en gouvernance de la numérisation

Ces problématiques sont structurelles au réseau, abonde Anna Jobin, chercheuse au Alexander von Humboldt Institute de Berlin et présidente de la Commission fédérale des médias.

"Facebook a, dès l'origine, été construit très grand, avec un système d'auto-apprentissage. C'est-à-dire qu'il y a constamment des données en temps réel de nos interactions qui influencent le chemin vers lesquels les utilisateurs sont menés. Ainsi dès le début, les rails étaient posés pour qu'on en arrive là aujourd'hui, sans que personne n'ait jamais tiré le frein", explique-t-elle.

>> Les analyses et commentaires des deux chercheuses dans Forum:

Facebook est-il devenu un réseau hors de contrôle? Débat entre Anna Jobin et Joëlle Toledano [RTS]
Facebook est-il devenu un réseau hors de contrôle? Débat entre Anna Jobin et Joëlle Toledano / Forum / 12 min. / le 26 octobre 2021

Des bénéfices au beau fixe

En résumé, Facebook a tout intérêt à avoir un maximum de contenus polémiques, ceux qui génèrent le plus d'interactions, et permettent à la plateforme d'attirer les annonceurs. Et ces annonceurs, eux, ne sont pas vraiment dérangés par les affaires.

Car si les révélations sur les défaillances du réseau social s'accumulent ces derniers mois, sa santé économique semble pour le moment intacte. Facebook a engrangé un bénéfice de près de 9 milliards de francs au troisième trimestre 2021.

Sujet TV: Antoine Silacci

Adaptation web: Pierrik Jordan

Publié Modifié

Réseaux sociaux devant le Sénat américain pour expliquer comment ils protègent les enfants

Des représentants de TikTok, Snapchat et YouTube étaient auditionnés mardi par une commission sénatoriale américaine pour évoquer leur influence sur les enfants, qui sont de grands utilisateurs de ces plateformes.

Cette audition intervient quelques semaines après celle, devant la même commission au Commerce, de la lanceuse d'alerte Frances Haugen, qui a révélé, documents à l'appui, que des recherches internes à Facebook avaient montré que son réseau social Instagram avait des effets néfastes sur une partie des adolescents qui l'utilisaient.

"TikTok, Snapchat et YouTube jouent tous un rôle majeur dans l'exposition des enfants à des contenus dangereux", a fait valoir la sénatrice Marsha Blackburn, qui copréside la commission. "Les réseaux sociaux peuvent offrir divertissement et opportunités éducatives mais ces applications ont aussi été mal utilisées", poursuit-elle, citant notamment des incitations des actes de vandalisme, des défis viraux qui font risquer la mort, le harcèlement, les troubles de l'alimentation ou encore le détournement de mineurs.

De nombreux élus veulent légiférer pour inscrire dans les textes davantage de mesures protectrices.