Modifié le 19 février 2019 à 13:45

Les "cleaners", ces êtres humains qui censurent les réseaux sociaux

Pédopornographie, kidnapping, torture, décapitation: les nettoyeurs du web font face à toutes les perversités.
Pédopornographie, kidnapping, torture, décapitation: les nettoyeurs du web font face à toutes les perversités. [© gebrueder beetz filmproduktion]
Des centaines de milliers de modérateurs seraient mobilisés aux Philippines pour filtrer les contenus des principaux réseaux sociaux et moteurs de recherche. Confrontés à la pédopornographie et à la torture, ils confient leur souffrance dans le documentaire "The Cleaners".

Google, Twitter, Facebook: toutes les images téléchargées sur ces plateformes ne finissent pas forcément sur la toile. Certaines sont censurées automatiquement, d'autres sont dépubliées rapidement. Principale cause: leur immoralité. Le travail est titanesque. Du côté de Facebook, qui fêtait ses 15 ans lundi passé, ce sont pas moins de 350 millions de photos qui doivent être analysées quotidiennement.

En plus des dénonciations effectuées par les internautes, les géants du numérique sont aidés par des programmes de reconnaissance d'image, qui repèrent le nu, le sang et les symboles politiques. Après ce premier tri, les plateformes confient les images suspectes à des humains, des "nettoyeurs du web", qui doivent valider leur dépublication. Comme le souligne le documentaire "The Cleaners" (à voir ci-dessus), une grande partie de ceux-ci travaillent pour des sociétés externes, le plus souvent basées aux Philippines.

Des agents de Dieu, en toute discrétion

La plupart des nettoyeurs de web sont basées aux Philippines. La plupart des nettoyeurs de web sont basées aux Philippines. [© gebrueder beetz filmproduktion] Malgré les milliers de personnes concernées, le travail des "cleaners" philippins est discret. Les entreprises ont des noms vagues, tel que "Agence de service à la clientèle". L'identité, l'activité et le lieu de travail des "cleaners" sont cachés, les sociétés voulant certainement s'épargner toute potentielle complication. La plupart des "nettoyeurs" sont âgés entre 20 et 25 ans. "Ce travail détruit le cerveau. On finit par penser que la violence est normale". "Ce travail détruit le cerveau. On finit par penser que la violence est normale". [ - gebrueder beetz filmproduktion] Ils ont une grande marge de manoeuvre, puisque seuls 3% de leur choix seraient contrôlés. Ils gagnent entre 2 et 6 dollars par heure, un salaire assez élevé destiné à les motiver. Car filtrer des images indésirables est extrêmement anxiogène.

Pédopornographie, kidnapping, zoophilie, flagellation, mutilation, torture, décapitation: les "cleaners" philippins, qui examinent jusqu'à 25'000 images par jour, voient de tout. La plupart d'entre eux se perçoivent comme des agents secrets qui sauvent le monde. A juste titre parfois, puisque certains ont pu faire avancer des enquêtes dans les domaines du terrorisme ou de l'exploitation des enfants.

Dans notre travail, on n'a pas le droit à l'erreur. La moindre erreur peut coûter une vie

Une "cleaner" anonyme

Ce n'est pas par hasard que ces "éboueurs du web" se trouvent en majorité aux Philippines. Après 300 ans de colonialisme espagnol et une forte influence américaine post-Deuxième Guerre mondiale, le pays est à 95% chrétien. Le puritanisme et la dévotion religieuse y sont particulièrement élevés. La plupart des "cleaners" philippins ont le sentiment de travailler pour Dieu.

Ce travail allie l'éthique protestante et l'esprit du sacrifice catholique

Sylvia Estrada-Claudio, psychologue

L'insoutenable qui mène à la dépression

Mais voir des fillettes faire des fellations ou des civils se faire déchiqueter par les bombes détruit à petits feux ces "nettoyeurs du web". Pénalisés s'ils censurent à tort, ils sont très souvent obligés de regarder des vidéos jusqu'au bout. Car comment savoir si telle tentative de pendaison est une blague ou un projet concret?

Rêves. Flash-back. L'horreur se met à hanter les "cleaners". "On se met en position d'esclave", confie l'une. "C'est comme s'il y avait un virus en moi", témoigne l'autre. Et abandonner ce travail si lucratif n'est pas simple dans ce pays. Cela équivaudrait à un échec social. Ils bénéficient d'un soutien psychologique, mais certains finissent quand même par se suicider.

>> Réécouter la critique du film :

Capture d'écran du film "Les nettoyeurs du web" sur le site de ARTE.
arte.tv
Vertigo - Publié le 29 août 2018

Caroline Briner

>> "The Cleaners - les nettoyeurs du web" diffusé lundi soir sur RTS2. Disponible dans RTSplay jusqu'au 10 mars 2019.

Publié le 12 février 2019 à 06:49 - Modifié le 19 février 2019 à 13:45

"Ignorer" ou "supprimer": les critères de validation

La nudité, la sexualité, la scatophilie, le racisme, la propagation de la haine et le terrorisme sont les principales causes de censure d'images. Les mères allaitantes n'échappent pas à la règle, tout comme certains politiciens, comme le leader kurde Abdullah Öcalan.

Ces limites strictes et subjectives ont fait l'objet de levées de boucliers ces derniers mois, en particulier aux Etats-Unis. "Il ne faudra pas que les gens s'étonnent de découvrir à l'avenir des contenus toujours plus lisses", prévient le rapporteur spécial de l'ONU pour la liberté d'expression David Kaye.

Certaines règles de censure sont par ailleurs géolocalisées, afin de répondre aux règles propres à chaque pays. Les accords entre les plateformes et les gouvernements sont tenus secrets.

Et à la RTS ?

Toutes les images publiées par la RTS sur ses différentes plateformes sont soumises à des règles précises, qui répondent tant à la législation suisse qu'à nos règles de déontologie éditoriale. Les images choquantes ou dégradantes sont bannies de nos programmes.

Les commentaires des internautes sur les pages Facebook ou Twitter de la RTS sont soumis aux mêmes règles, qu'il s'agisse d'images téléchargées ou de textes. Ces publications sont le plus souvent contrôlées à l'interne. Durant la nuit, une société externe préfiltre les publications. Ces "nettoyeurs" se repèrent avec des mots clés. Ils ne répondent pas aux commentaires.

Par principe, un service "n'ouvre pas de compte Facebook tant qu'il n'y a pas de forces de modération", précise David Lamon, responsable des réseaux sociaux à la RTS. Il précise que la majorité des internautes qui viennent sur les plateformes RTS sont bienveillants. "On n'est donc pas dans une logique de censure, mais de modération. Et on privilégie le dialogue constructif", souligne David Lamon.