Modifié

Un algorithme permet de repérer les commentaires haineux sur internet

Un algorithme permet de repérer les commentaires haineux sur internet [RTS]
Un algorithme permet de repérer les commentaires haineux sur internet / 19h30 / 2 min. / le 9 mai 2022
Même si des modérateurs existent pour filtrer les commentaires haineux, vulgaires ou déplacés sur les réseaux sociaux, beaucoup passent au travers. Existante depuis janvier 2021 en Suisse alémanique, la plateforme Stop hate speech, qui vise à les identifier, est désormais disponible en Suisse romande.

"Comme commentaire, il y a un doigt d'honneur… tout simplement." Mériam Mastour, cofondatrice du mouvement féministe et anti-raciste les Foulards violets, est régulièrement la cible de commentaires haineux sur les réseaux sociaux, tout comme les membres de son collectif.

"Le problème d'internet est qu'il entre dans notre intimité, explique Mériam Mastour lundi dans le 19h30. Ce commentaire, on peut le lire à 23h quand on est seule ou à 21h quand on donne à manger à ses enfants, en famille. Cela peut vraiment avoir un impact sur sa personne."

>> Lire aussi: Les menaces contre des élus et des magistrats ont explosé en 2021

Une zone grise

Les commentaires les plus insultants sont majoritairement supprimés par les modérateurs des sites internet, mais certains restent.

"L'un des problèmes récurrents est que les gens se disent que si ce n'est pas du droit pénal, c'est en ordre. Il peut y avoir des propos qui restent répréhensibles, préjudiciables au groupe concerné, mais qui n'atteignent pas encore la gravité suffisante pour être justement considérés comme pénalement répréhensibles", explique Maya Hertig Randall, professeure de droit constitutionnel à l'Université de Genève et vice-présidente de la commission fédérale contre le racisme.

Analysés par une communauté

La plateforme Stop hate speech lutte contre cette zone grise, grâce à un algorithme. Il scanne les méandres d'internet, isole tous les commentaires et les envoie à une communauté volontaire. Elle analyse ensuite tous les messages.

"'T'es un sacré connard, trou du cul'. C'est ce qu'on appelle un commentaire toxique, parce que cela ne vise personne en fonction de son identité, mais c'est néfaste pour les discussions en ligne, indique Morgane Bonvallat, responsable du projet Stop hate speech en Suisse romande. 'Proposons-leur des vacances à tous ces pauvres réfugiés, un aller-simple pour un célèbre camp chez nos amis en Pologne'. Ça, on est d'accord pour dire que c'est un commentaire haineux."

S'immiscer dans les discussions

Il y a ensuite le contre discours. "L'idée est que notre communauté se joigne aux discussions avec différentes stratégies pour montrer que la haine n'est pas l'opinion de la majorité", indique Morgane Bonvallat. On ne répond jamais à la haine par la haine. Répondre avec empathie, cela peut être, par exemple: 'Votre commentaire est particulièrement offensant pour la communauté juive'."

Cette technique permet de réduire efficacement les commentaires haineux.

>> Revoir aussi l'interview de Morgane Bonvallat, collaboratrice pour le projet Stop hate speech, dans Forum:

Forum des Idées – Un projet pour combattre les discours de haine [RTS]
Forum des Idées – Un projet pour combattre les discours de haine / Forum / 7 min. / le 22 novembre 2021

Camille Rivollet/vajo

Publié Modifié