Google et Facebook ont besoin de vous pour surveiller la haine en ligne
Rechercher

Google et Facebook ont besoin de vous pour surveiller la haine en ligne

Les géants des médias sociaux affirment que la meilleure défense est une bonne attaque dans la lutte contre les propos racistes

Amanda Borschel-Dan édite la rubrique « Le Monde Juif »

Les panélistes lors d'une session sur le discours de haine sur Internet lors du 5e Forum mondial de lutte contre l'antisémitisme à Jérusalem, le 13 mai 2015. De gauche à droite: Simon Milner Facebook, le professeur Raphael Cohen Almagor, Juniper Downs de Google, et le ministre britannique de la Justice Paul Giannasi  (Crédit : Autorisation Eliram Mandel - MFA)
Les panélistes lors d'une session sur le discours de haine sur Internet lors du 5e Forum mondial de lutte contre l'antisémitisme à Jérusalem, le 13 mai 2015. De gauche à droite: Simon Milner Facebook, le professeur Raphael Cohen Almagor, Juniper Downs de Google, et le ministre britannique de la Justice Paul Giannasi (Crédit : Autorisation Eliram Mandel - MFA)

C’était vraiment une saga qui a eu lieu dans le monde du cricket, une saga à nous en faire tourner la tête.

L’ancien joueur de cricket et l’actuel directeur de la Fédération de Cricket de l’Angleterre et du Pays de Galles, Andrew Strauss, s’est opposé au bad boy du cricket, le triple centurion Kevin Pietersen.

Donc pour une partie de ceux qui ont commenté dans les médias sociaux la récente décision de Strauss de refuser à Pietersen la chance de jouer pour son pays, il était, bien sûr, Adolf Hitler.

Vue plus de 70 000 fois depuis que la vidéo a été mise en ligne sur YouTube le 12 mai, « Hitler apprend qu’Andrew Strauss ne sera pas sélectionné par Kevin Pietersen » est juste une parodie parmi des milliers d’autres parodies d’Hitler utilisant « Downfall » (Der Untergang), le film allemand nominé aux Oscars en 2004 qui raconte les derniers jours du régime nazi.

Dans cette version, le texte intelligent sous-titré en anglais est rempli de jargon du cricket inoffensif qui peste contre l’état du sport aujourd’hui qui est lié à la direction de Strauss. Il n’y a aucune référence à la Seconde Guerre mondiale et aux Juifs, aucun trope antisémite n’est utilisé dans ce clip de quatre minutes, créé avec un site Web facile à utiliser.

Souvent téléchargé sur la chaîne populaire Hitler Rants Parodies sur YouTube – regardée par près de 56 millions d’utilisateurs en six ans – les parodies de « Downfall » ont eu une riche histoire depuis leur genèse.

YouTube avait initialement bloqué certaines versions car la société de production du film avait fait une réclamation auprès du site pour violation des droits d’auteur, mais la société aurait changé d’avis et aurait même commencé à utiliser sur ces vidéos pirates sous-titrées.

Mais si on prend en compte les origines juives de Strauss, et la diffusion du clip sur les plateformes des médias sociaux avec des hashtags tels que #HitlerWasRight [Hitler avait raison] – dans une ère qui voit une légère hausse de l’expression antisémite en ligne – à quel moment le contenu satirique franchit la ligne dans l’antisémitisme ?

Selon les directeurs politiques Google et Facebook, c’est seulement les alertes des utilisateurs qui indiquent que le contenu est douteux, qui poussent ces sites à vérifier le contenu.

Intervenant en Israël lors du 5ème Forum mondial biennal pour le combat contre l’antisémitisme, Juniper Downs de Google et Simon Milner de Facebook ont rejoint un groupe appelé « La haine la plus ancienne dans les navires les plus récents : vers des solutions » présidée par l’envoyé spécial américain pour surveiller et combattre l’antisémitisme, Ira Forman. Le ministère britannique de la Justice du Cross Government Hate Crime Programme Paul Giannasi et le professeur Raphael Cohen Almagor ont complété le panel.

Bien que de nombreux gouvernements ont adopté des lois contre les discours de haine, il n’y a aucune législation unifiée, ce qui rend un produit international comme le World Wide Web un terrain fertile pour les individus et les groupes racistes ou antisémites pour répandre leur fiel.

Les gouvernements sont de plus en plus conscients de la question de la haine en ligne. Dans le sillage des attaques terroristes djihadistes contre les journalistes et les juifs à Paris, le New York Times a rapporté que le Premier ministre français Manuel Valls a annoncé le mois dernier que son gouvernement consacrerait 100 millions d’euros les trois prochaines années pour lutter contre le racisme et l’antisémitisme en lançant une campagne de sensibilisation à l’échelle nationale, instituant des peines plus sévères pour les actes racistes, et une surveillance accrue des discours de haine en ligne.

Le Premier ministre français Manuel Valls présente le plan du gouvernement visant à lutter contre le racisme et l'antisémitisme  à la préfecture de Créteil  dans le sud-est de la banlieue de Paris le 17 avril 2015 (Crédit : AFP / Patrick Kovarik)
Le Premier ministre français Manuel Valls présente le plan du gouvernement visant à lutter contre le racisme et l’antisémitisme à la préfecture de Créteil dans le sud-est de la banlieue de Paris le 17 avril 2015 (Crédit : AFP / Patrick Kovarik)

« L’Internet a certains du meilleur de l’humanité, et certains de son pire … La seule façon de combattre le discours de haine est l’unité », a déclaré Almagor, appelant à des efforts accrus et interactifs entre les gouvernements, les représentants de la loi, et les unités anti-terroristes, aux côtés des entreprises et des ONG.

Downs de Google a déclaré que la société valant plusieurs milliards de dollars a du mal à se battre pour un monde sans discrimination tout en conservant sa liberté d’expression.

Comme indiqué dans ses lignes directrices communautaires, « Cela peut être un équilibre délicat, mais si le but principal est d’attaquer un groupe protégé [tel qu’une religion, une race ou l’origine ethnique], le contenu franchit la ligne ».

Il y a un système de repérage détaillé, dit-elle, dont le contenu est revu 24h sur 24, 7 jours sur 7, tout autour du globe, en ce qui concerne à la fois la loi locale en vigueur et les normes internationales de la société sur le discours de haine.

Les examinateurs sont constamment formés et mis à jour sur les nouvelles formes de haine. Par exemple, un critique en Inde peut être moins familier avec le salut quasi-nazi français de Dieudonné, la quenelle. Lors d’une récente visite là-bas, Downs dit qu’elle a vu les listes de jargon et de symboles racistes cloués à côté des stations de travail.

En outre, il y a des utilisateurs que Downs a qualifié de « signaleurs de confiance » dont le jugement est essentiel pour la société et qui peuvent signaler des vidéos en vrac.

Pour Google, a déclaré Downs, « le contexte est la clé ». La société utilise l’acronyme « EDSA » pour déterminer si une publication doit être bloquée de l’une de ses nombreuses plates-formes (YouTube est un produit Google). Les censeurs examinent si le contenu éduque, documente, ou est scientifique ou artistique.

Le directeur de la politique de Facebook, Simon Milner a souligné le rôle crucial de la « communauté » forte d'1,44 milliard dans les rapports de force avec le discours de haine. (Crédit : Eliram Mandel - MFA)
Le directeur de la politique de Facebook, Simon Milner a souligné le rôle crucial de la « communauté » forte d’1,44 milliard dans les rapports de force avec le discours de haine. (Crédit : Eliram Mandel – MFA)

Comme avec Downs de Google, le directeur de la politique de Facebook Milner a souligné le rôle crucial de « la communauté » d’utilisateurs dans les rapports des contenus troublants. Avec 1,44 milliard de personnes sur la plate-forme Facebook, Milner a déclaré que la société elle-même se considèrer comme « les gardiens de la communauté ».

Il a souligné qu’il y a du personnel multilingue humain qui effectue un examen d’experts sur les contenus signalés et qui effectue un rapide « triage » des messages ayant trait au terrorisme ou l’incitation à la violence.

Faisant écho aux déclarations faites par les représentants de Google et Facebook, une brochure intitulée « Comment combattre l’antisémitisme en ligne », qui a été déposée sur les sièges au Forum Global affirmait : « Les utilisateurs des médias sociaux sont la première ligne de défense contre la haine en ligne ».

Cependant, écrit le Dr André Oboler, le directeur général de l’institut de la Prévention de la haine en ligne, « Signaler de l’antisémitisme en ligne peut sembler complexe. Ceux qui ont rapporté le contenu deviennent souvent découragés car trop souvent rien ne semble être fait, ou pire, on leur dit que leur rapport a été vu et rejeté ».

« Nous sommes nuls dans la gestion des abus »

La plate-forme Twitter, avec des surnoms tels que @HITLERNARIENFAIT, offre un anonymat qui permet aux utilisateurs un moyen de se déconnecter des normes sociales régulièrement de communication observées.

À la suite d’un article début février publié dans le Guardian et écrit par Lindy Ouest qui dépeignait sa bataille contre la haine en ligne, le PDG de Twitter, Dick Costolo, a écrit dans une note interne, « nous sommes nuls dans la gestion des abus et des trolls sur la plate-forme et nous sommes nuls depuis des années. Il n’y a pas de secret et le reste du monde en parle tous les jours. Nous perdons l’utilisateur de base en ne traitant pas des simples questions de trolls auxquelles ils sont confrontés chaque jour ». Costolo a personnellement pris la responsabilité pour le fiasco de West et a promis d’intensifier ses efforts.

La députée Luciana Berger (Crédit : Emma Baum)
La députée Luciana Berger (Crédit : Emma Baum)

Mais dans de nombreux cas, le retrait du discours de haine reçoit plus de publicité que l’acte initial.

Faisant allusion à ce qui est communément connu comme l’effet Streisand, Giannasi du Royaume-Uni a parlé du cas de la députée juive Luciana Berger, qui était la cible d’une campagne antisémite sur Twitter pendant la guerre entre Israël et le Hamas l’été dernier.

« Il est important de les retirer mais cela ne peut pas aider le problème et peut même l’exacerber », a-t-il dit. Dans le cas de Berger, il est probable que ses images avec des croix gammées photoshopées sur son front « auraient été vus par peu de gens. En fin de compte, elles ont été vues par des millions ».

Saïd Giannasi explique avec ironie : « L’Internet : la cause de et la solution à tous nos problèmes ».

Satire et célébrités pour avoir des résultats

La solution la plus efficace, comme le propose Downs de Google et Milner de Facebook est non pas plus de législation ou une surveillance accrue. Basé sur l’expérience de leurs entreprises et de la recherche externalisée, la meilleure façon de traiter avec le discours de haine est le « contre-discours ».

Le contre-discours, explique Milner, est un moyen de lutter contre les promoteurs de discours de haine par la parole positif au sujet de la même origine ethnique ou la religion ciblée. Une étude, commandée par Facebook au groupe de réflexion DEMOS et qui devrait être bientôt publiée, en comparaison aux discours de haine, les contres-discours avaient significativement plus d’impact. Cet impact a été mesuré par les interactions et des actions comme le partage.

Les clips avec un ton constructif mais qui restent satirique, avec des intervenants crédibles qui ont « été là » ou sont des célébrités / des pairs, ont été plus partagés et plus consultés.

Downs de Google a suggéré d’utiliser la satire et la comédie pour lutter contre les opinions racistes, ajoutant que Google est l’hôte d’événements pour réunir les producteurs YouTube à succès avec des voix crédibles dans les communautés touchées. « Le Contre-discours est une stratégie prometteuse pour travailler sur les cœurs et les esprits », affirme-t-elle.

Pour illustrer son point, elle a diffusé une vidéo émouvante de l’Anti-Defamation League qui dépeint ce que le monde serait sans meurtres racistes intitulée : « Imaginez un monde sans haine ».

La vidéo a été accueillie par des applaudissements. Mais a aussi fait rire l’auditoire lorsqu’une publicité a commencé après la fin de la vidéo.

Et cet aspect commercial est exactement pourquoi, selon Almagor, des entreprises comme Google et Facebook ont besoin « d’équilibrer la responsabilité sociale avec la responsabilité de profit… Avoir la responsabilité du contenu sur votre service est bon pour les affaires », a-t-il indiqué.

Classé par le magazine Forbes comme la troisième et la dixième marque les plus puissantes du monde, Google et Facebook respectivement, sont clairement en train de prendre des notes.

En savoir plus sur :
C’est vous qui le dites...