Après avoir promis d'interdire le négationnisme, Facebook n'a toujours rien fait

JTA – Mercredi après-midi, l’un des premiers résultats d’une recherche sur Facebook pour le terme « Holohoax » – populaire auprès des négationnistes – était une publication décriant « l’État d’Apartheid blanc juif suprémaciste tueur d’enfants, les promoteurs talmudiques et sataniques de l’Holohoax ».

Juste en dessous se trouvait une vidéo, postée par un groupe rassemblant plus de 6 000 personnes, intitulée « Recherche : Holohoax et l’ordre mondial juif ».

Ces résultats sont apparus six semaines après l’annonce par Facebook selon laquelle il allait interdire le négationnisme et la falsification de la Shoah sur toutes ses plateformes, y compris le très populaire réseau Instagram.

Lorsqu’elle a fait cette annonce, la société s’est engagée à rediriger les utilisateurs vers des ressources qui fournissent des informations crédibles sur la Shoah. Ces ressources n’ont pas encore été publiées sur le site.

En revanche, des ressources de ce type apparaissaient lors de la recherche sur la théorie du complot QAnon, dont Facebook avait annoncé l’interdiction environ une semaine avant d’annoncer celle du négationnisme. Et les groupes QAnon semblent avoir été supprimés après cette annonce.

Il n’y a pas que « Holohoax ». Une page de l’Institute for Historical Review, une organisation négationniste se faisant passer pour un centre universitaire, est active et compte plus de 1 000 références en date de mercredi après-midi. Un article récent sur la page renvoie à un article intitulé « La puissance d’Israël est illimitée ». Une publication datant du début du mois déplore « les grandes pertes de vies humaines et les terribles souffrances endurées par le peuple allemand pendant la Seconde Guerre mondiale ».

Un encadré sur le côté de cette page intitulé « Pages connexes » dirige les utilisateurs vers plusieurs pages qui soit nient la Shoah, soit tiennent un discours ouvertement antisémite. Le groupe de l’Institute for Historical Review et ses pages connexes ont été signalés pour la première fois par l’organisation à but non lucratif « The Markup », qui se consacre au journalisme axé sur les données, couvrant l’éthique et l’impact de la technologie sur la société.

L’un d’entre eux, qui compte 531 articles similaires, s’appelle « Goy Lives Matter » et présente un flot de messages et de liens ouvertement antisémites. Un exemple est un lien vers un site web qui prétend donner des informations sur le « nettoyage ethnique juif des Européens ». « Goy », un terme hébreu qui signifie non juif, est régulièrement repris par les tenants de la suprématie blanche.

Un suprémaciste blanc quitte le parc Emancipation à Charlottesville en Virginie, le 12 août 2017. (AP Photo/Steve Helber)

Une autre page bien plus populaire, avec plus de 11 000 abonnés, s’appelle « Open Borders for Israel » [Frontières ouvertes pour Israël], un titre de troll qui est devenu un slogan parmi les suprémacistes blancs. Le slogan implique que les Juifs sont hypocrites, car les tenants de la suprématie blanche pensent que les Juifs essaient d’inonder l’Amérique d’immigrants non blancs, mais Israël n’a pas de politique d’immigration libérale.

Une version du logo de la page inclut Pepe the Frog, une caricature récupérée par les suprémacistes. Un de ses messages est un mème mettant en scène un homme visiblement juif disant « l’Amérique est une nation d’immigrants » et puis, lorsque quelqu’un lui demande pourquoi Israël n’absorbe pas de réfugiés, il répond : « Vous êtes antisémite ». Une autre publication présentant une photo d’Harvey Weinstein disant : « Israël n’aura pas besoin d’ouvrir ses frontières au monde pour laisser entrer Weinstein. Il ne laisse entrer que les Juifs ».

Les pages et les messages – et autres contenus du même genre – montrent que plus d’un mois après s’être engagé à supprimer les contenus qui nient ou falsifient la Shoah, Facebook ne l’a toujours pas fait. La persistance du négationnisme sur la plateforme souligne également le défi auquel les géants des réseaux sociaux sont confrontés alors qu’ils tentent de remplir leurs récentes promesses d’éradiquer la haine et la désinformation de leurs plateformes.

Les porte-parole de Facebook, ainsi qu’une organisation juive qui collabore avec le réseau sur ces questions, affirment que celui-ci travaille dur pour mettre en œuvre cette politique. Mais ils avertissent qu’il faudra plus de temps pour affiner les outils d’intelligence artificielle et créer du matériel de formation pour les modérateurs humains qui peuvent aider à identifier le déni de la Shoah.

Un porte-parole de Facebook a déclaré que l’entreprise capte la grande majorité des discours haineux sur la plateforme. Le porte-parole a dit à la JTA que la société employait 15 000 personnes pour vérifier les contenus afin de détecter les discours de haine et autres violations. Selon les données de l’entreprise, Facebook détecte 95 % de ces contenus avant que les utilisateurs ne les signalent. Et un autre rapport récent de l’entreprise indique que de juillet à septembre, les discours de haine ne représentent que 10 ou 11 cas sur 10 000 de consultation de contenu sur Facebook. (Compte tenu des milliards d’utilisateurs que compte Facebook, cela se traduit encore par un nombre potentiellement considérable de personnes qui consultent des discours de haine).

Le PDG de Facebook, Mark Zuckerberg, témoigne à distance lors d’une audition de la sous-commission judiciaire de la Chambre des représentants sur l’antitrust au Capitole à Washington, le 29 juillet 2020. (Mandel Ngan/Pool via AP)

« Détecter les discours de haine n’est pas seulement un grand défi, c’est un défi évolutif », a écrit le porte-parole. « Un nouveau discours de haine peut ne pas ressembler aux exemples précédents parce qu’il fait référence à une nouvelle tendance ou à un nouveau sujet d’actualité. Nous avons construit de nouveaux outils pour qu’ils puissent s’adapter aux défis aussi bien futurs qu’actuels. Avec une intelligence artificielle plus flexible et plus adaptative, nous sommes convaincus de pouvoir continuer à faire de réels progrès ».

Le porte-parole a indiqué que la société n’a pas d’autres informations sur le moment ou la manière dont elle va orienter les utilisateurs vers des documents externes crédibles sur la Shoah. De même, Facebook a déclaré qu’il ne détaillerait pas ses supports de formation ou ses critères pour déterminer ce qui constitue un déni ou une falsification de la Shoah, par crainte que cela ne permette aux racistes de « contourner le système ». Les « Community Standards » de Facebook n’apportent pas non plus de précisions.

Facebook a appliqué plus activement au moins une autre politique récemment promise. Le 6 octobre, Facebook a interdit les groupes et les pages faisant la promotion de QAnon, la théorie conspirationniste pro-Trump aux connotations antisémites. À peine 15 jours plus tard, la société annonçait qu’elle avait mis en place des liens vers des informations crédibles que les utilisateurs voient désormais lorsqu’ils recherchent QAnon. Aucun lien de ce type n’existe encore en ce qui concerne le négationnisme.

Le fait que Facebook interdise le négationnisme est en soi un changement majeur. Il y a deux ans, Mark Zuckerberg a expliqué à la publication technologique Recode qu’il considérait le négationnisme comme un manque de connaissance, par opposition à une expression intentionnelle d’antisémitisme. « Je ne pense pas que notre plateforme devrait faire abstraction de cela, car je pense que les gens se trompent sur certaines choses. Je ne pense pas qu’ils se trompent intentionnellement ».

Les propos de Zuckerberg avaient suscité un tollé parmi les spécialistes de la Shoah. Plus tôt cette année, une coalition de groupes de défense des droits civils dirigée par l’Anti-Defamation League (ADL) et la NAACP a organisé un boycott des publicités Facebook qui a impliqué plus de 1 000 entreprises.

Le logo « Like » de Facebook au siège de la compagnie à Menlo Park, en Californie, le 28 mars 2018 (Crédit : Marcio Jose Sanchez/AP)

Aujourd’hui, face à ce militantisme ainsi qu’aux études montrant que l’antisémitisme augmente alors que la connaissance de la Shoah diminue, Facebook a fait volte-face. La société considère maintenant le négationnisme comme un antisémitisme délibéré et avant d’annoncer l’interdiction du négationnisme, Facebook a déclaré avoir interdit plus de 250 groupes de suprématie blanche.

« Nier la Shoah, ce n’est pas seulement se tromper sur les faits », a reconnu Monika Bickert, responsable de la gestion de la politique mondiale sur Facebook, dans une interview vidéo accordée le mois dernier au Congrès juif mondial. « Nous savons que la négation de la Shoah est utilisée comme un moyen d’attaquer et d’alimenter la haine contre le peuple juif ».

Yfat Barak-Cheney, une responsable du Congrès juif mondial qui a travaillé en étroite collaboration avec Facebook sur la politique de négationnisme, pense que la société est sincère quant à l’interdiction du négationnisme. Elle s’attend à ce que la politique soit étoffée, au plus tôt, dans quelques mois, et dit que son organisation est en consultation quasi quotidienne avec Facebook à ce sujet.

« Je pense qu’il est un peu tôt pour faire ces rapports et se pencher sur la question », a déclaré Barak-Cheney, directrice des affaires internationales du Congrès juif mondial. « L’annonce est là. Ce n’est pas quelque chose qu’ils essaient d’éviter de faire. Ils sont très sérieux à ce sujet. Ils y consacrent certainement des ressources ».

Illustration : des membres du Mouvement national socialiste, l’un des plus grands groupes néonazis aux États-Unis, brûlent une croix gammée après un rassemblement le 21 avril 2018 à Draketown, en Géorgie. (Crédit : Spencer Platt / Getty Images / AFP)

Alors que la campagne électorale s’est tendue au début de l’année et que la pression publique s’est accrue sur les entreprises technologiques pour qu’elles s’attaquent à la haine et à la désinformation, plusieurs grands sites de médias sociaux ont annoncé l’interdiction des théories du complot ou de différentes formes de racisme.

Plus tôt dans l’année, en plus d’avoir interdit QAnon, Facebook a également fait savoir qu’il sévissait contre d’autres théories de conspiration antisémites. TikTok a interdit les contenus suprémacistes en octobre. YouTube a également banni QAnon en octobre. En réponse à l’intensification de l’action contre les groupes haineux, de nombreux militants d’extrême droite ont déplacé leur activité vers Telegram, une application de messagerie cryptée, et plus récemment vers Parler, qui se présente comme un réseau social sans restriction de parole.

En octobre, Twitter a également annoncé qu’il interdirait le négationnisme – bien que deux semaines plus tard, le PDG de Twitter, Jack Dorsey, ait déclaré lors d’une audition au Sénat sur le sujet que « nous n’avons pas de politique contre ce type d’informations trompeuses ».

Et les politiques de Facebook n’ont pas toujours pour effet de bloquer les personnes haineuses sur le site. Selon un rapport récent de deux groupes qui surveillent l’extrémisme, Facebook et Instagram « hébergent directement des réseaux néo-nazis avec plus de 80 000 adeptes », dont certains utilisent le site pour vendre des marchandises. Après que le rapport a été publié dans The Guardian, Facebook a assuré avoir retiré les néo-nazis de sa plateforme.

« Pendant trop longtemps, Facebook a choisi de ne répondre à la haine sur sa plateforme que lorsqu’il y a une levée de boucliers publique suffisante », a tweeté Jonathan Greenblatt, directeur de l’Anti-Defamation League, à propos du rapport. « Un exemple concret : Facebook a sciemment hébergé ce réseau néo-nazi pendant des années ».

Mais Barak-Cheney a déclaré que le problème était l’un de ceux qu’elle attendait que Facebook aborde. Bien qu’elle doute que Facebook soit capable de détecter tout déni de la Shoah, elle compte sur la plateforme pour trouver et en interdire « la plus grande partie ».

« C’est difficile à détecter, et ça change tout le temps », a-t-elle commenté. « Tout cela va être difficile, mais ce ne sera pas une politique statique ».