' fill='%230E4F97'%3E%3Cg id='Group-5' transform='translate(370.000000, 11.000000)'%3E%3Cg id='avatar' transform='translate(6.000000, 4.000000)'%3E%3Ccircle id='Oval' cx='8' cy='4' r='4'%3E%3C/circle%3E%3Cpath d='M7.12864205,10 L8.87135795,10 C11.558649,10 14.0087196,11.5384024 15.1762205,13.958831 L16,15.6666667 L16,15.6666667 L15.3374858,17.5134983 C15.228016,17.8186575 14.9774027,18.051811 14.6651459,18.1389975 L8,20 L8,20 L1.33485405,18.1389975 C1.02259733,18.051811 0.771984007,17.8186575 0.662514216,17.5134983 L0,15.6666667 L0,15.6666667 L0.823779545,13.958831 C1.99128041,11.5384024 4.44135104,10 7.12864205,10 Z' id='Rectangle'%3E%3C/path%3E%3C/g%3E%3C/g%3E%3C/g%3E%3C/g%3E%3C/svg%3E)
Reddit interdit enfin le groupe propageant un antisémitisme à peine voilé
La communauté était formée de 60 000 personnes et suscitait l'inquiétude des membres du réseau social ; un autre groupe, plus petit, est encore présent sur la plateforme
Après l’avoir laissé prospérer pendant neuf mois, Reddit a interdit une communauté internet comprenant des dizaines de milliers de membres qui, selon les critiques partout ailleurs sur la plateforme, étaient liés au mouvement néo-nazi.
La communauté /r/frenworld avait atteint les 60 346 abonnés avant son interdiction décrétée jeudi par l’administration de Reddit. Dans une explication publiée sur l’ancienne page du groupe, Reddit établit que « ce subreddit a été interdit pour violations de notre politique de contenus et spécifiquement pour la publication de contenus glorifiant ou encourageant la violence ».
Une communauté plus modeste – d’environ 15 000 personnes – était encore admise sur le réseau social au moment de l’écriture de cet article, ainsi que plusieurs autres d’importance moindre.
De nombreuses publications sur /r/frenworld se référaient implicitement au négationnisme et autres théories antisémites du complot prisées par les néo-nazis.
Par exemple, le dessin d’un personnage clownesque aux côtés des fours utilisés par les nazis pendant la Shoah, avec le commentaire : « Imbécile de clown : impossible de faire cuire six millions de gâteaux dans ces fours ! »
La communauté a été interdite sans annonce officielle de la part de Reddit, qui doit encore s’exprimer sur ce qui l’a poussé à prendre cette mesure. Le Times of Israel est entré en contact avec Reddit, mais la plateforme n’avait pas répondu au moment de la publication de cet article.
Certaines des personnes impliquées dans le groupe ont nié que ce dernier était lié à des groupes extrémistes ou qu’il avait des motivations radicales, clamant que son contenu était inoffensif.
Reddit est le sixième site le plus visité aux Etats-Unis et le 21e site le plus fréquenté au monde. Il se compose de milliers de communautés connues sous le nom de « subreddits » qui permettent aux abonnés d’évoquer des intérêts communs – qui vont du baseball aux soins de la peau.
Dans le passé, la plateforme de réseau social était passée à l’action contre les contenus extrémistes.
Suite à un regain d’attention de la part des médias à son égard, après l’attaque de Charlottesville aux Etats-Unis en 2017, par exemple, Reddit avait supprimé un certain nombre de « subreddits » nazis assumés, citant des violations des politiques de la plateforme qui interdisent les incitations à la violence.
L’année dernière, au cours d’une autre action de répression face aux contenus offensifs, Reddit avait « mis en quarantaine » plusieurs subreddits, et notamment des communautés qui faisaient se propager des contenus perturbants ainsi que des messages extrémistes – qu’ils viennent de gauche ou de droite. (Une « quarantaine » empêche un subreddit d’apparaître dans la fonction de recherche de la plateforme et empêche Reddit de faire la publicité de la communauté. Elle avertit également les utilisateurs de la nature toxique de la communauté avant qu’ils n’y accèdent. « Quarantaine » est le mot utilisé par les communautés qui ne s’affranchissent pas forcément des conditions d’utilisation mais qui sont toutefois considérées comme offensantes).
Mark Pitcavage, important chercheur au sein de l’ADL (Anti Defamation League), explique que Reddit doit faire face à un certain nombre de problèmes systématiques lors de la modération des contenus.
“Reddit a été créé de manière à pouvoir créer en permanence de nombreux comptes anonymes, pour un oui ou pour un non. Si une communauté en particulier en arrive au point d’une telle toxicité… alors cela peut mettre un terme à la communauté toute entière mais sans aucune répercussion au niveau individuel », dit-il.
Ce qui signifie que les 60 000 abonnés approximativement qui appartenaient à la communauté /r/frenworld, interdite pour ses incitations à la violence, sont encore individuellement présents sur la plateforme et qu’ils peuvent former de nouveaux groupes à leur guise.
Dans le cadre des efforts livrés par Reddit pour réduire l’extrémisme violent, la plateforme a censuré de nombreux groupes depuis 2017. Parmi eux, /r/debatethealtright, placé en quarantaine, /r/altright, /r/nationalsocialism, /r/farright, /r/Nazi, /r/MDE et /r/cringeanarchy, qui ont tous été interdits. En comparaison, /r/frenworld a profité d’une grâce de neuf mois, devenant le plus important espace d’extrême droite du réseau social avant son interdiction la semaine dernière. Une plus petite communauté, /r/honkler, qui reprend des images et des messages similaires, est encore accessible et réunit 15 000 abonnés.
Une raison possible pour laquelle /r/frenworld sera parvenu à échapper à la quarantaine ou à l’interdiction pure et simple est que pour l’usager moyen d’internet – ou même un journaliste friand de technologies – l’objectif avoué de la communauté n’apparaissait pas de manière manifeste. Un coup d’œil rapide sur la première page du subreddit était susceptible d’induire en erreur les internautes sur le contenu réel du groupe.
Un contenu qui était ainsi dominé par des grenouilles dessinées rattachées à des légendes infantiles utilisant des termes de l’argot propre à internet.
« L’usage de langage codé est quelque chose qui est exploité par les suprématistes blancs depuis longtemps », commente Jessie Daniels, professeur de sociologie au Hunter College et expert en manifestation du racisme sur internet. « Ceux qui n’appartiennent pas à cette sous-culture ne parviendront pas à saisir le sens du message transmis en passant seulement dans le subreddit ».
Toutefois, en y regardant de plus près, des messages antisémites et racistes devenaient facilement apparents entre deux publications infantiles et absurdes. Les messages variaient avec subtilité, mais conservaient en eux les germes des sujets de discussion prisés par les néo-nazis – comme le négationnisme de la Shoah.
Les Juifs, qui se trouvent souvent au cœur de la vision du monde complotiste des suprématistes blancs néonazis, ont été fréquemment la cible du subreddit – et les publications à résonance antisémite ont eu un pouvoir d’attraction considérable. Une publication récente se référant aux théories du complot qui ont entouré le naufrage, en 1967, du USS Liberty a reçu environ 2 600 « upvotes » et des centaines de commentaires (un « upvote » est la manière dont un abonné de Reddit indique son appréciation d’une publication.)
« L’objectif est réellement de faire se propager toute une gamme d’idées selon lesquelles les blancs seraient supérieurs de manière inhérente », explique Daniels, « l’idée que les blancs sont actuellement sous la menace d’un génocide, que cette menace émane des Juifs – d’un complot juif – et que les autres personnes de couleur sont les pions de ce plan ».
Au-delà de ces contenus d’un antisémitisme à peine voilé, il y avait d’autres indicateurs qui permettaient de trahir l’objectif poursuivi par le subreddit en tant que lieu de rencontre de la droite extrémiste. Parmi eux, le nombre de codes prévalant dans les messages néonazis, notamment 13/50, 13/52 et 13/90. Pitcavage affirme que ces chiffres sont utilisés pour représenter « explicitement les codes numériques des suprématistes blancs ».
Ces codes servent à transmettre une déformation néo-nazie des statistiques du crime qui, selon Pitcavage, servent « à promouvoir la notion longtemps vantée par les suprématistes blancs que les Afro-américains sont sauvages et violents et qu’ils sont, à la base et en tant que classe, des criminels ».
L’idée, derrière ces codes, est de signaler que les Afro-américains sont responsables de 50 % des crimes aux Etats-Unis alors qu’ils ne représentent que 13 % de la population. Les variations de ces chiffres – comme 13/52 ou 13/90 – sont utilisés pour exagérer ou préciser ces statistiques, ajoute-t-il.
La majorité des publications de la communauté n’étaient toutefois pas aussi explicites, et les membres s’efforçaient de produire des contenus susceptibles de permettre un démenti plausible.
Mais les commentaires sur les publications les plus anodines présentaient souvent des phrases codées liées à l’extrémisme et au néonazisme.
Contactés récemment par le Times of Israel et interrogés sur les contenus incriminés, peu avant l’interdiction de leur communauté, les fondateurs et les modérateurs de /r/frenworld ont nié que le subreddit était lié à la droite – sans même évoquer l’extrême droite – et clamé que son contenu était inoffensif.
Sergei_Suvorov (un pseudo), qui modère également une communauté de 500 personnes sur Reddit appelée /r/ThisIsFascism, a dit, pour sa part, à ce journaliste : « Frenworld n’est pas ‘de droite’, tout le monde peut y participer. En majorité, tant que les publications et les commentaires ne contreviennent pas à la politique des contenus mise en œuvre par Reddit, nous n’intervenons pas ».
Un autre modérateur a estimé que le subreddit visait simplement à « partager des illustrations dessinées de grenouille » et que c’était évident.
La communauté /r/frenworld a été autorisée à croître pendant neuf mois malgré les inquiétudes nourries face au groupe dans d’autres subreddits de la plateforme, notamment par une communauté appelée /r/AgainstHateSubreddits, qui s’est donné pour mission « d’attirer l’attention sur les contributions apportées par Reddit au problème de la radicalisation croissante sur les réseaux sociaux ».
Des publications détaillant la nature problématique de /r/frenworld avaient reçu des milliers de votes et un vaste coup de projecteur dans les mois qui ont précédé l’interdiction de la communauté. D’autres publications célébrant la disparition de /r/frenworld ont recueilli des milliers d’upvotes sur le réseau social.
Pourquoi c’est important
Les racistes et les néonazis se trouvent sur la toile depuis les premiers jours d’internet, mais les récents événements ont montré que de tels groupes sont ignorés au péril de la société, avertit Pitcavage.
« Il y a la question de la capacité donnée aux gens sur les réseaux sociaux qui, même s’ils ne s’engagent pas explicitement eux-mêmes dans des complots visant la violence, peuvent explicitement ou implicitement appeler à la violence ou même dire des choses qui peuvent aider certains à passer à l’action violente », explique Pitcavage, qui a passé 25 ans à faire des recherches sur le terrorisme d’extrême droite avec le centre sur l’extrémisme de l’ADL.
Le terrorisme contemporain d’extrême droite a souvent été explicitement lié aux espaces virtuels. Ainsi, le tireur à l’origine de l’attaque contre des mosquées commise en mars 2019 en Nouvelle-Zélande, qui a fait 50 morts, avait diffusé le massacre sur Facebook en direct et publié un manifeste sur le site de messagerie 8chan. Comme Reddit, 8chan est un site de réseau social anonyme qui a été associé dans le passé à « l’alt-right » (l’extrême droite américaine).
L’auteur de l’attaque meurtrière à l’arme à feu perpétrée dans une synagogue de San Diego avait, lui aussi, publié son manifeste sur 8chan.
La fusillade qui avait eu lieu le 27 octobre 2018 dans une synagogue de Pittsburgh, et qui avait fait 11 morts, avait été commise par un homme actif sur internet dans des communautés suprématistes blanches sur le réseau social Grab – un site qui place ostensiblement la liberté d’expression devant toute autre considération et, qui comme Reddit, une fois encore, repose sur l’anonymat.
« Ce que fait en partie internet, c’est permettre à la suprématie blanche d’établir une connexion mondiale, et, au-delà de ça, internet permet de créer un réseau de l’identité blanche dans le monde entier », explique Daniels.
Ces réseaux permettent aux usagers « de s’inspirer les uns les autres à travers internet – et ainsi, toute personne gravitant dans leur sillage devient une cible potentielle des suprématistes blancs… Ce sont les femmes, ce sont les queer, ce sont les gens de couleur, ce sont les blancs qui sont en désaccord avec eux. Il y a une partie importante, parmi nous, qui sommes en situation de vulnérabilité face à eux, cela constitue une menace réelle ».
