Rechercher

L’ADL développe un algorithme qui traque l’antisémitisme sur les réseaux sociaux

Selon le groupe juif de Défense des droits civils, ce système, l'Online Hate Index, peut analyser des millions de posts, détecter les contenus haineux et aider à leur suppression

Jonathan Greenblatt, PDG et directeur national de l'Anti-Defamation League, s'exprimant au Capitole, à Washington, le 2 mai 2017. (Crédit : Carolyn Kaster/AP)
Jonathan Greenblatt, PDG et directeur national de l'Anti-Defamation League, s'exprimant au Capitole, à Washington, le 2 mai 2017. (Crédit : Carolyn Kaster/AP)

JTA – S’agissant de l’antisémitisme sur les réseaux sociaux, les algorithmes qui sont utilisés sur les plateformes majeures sont essentiellement responsables de l’échec évident à détecter les contenus haineux. Mais l’Anti-Defamation League (ADL) espère aider à améliorer la situation après avoir créé son propre algorithme.

Le groupe juif de défense des droits civils a annoncé mardi avoir développé un système appelé l’Online Hate Index – qu’il décrit comme le premier outil jamais développé pour mesurer l’antisémitisme sur les plateformes des réseaux sociaux. Ce programme parvient à analyser rapidement des millions de publications et à détecter les commentaires antisémites et permet également à les supprimer.

Ce système utilise un algorithme basé sur l’intelligence artificielle pour trouver les publications potentiellement antisémites et les classer comme telles. Ces publications sont ensuite envoyés à une équipe de bénévoles et d’experts qui prennent l’ultime décision de leur suppression ou de leur maintien. Le système permet également de vérifier si les contenus incriminés sont supprimés.

Cet Online Hate Index s’est avéré nécessaire dans la mesure où les réseaux sociaux ne font pas preuve de suffisamment de transparence dans leur politique de lutte contre la propagation des discours de haine sur leurs plateformes, selon Jonathan Greenblatt, directeur-général de l’ADL, dont l’organisation exerce des pressions sur les géants technologiques depuis des années sur ce sujet.

« Nous utiliserons cet outil pour demander des comptes aux réseaux sociaux sur la manière dont ils agissent concrètement pour faire disparaître les contenus haineux, et pour évaluer le travail fait par les modérateurs en réponse aux signalements qui leur sont faits », a indiqué Greenblatt dans un communiqué.

L’un des objectifs du projet est de démontrer que si l’ADL a su développer un outil high-tech pour traquer l’antisémitisme, alors la Silicon Valley peut également le faire – et qu’il est donc possible de faire beaucoup plus pour s’attaquer au problème.

Le compte TikTok de la survivante de la Shoah Lily Ebert a été inondé de messages antisémites. (Crédit : Campaign Against Antisemitism via JTA)

Les réseaux sociaux ont tenté de s’attaquer à l’antisémitisme dans le passé, mais leurs antécédents sont mitigés. Facebook (entreprise connue aujourd’hui sous le nom de Meta) a bien tenté de mettre en œuvre une décision visant à interdire le négationnisme de la Shoah sur ses plateformes mais les ingénieurs ont développé des outils qui ont parfois bloqué des publications dont l’objectif était de sensibiliser au génocide juif.

Pour sa première analyse, l’ADL a utilisé son système pour contrôler des publications sur Reddit et Twitter, collectant des publications parues pendant toute une semaine au mois d’août de l’année dernière. L’ADL a choisi ces plateformes parce qu’elles sont les seules, parmi les autres géants, à offrir un accès ouvert à leurs données, ce que Facebook, par exemple, se refuse à faire, n’autorisant pas des entités extérieures à faire des recherches dans ses contenus.

L’algorithme utilisé par l’ADL a été conçu de manière à identifier des exemples d’antisémitisme possible. Par le biais d’un processus d’apprentissage automatique, des personnes ont identifié des publications antisémites et les ont intégrés dans l’algorithme qui, de cette manière, a appris à reconnaître des modèles. Et plus le nombre de commentaires intégrés a été important, plus l’algorithme a été en mesure de repérer les publications antisémites.

Ainsi, ce sont environ 2000 publications antisémites qui ont été identifiés par le système de l’ADL sur Reddit en environ une semaine sur 40 millions de commentaires au total déposés pendant cette période.

Le nombre de personnes qui lisent un commentaire sur Reddit est en partie déterminé par les votes « pour » ou « contre » qui viennent sanctionner l’écrit d’un usager – et il y a du positif à cet égard. Les notes laissées par les usagers concernant les propos antisémites étaient un tiers plus basses que la moyenne des notes attribuées aux autres publications, selon un rapport publié par l’ADL consacré à ses analyses.

Un meme antisémite reprenant une théorie du complot qui a été posté dans un chat d’extrême-droite sur Telegram, le 4 mars 2022. (Capture d’écran)

« Les analyses statistiques sur ces notes montrent que les contenus antisémites sur Reddit sont beaucoup moins récompensés par les lecteurs que ceux qui ne le sont pas », a noté le rapport.

Pour Twitter, qui ne fournit qu’un échantillon limité de ses données, l’ADL a estimé qu’il y avait environ 27 400 tweets antisémites parmi les 410 millions de publications étudiées pendant la période analysée par le logiciel et que ces publications avaient pu être vues par 130 millions de personnes.

L’ADL a averti que son coup de filet restait limité et qu’il ne s’était intéressé qu’aux textes en anglais – ce qui signifie que les contenus audios et vidéos n’ont pas été examinés, ni les textes écrits dans une langue étrangère.

Sur les deux plateformes, la plus grande partie des commentaires antisémites sont restés des mois en ligne après avoir été publiés et ils n’ont pas été supprimés après le signalement de l’ADL de leur présence.

L’une des difficultés concernant la suppression des contenus antisémites est de définir le terme même d’antisémitisme, les spécialistes ayant des points de vue très divers sur la question. L’un des problèmes particulièrement délicats est d’établir clairement la limite entre la critique d’Israël et une manifestation de haine antijuive.

Le rapport de l’ADL a expliqué que son algorithme avait été mis au point avec l’aide des experts du groupe et de bénévoles issus de la communauté juive. Ce qui ne signifie pas que le jugement humain est totalement externalisé : dans le système mis au point par l’ADL, l’intelligence artificielle est simplement utilisée pour passer au crible le maximum de contenus, le cerveau humain étant finalement chargé de déterminer quelles publications sont réellement antisémites.

Un dessin antisémite publié sur l’application Telegram, le 15 mars 2020, liant les Juifs au coronavirus en utilisant l’image d’un cheval de Troie. (Crédit : ministère de la Diaspora via ADL/Autorisation)

Pour aider dans la prise de décision, chaque bénévole reçoit une base de directives disponible sur le site de l’ADL. Elle comprend une référence à la définition de l’antisémitisme qui a été mise au point par l’IHRA (International Holocaust Remembrance Alliance), une définition toutefois controversée dans la mesure où elle se focalise sur les discours anti-israéliens.

Par exemple, parmi certaines déclarations pouvant être considérées comme antisémites, « l’affirmation que l’existence de l’État d’Israël est une initiative raciste » et « le déni du droit à l’autodétermination du peuple juif ».

Selon les critiques, la définition de l’IHRA est inappropriée dans la mesure où elle pourrait potentiellement ôter sa légitimité à l’activisme propalestinien si elle devait être adoptée par les universités et par les instances gouvernementales. Ses partisans, d’un autre côté, expliquent que le discours antisémite, aujourd’hui, passe aussi par les attaques contre Israël.

Dans une publications sur son site internet, avant l’introduction de son logiciel, l’ADL a rejeté l’idée qu’adopter cette définition empêcherait toute critique d’Israël, affirmant que ce type de critique était protégé par la constitution américaine.

En savoir plus sur :
C’est vous qui le dites...