Une entreprise au passé nazi finance un projet contre l’antisémitisme en ligne

« Decoding anti-Semitism » est une collaboration entre le King’s College London et le Centre de recherche sur l’antisémitisme de l’université technique de Berlin. Le projet est financé par la Fondation Alfred Landecker à hauteur de 3 millions d’euros, a rapporté l’agence de presse allemande dpa [Deutsche Presse-Agentur Gmbh].

La Fondation Landecker a été créée l’année dernière par la JAB Holding Company, basée en Allemagne. Appartenant à la célèbre famille Reimann, le prédécesseur de l’entreprise à l’époque nazie a eu recours à au moins 838 travailleurs forcés pendant la guerre. Aujourd’hui, JAB Holding Company possède des filiales dont Panera Bread, Au Bon Pain et Krispy Kreme.

Le dirigeant de la société pendant la guerre, Albert Reimann Junior, était un nazi fervent qui entretenait une relation suivie avec la fille d’un homme juif – Alfred Landecker. Leur romance « interdite » a donné naissance à trois enfants. Landecker a été emmené par la Gestapo dans un ghetto d’Izbica, l’actuelle Pologne, où on a perdu sa trace. On suppose qu’il a été transféré dans un camp de la mort nazi où il a péri.

En 2016, la famille Reimann a commencé à faire faire des recherches sur ses liens avec les nazis. « Mais la famille Reimann ne s’est pas contentée de découvrir son propre passé. Les héritiers de l’entreprise étaient également soucieux de venir en aide aux survivants de la Shoah et, comme une leçon de l’histoire pour aujourd’hui, de promouvoir la démocratie et les droits de l’homme afin de préserver et d’étendre une société pluraliste », peut-on lire sur le site de la Fondation Landecker.

« Apprendre directement de l’humain »

La mission principale de la nouvelle fondation Landecker est de diffuser l’histoire de la Shoah et de lutter contre l’antisémitisme, en particulier sur Internet. Grâce au projet « Decoding anti-Semitism » de la fondation, un outil de détection open-source est en cours de création pour s’aligner sur les plateformes de médias sociaux, a déclaré le concepteur principal David Allington.

« Les efforts actuels de Facebook et Twitter pour combattre les discours de haine en ligne sont bien intentionnés mais ne répondent pas aux besoins », a déclaré M. Allington, maître de conférences en intelligence artificielle sociale et culturelle au King’s College de Londres.

« Là où notre approche diffère de celle de Facebook et Twitter, c’est que nous utiliserons non seulement l’intelligence artificielle mais aussi le soutien d’historiens, de linguistes et d’autres disciplines pour reconnaître les opinions [antisémites] », a déclaré M. Allington au Times of Israel.

La « complexité » de l’expression antisémite sur l’Internet exige une approche interdisciplinaire, a déclaré M. Allington. Par exemple, le Royaume-Uni a connu une recrudescence des « théories du complot » accusant les Juifs de créer et de diffuser la COVID-19. Une grande partie du langage et des images sont « codés », a déclaré le concepteur, et formulés en d’autres termes moins familiers.

Selon l’experte en IA Katie Hall, il existe des limites importantes lorsqu’il s’agit d’utiliser l’IA pour identifier et combattre les discours de haine. Certaines de ces limites proviennent des ensembles de données utilisés par les entreprises de haute technologie, a-t-elle déclaré.

« Les hommes et les femmes, les différentes races et les groupes ethniques se décrivent différemment », a déclaré Mme Hall. « Nous savons que ces différents groupes utilisent simplement le langage différemment, et la plupart des données historiques sont créées par des groupes spécifiques – les diplômés de l’enseignement supérieur et les blancs ».

En tant que fondatrice et PDG de Claira, le marché de l’embauche basé sur l’intelligence artificielle, Hall aide les entreprises à recruter des bassins de candidats plus diversifiés pour leurs postes.

« Nous essayons d’uniformiser les règles du jeu et de faire preuve de délibération et de prudence pour éliminer les préjugés », a déclaré Hall au Times of Israel.

Actuellement, les ensembles de données reposent largement sur l’analyse du texte, a déclaré Mme Hall. Peu d’algorithmes ont été formés avec, par exemple, des échanges audio ou des rencontres filmées. Cependant, a déclaré Mme Hall, il y a « un mouvement en cours pour intégrer la voix, la conversation et la vidéo dans les ensembles de données ».

Selon Hall, « il est nécessaire d’apprendre directement de l’humain. C’est le moment opportun maintenant – que nous voulions trouver un moyen de détecter les préjugés ou non. L’humanité est si variée, et les ensembles de données sont vraiment dépassés ».

« Combattre avec une main derrière le dos »

« Décoder l’antisémitisme » n’est pas la première tentative de lutte contre les discours de haine en ligne. Ces dernières années, des dizaines de fondations et d’organisations ont tenté de faire face à l’augmentation des discours de haine contre les Juifs et d’autres groupes.

« Quoi que fassent ces organisations, cela ne fonctionne pas », a déclaré Andreas Eberhardt, directeur fondateur et PDG de la Fondation Alfred Landecker.

« C’est pourquoi nous avons adopté une telle approche de collaboration et, dans les semaines, mois et années à venir, le partenariat verra des analystes du discours, des linguistes informatiques et des historiens se réunir, combinant leur expertise pour un objectif commun », a déclaré M. Eberhardt dans un entretien avec le Times of Israel.

« Une telle collaboration est la seule façon de progresser sur cette question et ne pas le faire serait comme se battre avec une main derrière le dos », a déclaré M. Eberhardt, qui a dirigé plusieurs fondations engagées dans les relations entre Juifs et Allemands et la mémoire de la Shoah.

Selon le professeur Allington, la plupart des diffamations contre les Juifs sur Internet sont « non sanctionnées ». Et avant que la diffamation puisse être sanctionnée – ou punie – elle doit être identifiée, a-t-il expliqué.

« Une fois que [le discours de haine] sera révélé, comme notre projet l’espère, alors l’ampleur du problème deviendra claire et les organisations qui sont en mesure de retirer ces contenus – les plateformes sur lesquelles ils sont postés – seront obligées d’agir et nous ferons pression sur elles pour qu’elles le fassent », a déclaré M. Allington.

Des attaques terroristes antisémites en France à la fusillade de la synagogue de Pittsburgh en 2018, les discours de haine en ligne peuvent conduire à la violence dans le monde réel.

« Nous constatons que les discours de haine en ligne et les crimes de haine sont, dans une certaine mesure, toujours liés », a déclaré Matthias J. Becker, linguiste à l’Université technique de Berlin et chef de projet pour le « décodage de l’antisémitisme ».

« Afin d’éviter que de plus en plus d’utilisateurs se radicalisent sur le web, il est important d’identifier les dimensions réelles de l’antisémitisme – en tenant compte également des formes implicites qui pourraient devenir plus explicites avec le temps », a déclaré M. Becker.