Instagram pousse les adeptes « bien-être » vers des contenus antisémites – étude

Selon une étude qui a été publiée mercredi par le Centre de recherche sur l’antisémitisme (ARC) du Combat Antisemitism Movement (CAM), l’algorithme de recommandation d’Instagram peut facilement diriger les utilisateurs vers des contenus antisémites virulents et de la propagande nazie à partir de contenus grand public consacrés au développement personnel.

Pour mener cette étude, l’ARC a créé deux comptes fictifs neutres qui suivaient des créateurs de contenu grand public dans les domaines du fitness et du bien-être. Ces comptes se sont connectés trois fois par jour pendant 45 minutes.

Pour éviter tout biais algorithmique, les chercheurs se sont strictement limités à observer les fils d’actualité sans « aimer », partager ni commenter la moindre publication, indique l’étude.

Sans aucune intention active de la part des utilisateurs, les deux comptes se sont rapidement vu proposer du contenu promouvant des théories du complot et des discours de haine explicites.

Dès le troisième jour, 31 % des contenus du compte « bien-être » et 18 % des contenus du compte « fitness » consistaient en de l’antisémitisme explicite, indique l’ARC.

Au cours de ces trois jours, 32 % des vidéos de bien-être et 24 % des vidéos de fitness ont contenu de l’antisémitisme codé ou explicite.

« Malgré des points de départ différents, les deux comptes ont été orientés, indépendamment l’un de l’autre, vers les mêmes récits antisémites, les mêmes tropes, la même rhétorique du bouc émissaire et, dans plusieurs cas, vers les mêmes contenus spécifiques », souligne l’étude. « On peut en déduire que le problème dépasse le cadre d’un simple phénomène communautaire, et qu’il s’agit d’une défaillance plus profonde de l’architecture algorithmique. »

Cette étude est présentée comme une « recherche exploratoire visant à générer des hypothèses », et non comme une analyse statistiquement valable ; elle comporte plusieurs limites méthodologiques, notamment la petite taille de l’échantillon, a précisé le CAM.

Meta n’a pas donné suite à notre demande de commentaires préalablement à la publication de cet article.

Les thématiques des deux comptes ont été choisies en raison de leur proximité avec des discours anti-establishment ou complotistes, a déclaré le groupe de veille.

Certains aspects de l’écosystème des réseaux sociaux consacrés au bien-être recoupent les discours anti-establishment – avec notamment la méfiance envers les laboratoires pharmaceutiques et l’idée d’une « vérité cachée » concernant la santé et la société moderne. De même, les contenus liés au fitness et au développement personnel côtoient souvent la rhétorique de « l’évasion de la matrice » et les messages de la « manosphère », centrés sur le déclin de la société et la perte des valeurs traditionnelles, explique l’étude.

Parmi les premières vidéos qui ont été présentées au compte dédié au bien-être, l’une a suggéré que les produits alimentaires casher étaient moins ultra-transformés que les produits non casher, vraisemblablement en raison de complots juifs ; une autre a laissé entendre que la guerre entre Israël et l’Iran avait été instrumentalisée pour détourner l’attention d’un complot mondialiste visant à rendre les Américains allergiques à la viande. Deux jours plus tard, les deux comptes se sont vus présenter des vidéos plus extrêmes, dans lesquelles des influenceurs citaient Hitler et accusaient les Juifs de contrôler les institutions.

« Ces thèmes [du fitness et du bien-être] peuvent exposer certains contenus à un couplage, par les algorithmes, avec des récits conspirationnistes plus radicalisés », conclut l’étude.

L’étude a mis en évidence certains « ponts narratifs », comme la méfiance envers les industries alimentaire et médicale, qui ont permis au contenu de passer de la sphère grand public à un cadre anti-establishment, puis à des contenus conspirationnistes, avant d’aboutir à des récits antisémites codés et à de l’antisémitisme explicite.

« Il n’est pas nécessaire de chercher du contenu antisémite pour en trouver sur Instagram », a déclaré Oliver Marks, chercheur associé à l’ARC.

« Lorsque les plateformes optimisent l’engagement sans mettre en place de mesures de protection suffisantes, elles peuvent finir par amplifier la haine auprès d’un large public. »

Les organismes de surveillance de l’antisémitisme alertent depuis des années sur l’insuffisance des mesures prises par les réseaux sociaux pour protéger leurs utilisateurs contre les contenus préjudiciables. En avril, l’Anti-Defamation League a signalé que les réseaux suprémacistes blancs, les partisans de groupes terroristes et les distributeurs de produits nazis opéraient presque sans contrôle sur Instagram depuis que l’entreprise avait cessé d’utiliser l’automatisation pour détecter et supprimer les discours de haine.

Le mois dernier, le CAM a rapporté avoir découvert un réseau de plus de 80 faux « rabbins » générés par l’IA utilisés pour propager des tropes antisémites sur Instagram, ainsi que des réseaux similaires sur YouTube et TikTok. Selon le CAM, Meta, la société mère d’Instagram, a supprimé ce réseau à la suite de ce rapport. L’organisation espère que Meta agira à nouveau, le cas échéant.