Des faux créés par l’IA ciblent la Shoah à des fins mercantiles ou révisionnistes

Ces derniers mois, l’équipe Factcheck de l’AFP a constaté la multiplication de ce type de tromperie sur les réseaux sociaux. Des experts de la Shoah s’inquiètent, car ces faux sapent la crédibilité de la réalité historique, que ce soit par motivation révisionniste ou par cupidité.

Parmi les photos créées par l’IA et ayant connu un succès viral, on trouve celle d’une fillette aux cheveux bouclés présentée comme étant Hannelore Kaufmann, une Berlinoise de 13 ans morte dans le camp d’extermination d’Auschwitz, dont on commémore la libération mardi. Or, aucune victime de ce nom n’y a été recensée.

Autre « AI slop », Hank, présenté comme un violoniste tchèque à Auschwitz, une publication dénoncée par le musée du camp.

Avec les progrès exponentiels de l’IA, « le phénomène s’amplifie », s’inquiète auprès de l’AFP Jens-Christian Wagner, historien à la tête de la fondation qui gère les sites de Buchenwald et de Mittelbau-Dora.

Fin 2025, « certains comptes publiaient des photos truquées à la minute », souligne Iris Groschek, historienne travaillant sur les lieux de mémoire de Hambourg, dont le camp de concentration de Neuengamme.

Alerte

Le 13 janvier, plusieurs mémoriaux et associations mémorielles ont donc alerté, dans une lettre ouverte, sur le « nombre croissant » de ces contenus « entièrement inventés ».

Ils évoquent deux types de motivations, l’une mercantile et l’autre politique, pour expliquer l’essor de ces publications.

D’un côté, des « fermes à contenus » qui « exploitent la charge émotionnelle de la Shoah » pour obtenir, à faible coût, « clics et recettes publicitaires ».

La fausse photo du prisonnier de Flossenbürg a par exemple été promue par un compte Facebook qui affirme « partager des histoires vraies, humaines, des chapitres les plus sombres de l’histoire ».

De l’autre côté, des faux destinés à « brouiller les faits historiques » et à « diffuser des récits révisionnistes », soulignent les signataires.

Jens-Christian Wagner cite l’exemple d’images de détenus « bien nourris, censées suggérer que les conditions dans les camps de concentration n’étaient, au fond, pas si mauvaises ».

La Shoah y est « niée et relativisée, les victimes sont tournées en ridicule », dénonce le centre éducatif Anne Frank, basé à Francfort.

Déformer l’Histoire 

En « déformant l’Histoire », ces images générées par l’IA ont « des conséquences très concrètes sur la représentation que les gens se font de la période nazie », souligne Iris Groschek.

Cela se ressent lors des visites des mémoriaux par de jeunes visiteurs, en particulier dans les régions rurales d’Allemagne de l’Est […] où la pensée d’extrême droite est devenue largement hégémonique », observe Wagner, qui dirige les sites de Buchenwald et de Mittelbau-Dora.

Remarques provocatrices, rires, poses irrespectueuses… Ces signes ‘de rejet’ sont le fait d’une minorité certes, mais celle-ci « se montre de plus en plus sûre d’elle », déplore-t-il.

Saluts hitlériens, graffitis de croix gammées… Iris Groschek a elle aussi constaté « une hausse [du nombre] des incidents » à Neuengamme.

Le monde occidental connaît une poussée de l’extrême-droite et de l’antisémitisme, y compris en Allemagne.

Les institutions mémorielles ont donc appelé les grands réseaux sociaux à travailler avec elles pour « combattre de manière volontariste » ces fausses informations et exclure des programmes de monétisation les comptes qui diffusent de tels contenus à des fins lucratives ou de propagande.

Le règlement européen sur les services numériques (DSA) « oblige les plateformes à assumer leurs responsabilités », rappelle le ministre allemand de la Culture, Wolfram Weimer, dans une réponse à l’AFP.

À la veille de la journée commémorative, aucun géant américain, notamment Meta (Facebook et Instagram), n’avait répondu aux mémoriaux. TikTok, le réseau social chinois, leur a en revanche dit vouloir exclure les comptes incriminés de la monétisation et mettre en place une « vérification automatisée », a déclaré Groschek à l’AFP.

En attendant, sur Facebook, des images d’Hannelore et Hank continuent de circuler, bien qu’il s’agisse de faux établis.