Une vidéo d’IA montrant un rabbin aspirant des pièces avec son nez devient virale
Les contenus antisémites générés par IA prolifèrent sur les réseaux sociaux, questionnant une nouvelle fois les modèles d’IA eux-mêmes, la modération des plateformes et la responsabilité des utilisateurs
- Lire d'autres articles du Times of Israël sur Google – ajoutez-nous à vos sources préférées
Les contenus à caractère antisémite, dont la diffusion est désormais amplifiée par le recours à l’intelligence artificielle, prolifèrent sur les réseaux sociaux. Dernier exemple en date : une vidéo représentant un rabbin caricatural aspirant des pièces avec son nez, dans une mise en scène évoquant un jeu vidéo.
La vidéo aurait massivement circulé sur la plateforme X, notamment grâce au relais d’un compte ayant généré plus de 160 000 vues. Selon plusieurs signalements en ligne, ce compte relaierait régulièrement des contenus reprenant des stéréotypes antisémites, tels que ceux du « juif banquier » ou du « juif radin ».
Des internautes ont notamment interpellé des institutions telles que la Police Nationale, des associations luttant contre l’antisémitisme ainsi que l’employeur du relais en question, l’appelant à « en tirer les conséquences ».
Le recours à l’intelligence artificielle pour produire des contenus antisémites semble se généraliser et reste très difficile à contenir. Nombreux sont ceux qui alertent régulièrement sur la facilité avec laquelle ces outils peuvent être utilisés pour générer des contenus reprenant des stéréotypes ou incitant à la haine.
La modération par les plateformes ainsi que la responsabilité des utilisateurs restent au cœur des débats. Au-delà de cela, les modèles d’intelligence artificielle eux-mêmes sont parfois pointés du doigt. Lors du lancement de son modèle d’intelligence artificielle, baptisé Grok, l’entreprise dirigée par Elon Musk avait fait l’objet de critiques pour la diffusion de contenus jugés problématiques, notamment en lien avec l’antisémitisme. L’entreprise avait par la suite présenté ses excuses, annonçant un renforcement de l’entraînement du modèle afin de limiter ce type de dérives.
Malgré ces ajustements, les critiques à l’égard de ce modèle persiste. Certes, le modèle ne fait plus l’éloge d’Hitler mais il aurait déclaré à un utilisateur que les chambres à gaz nazies n’étaient pas conçues pour des exterminations de masse, déclenchant une enquête des autorités françaises.
la Communauté du Times of Israël !