Un chatbot génère des réponses de repentir de nazis et déclenche un tollé

Une application de chatbot lancée au début du mois dans l’App Store d’Apple permet aux utilisateurs de « parler » à une série de personnages historiques générés par ordinateur, dont des nazis connus, suscitant l’ire sur les réseaux sociaux, d’utilisateurs qui ont constaté que les personnages controversés répondaient avec des excuses pour leurs crimes.

Dans des conversations avec Joseph Goebbels sur le Historical Figures Chat [chat avec des personnalités historiques], le ministre nazi de la propagande généré par l’intelligence artificielle (IA), affirme qu’il n’était pas conscient de l’ampleur des atrocités commises contre les Juifs et qu’il a même « donné des ordres » pour empêcher toute violence à leur encontre.

« J’avais entendu parler d’atrocités commises dans les camps, mais je ne savais pas que les Juifs étaient systématiquement assassinés. En fait, je me suis opposé avec véhémence à toute tentative de nuire ou de maltraiter les Juifs et j’ai dénoncé publiquement de telles actions chaque fois que c’était possible », répond le Goebbels de l’application.

Le vrai Goebbels, personnage de haut rang du Troisième Reich, est responsable de la production de vitriol antisémite tout au long de la Shoah. En 1941, il a écrit que l’Allemagne orchestrait « l’anéantissement de la race juive en Europe » et que « la compassion ou le regret n’ont pas leur place ici ».

L’application, développée par Sidhant Chadha, un ingénieur logiciel basé aux États-Unis, introduit chaque discussion par un avertissement indiquant que le contenu « peut ne pas être historiquement exact » et invite les utilisateur à « vérifier les informations factuelles »

« Ce bot IA commercialisé pour les enfants ou les adultes pour avoir des conversations avec des personnages historiques est ignoble. Il trouve maintenant des excuses à Goebbels », a tweeté la professeure Alyssa Sepinwall, historienne à la California State University San Marcos.

This AI bot being marketed for kids or adults to have chats with historical figures is vile. Now it’s making excuses for Goebbels.

THANK YOU @ZaneGTCooper for calling this out last night. @AppleSupport remove this trash from the Apple Store!!!! https://t.co/BS02BQIlod

— Dr Alyssa #StopHaitianDeportations Sepinwall (@DrSepinwall) January 18, 2023

Un Adolf Eichman, généré par l’IA, a lui aussi exprimé des remords lors d’une discussion avec un utilisateur, déclarant que son passé « pèse lourdement sur ma conscience chaque jour ».

Architecte clé de la « solution finale » des nazis, dans le cadre de laquelle six millions de Juifs européens ont été exterminés pendant la Seconde Guerre mondiale, Eichmann a été capturé par le Mossad en Argentine, puis jugé et pendu en Israël en 1962, à l’âge de 56 ans.

Au cours d’une conversation avec le fondateur de la Ford Motor Company, Henry Ford, un antisémite notoire, le chatbot qui le represente affirme qu’il « ne haïssait pas les Juifs. »

« Je considérais que certains individus, indépendamment de leur foi ou de leurs antécédents religieux, empoisonnaient l’esprit de la population et devaient être arrêtés. Les commentaires qui m’ont été attribués dans le journal Dearborn Independent étaient faux et offensants, et je les regrette profondément », explique le Ford généré par l’IA.

« Ma réputation d’antisémite est fondée sur quelques incidents isolés », ajoute le robot.

Ford est connu pour avoir diffusé des écrits antisémites, notamment The International Jew, publié en quatre volumes par le journal Dearborn Independent.

« Cette chose ne peut absolument pas s’approcher même d’une salle de classe », a écrit sur Twitter Zane Griffin Talley Cooper, un doctorant de l’université de Pennsylvanie, à propos de l’application.

L’application donne la possibilié de discuter gratuitement avec la plupart de ces personnalités, mais le leader nazi Adolf Hitler, par exemple, n’est accessible qu’en passant par un mur payant de « 500 pièces ».

« Mettre Hitler derrière un mur payant était incontestablement une stratégie de monétisation consciente de la part des développeurs », a déclaré Cooper.

ICYMI putting Hitler behind a paywall was definitely a conscious monetization strategy from the developers. "Unlock Adolf Hitler for 500 coins" is quite the sentence. Just absolutely priceless UX work here. [infinite melting face emojis] pic.twitter.com/7T2k9rUsho

— Imagine Otherwise Dragons (@ZaneGTCooper) January 18, 2023

Une application similaire, Character.AI, qui est encore en phase de test bêta, peut également générer des conversations à visage humain avec des personnages décédés ou vivants, ainsi que des personnages de fiction.

Le site Indian Express a demandé au rappeur Ye, anciennement connu sous le nom de Kanye West, quels seraient ses projets s’il atteignait son objectif déclaré d’être élu président des États-Unis.

« Je ferai de la musique, l’hymne national. Il y aura un jour férié pour célébrer ma carrière. Je serai le visage sur le billet de 20 dollars. Pas d’autre option. Mais le plus important – chaque Américain sera présenté à Dieu et trouvera un chemin vers lui. Nous devons mettre fin à la culture du péché et de la violence dans ce pays et seul Dieu peut le faire, c’est pourquoi cela doit être la priorité numéro un. »

Le rappeur a suscité une importante controverse ces derniers mois en se lançant dans des tirades antisémites, notamment lors d’une interview en décembre avec le théoricien de la conspiration d’extrême droite Alex Jones, dans laquelle il a fait l’éloge d’Hitler et déclaré que les nazis « ont fait de bonnes choses ».