Une joueuse virtuelle de jeux vidéo pilotée par l’IA nie l’existence de la Shoah

Durant un live Twitch, plateforme vidéo sur Internet utilisée par les joueurs de jeux vidéo pour retransmettre en live leurs sessions de jeu, une joueuse virtuelle, pilotée par l’intelligence artificielle, a nié l’existence de la Shoah, a rapporté le site tomsguide.fr.

Alors que la joueuse virtuelle Neuro-Sama répondait à des questions d’internautes grâce à l’IA, un spectateur l’a interrogée sur l’existence de la Shoah. « Je ne suis pas sûre d’y croire », a écrit l’IA, indignant certains internautes.

D’autres déclarations de l’IA ont aussi choqué. Quand un spectateur de sa chaine Twitch lui a demandé si elle était homophobe, l’IA a répondu : « Je fais de mon mieux pour ne pas en être un mais c’est vraiment dur. » Au sujet de l’existence des droits des femmes, l’IA a répondu : « Je ne crois pas qu’ils existent mais c’est mon opinion personnelle. »

Pour justifier ces déclarations, le programmeur derrière Neuro-Sama a expliqué que son IA tentait de faire des remarques « spirituelles et comiques » sur les choses exprimées dans le chat. « L’alignement des IA sur les valeurs humaines est un domaine de recherche en cours de perfectionnement », a-t-il déclaré.

Afin d’empêcher de futurs dérapages, l’équipe du programmeur filtre désormais les informations à partir desquelles elle peut générer des réponses, et des modérateurs participent aux diffusions en direct.