L’intelligence artificielle, la clé de la lutte contre la haine ?
Le PDG de Google espère que l'IA puisse aider à localiser un discours problématique, mais les questions de censure persistent

Au début du mois d’octobre, l’Anti-Defamation League a publié une liste des « meilleures pratiques » pour lutter contre la propagande haineuse sur Internet.
Sobre et sérieuse, elle comprend des suggestions comme « Partager les connaissances et aider à développer des matériaux et des programmes éducatifs qui encouragent la pensée critique tant dans l’activité en ligne proactive que réactive » et « répondre aux signalements des utilisateurs en temps opportun ». Il conseille même d’essayer « la comédie et la satire, le cas échéant ».
Eric Schmidt, le PDG de Google, espère qu’il pourra y avoir un jour une option plus intéressante pour traiter des discours de haine : l’intelligence artificielle (IA).
« Les systèmes d’IA peuvent finalement nous permettre de mieux privilégier et de mieux comprendre comment classer et traiter un discours nuisible, » a declaré Schmidt à JTA dans un entretien téléphonique.
Schmidt, qui a été nommé vendredi dernier pour le Prix ADL de leadership international, a affirmé que la philosophie actuelle de Google pour son moteur de recherche est de mettre en miroir ce qui est disponible sur l’Internet aussi précisément que possible.
Les recherches Google sont basées sur un algorithme dont le contenu est neutre, de sorte que les discours de haine constituent un changement.
« C’est une ligne très serrée à suivre, parce que nous sommes contre le filtrage et nous sommes contre la censure, il faut donc être prudent », a précisé Schmidt.
Selon Schmidt, même sans robots invisibles anti-haine, il est plus facile avec Internet de suivre et de lutter contre la haine – et d’identifier les gens haineux, si nécessaire – et c’est donc un plus grand outil pour vaincre la haine plutôt que la diffuser.
Bien sûr, l’identification des discours de haine par ordinateur sera beaucoup difficile étant donné la façon dont souvent les humains ne s’entendent pas sur ce qui est ou n’est pas haineux.
Et étant donné la prévalence des préoccupations existantes quant à la confidentialité et le suivi, les moteurs de recherche améliorés par l’intelligence artificielle vont probablement ajouter une autre couche de complexité à ces débats, plutôt que de les résoudre.
Qui sait ? Ils peuvent même fournir matière à la comédie et à la satire. Le cas échéant, bien sûr.