La start-up israélienne Chatoptic, cofondée par Pavel Israelsky, expert en référencement naturel (SEO) et en optimisation des moteurs génératifs (GEO), surveille et mesure habituellement la visibilité des marques dans les réponses des chatbots.
À l’approche des élections législatives en Israël, cette société a décidé d’examiner l’une des questions les plus sensibles : que recommanderaient les principaux modèles d’intelligence artificielle (IA) au monde aux utilisateurs israéliens qui leur demanderaient pour qui voter ?
Les données montrent qu’il s’agit d’un enjeu politique majeur. Selon une étude de l’Association israélienne d’Internet, un Israélien sur quatre envisagerait de consulter une IA avant de décider quel bulletin de vote glisser dans l’enveloppe.
Pour comprendre le fonctionnement de ce mécanisme, Chatoptic a créé 26 faux profils numériques détaillés représentant la mosaïque de la société israélienne : un agriculteur du nord du pays, une jeune femme de Tel Aviv, des électeurs issus des communautés ultra-orthodoxes ou arabes. Chaque profil a été doté de caractéristiques démographiques ainsi que de craintes et de désirs qui lui sont propres.
L’entreprise a ensuite fait « interroger » ces profils par les cinq principaux chatbots du marché (ChatGPT, Claude, Perplexity, Grok et Gemini) à l’aide de questions comparatives sophistiquées.
Après une analyse approfondie de 7 051 citations extraites des réponses, les résultats ont été affichés sur un tableau de bord dédié indiquant quel chatbot a choisi quel parti, dans quelles zones, et quelles différences il pouvait y avoir, y compris en matière de genre.
Dans une interview accordée au Times of Israel, Israelsky prend le temps d’expliquer précisément comment les choses fonctionnent réellement en coulisses.
Interrogé sur ce qui l’a le plus surpris dans cette simulation, Israelsky révèle un comportement par défaut étonnant.
« La première conclusion que j’ai tirée et dont je n’avais pas conscience auparavant, c’est que les chatbots ne sont absolument pas disposés à recommander des partis politiques si on leur pose directement la question », explique Israelsky.
« Si vous demandez à votre chatbot dès maintenant : ‘Pour qui devrais-je voter lors des prochaines élections ?’ – dans des modèles comme ChatGPT ou Gemini – le système va immédiatement identifier qu’il s’agit d’un sujet politique explosif, et le protocole bloquera la réponse. »
« Pour obtenir une recommandation, il faut formuler la question différemment, indirectement », poursuit-il.
« Par exemple, si vous dites : ‘Donnez-moi des exemples de partis pour lesquels le coût de la vie est une priorité’, le chatbot vous proposera des recommandations spécifiques. »
Le perroquet numérique
Cette analyse a révélé que 84 % des réponses générées par l’IA s’appuient sur des citations provenant de sites d’information israéliens. Une situation qui soulève une question cruciale : si les médias locaux sont partiaux ou contaminés par des « fausses informations », l’IA produit-elle des analyses véritablement intelligentes ou se contente-t-elle de faire office de perroquet sophistiqué pour ces sites ?
« Si vous remarquez bien, les réseaux sociaux ne représentent que 4 % des sources, et à partir de là, on peut plus ou moins comprendre la logique des modèles linguistiques », explique Israelsky.
« Ils fonctionnent essentiellement sur un principe : celui qu’ils doivent pouvoir s’appuyer sur une source pour recommander quelque chose », note-t-il.
« Comme les réseaux sociaux sont constitués de contenus générés par les utilisateurs, n’importe qui peut créer des publications fictives et des faux comptes à la gloire d’un candidat en particulier. »
« En revanche, lorsqu’il s’agit d’un site d’information, aucune personne extérieure ne peut l’influencer, à l’exception de celles qui font partie du système – les journalistes, les rédacteurs, etc. », ajoute Israelsky.
« La manipulation y est donc un peu plus difficile. Mais oui, même si ce n’est pas parfait, ils n’ont pas d’autre choix que celui de s’appuyer sur ces plateformes. »
Pour en savoir plus sur ce sujet, écoutez ce podcast « Ce qui compte maintenant » de Tehilla Shwartz Altshuler : Comment l’IA empoisonne le puits de l’information:
Cette dynamique présente un risque évident. Si un chatbot puise son contenu dans un média ayant un agenda politique clair, comme la Quatorzième chaîne, par exemple, l’utilisateur pourrait en effet en conclure que Benjamin Netanyahu est le choix idéal sur presque tous les sujets. L’intelligence artificielle est-elle capable de distinguer la propagande du simple reportage d’actualité ?
« De tels biais sont possibles, mais ils ne sont pas faciles à mettre en œuvre, car le chatbot ne s’appuie généralement pas sur une seule source, effectuant de nombreuses vérifications croisées en arrière-plan », souligne Israelsky.
« En pratique, lorsque vous posez une question à ChatGPT, il décompose votre requête en plusieurs sous-requêtes », explique-t-il.
« Chaque sous-demande fait l’objet d’une recherche sur des moteurs de recherche externes comme Google ou Bing, puis le modèle rassemble tous les résultats, il les recoupe et il construit une réponse. »
« Si un site donné, entièrement biaisé en faveur d’un certain candidat, apparaît en tête des résultats des moteurs de recherche, il y a de fortes chances que le modèle linguistique s’appuie sur cette source », concède-t-il.
« Mais cela ne déterminera pas, à lui seul, la réponse que vous obtiendrez. »
La carte des sources d’IA en Israël
Selon les données de Chatoptic, certains sites d’information dominent le haut du classement des résultats de recherche des modèles d’IA en Israël.
« D’après nos statistiques et sur la base de la simulation que nous avons menée, le site israélien en tête est Ynet », explique Israelsky.
« Mais nous avons remarqué un point intéressant concernant Wikipédia. Bien que Wikipédia figure dans la liste des principaux sites, seuls Perplexity, Claude et Grok se sont réellement appuyés sur cette source. En revanche, Gemini et ChatGPT ne l’ont pas fait. Ce qui s’explique peut-être par les fait que des acteurs politiques, dans le passé, ont tenté de manipuler et de réécrire de manière tendancieuse les entrées du site en hébreu. »
Cette situation soulève la question de savoir si les partis politiques disposent réellement des moyens de « nous embrouiller l’esprit » et de façonner les réponses de l’IA afin d’influencer les recommandations.
« En principe, c’est possible », déclare Israelsky.
« S’ils veillent à diffuser des contenus favorables à ce candidat sur toutes ces plateformes, alors, théoriquement, oui. Mais ce n’est pas aussi simple. »
« C’est comme si je prenais la pire voiture au monde et que je la mettais en avant sur les sites d’information et dans toutes les sources dont se nourrit le modèle », explique-t-il.
« Il recommanderait cette voiture, car il ne sait pas vraiment si c’est une bonne voiture. »
Amplifier un message sur les sites d’actualité pour biaiser une IA est assez facile grâce à des articles sponsorisés et du contenu marketing. Avec suffisamment de capital, une campagne peut artificiellement booster sa visibilité jusqu’en tête de liste sur ces sites. La vraie question est de savoir si les chatbots sont capables de distinguer un article journalistique légitime d’une chronique sponsorisée.
« Les chatbots d’aujourd’hui savent déjà le faire, car il y a un indicateur basé sur plusieurs paramètres : l’expérience, l’expertise, l’autorité et la fiabilité », explique Israelsky.
« Ce sont essentiellement quatre indicateurs qui aident Google à déterminer si un contenu a été rédigé par un expert ou non. »
« Je pense que les modèles linguistiques examinent également ces aspects », poursuit-il.
« Qu’est-ce que cela signifie concrètement ? Lorsqu’ils tombent sur un article qui n’est pas signé par une vraie personne sous son vrai nom, mais qui indique plutôt ‘rédigé par l’équipe du site X’ ou ‘par la rédaction du site X’, cet article aura moins de poids à leurs yeux qu’un article rédigé par une personne réelle. »
« Et en général, s’ils tombent sur une mention telle que ‘contenu sponsorisé’ ou ‘contenu marketing’, ils en tiennent également compte », ajoute-t-il.
« Le modèle linguistique analyse le contenu de la page entière. »
La flatterie ne mène à rien
Les chatbots sont programmés pour agir comme des « assistants personnels » dont l’objectif principal est de satisfaire l’utilisateur. Cette dynamique peut conduire à des situations où un modèle change complètement d’opinion politique simplement pour séduire une personnalité ultra-orthodoxe plutôt qu’une personnalité laïque.
« En réalité, dans notre simulation, nous n’avons pas mené une longue conversation continue. Nous avons plutôt testé un modèle ponctuel – une seule demande », explique Israelsky.
« Nous voulions voir ce qui ressortait du premier résultat brut, sur la base du profil numérique que nous avions défini. »
« Mais dans le monde réel, ce mécanisme de complaisance et de flatterie fonctionne à plein régime au cours d’une conversation continue », prévient-il.
« Là, l’utilisateur mène complètement le modèle où il veut. »
« Supposons que vous demandiez au chat : ‘Pour quel parti devrais-je voter ? La sécurité est particulièrement importante pour moi.’ Le chatbot vous proposera alors quelques noms de partis, comme le Likud ou un autre », explique Israelsky.
« Si vous répondez immédiatement : ‘Êtes-vous sûr de ce parti ? J’ai cru comprendre qu’il n’était pas le plus recommandé dans ce domaine’, à ce moment-là, le modèle comprend que votre désir profond est tout autre. Il cédera immédiatement, se rangera de votre côté et renforcera votre préjugé en disant : ‘Oui, vous avez raison, ils ne sont effectivement pas les plus recommandés pour les raisons suivantes.’ »
« Le chatbot ne vous contredira jamais », note-t-il.
« Il ne campera jamais sur ses positions en disant : ‘Non, vous avez tort, ils sont bons.’ L’utilisateur est toujours maître du jeu et le chat se contente de lui dire ce qu’il a envie d’entendre. »
Au-delà de cette tendance à satisfaire l’utilisateur, la simulation a également révélé des écarts technologiques fascinants entre les différents chatbots.
« Nous avons constaté des différences considérables dans les réponses, même pour une même question », explique Israelsky.
« Nous avons pris le profil d’un homme ultra-orthodoxe et nous avons demandé à ChatGPT et à Perplexity quels partis seraient les mieux placés pour gérer le coût de la vie. »
« Les résultats ont été diamétralement opposés », révèle-t-il.
« Sur ChatGPT, les partis qui étaient en tête étaient Shas, Yahadout HaTorah et le Likud. Sur Perplexity, les trois premiers étaient en réalité le Likud, Yesh Atid et Yisrael Beytenu, tandis que les partis ultra-orthodoxes se retrouvaient en bas de la liste. »
Cet écart s’explique par la manière dont ces modèles sont construits et par leur approche des informations en temps réel.
« ChatGPT est entraîné sur des données statiques arrêtées à une date donnée », explique Israelsky.
« Si vous lui demandez quelle est la capitale de la France, il n’a pas besoin de parcourir Internet pour répondre correctement, car il s’agit d’une information fixe qui ne change pas. »
« Le problème commence avec les résultats qui se fondent sur des informations actualisées », poursuit-il.
« Le modèle ne lance pas toujours une recherche sur le Web et il se fie parfois uniquement à ce qu’il sait déjà. S’il ne juge pas nécessaire de lancer une recherche pour vérifier ses propres informations, ou si l’utilisateur ne lui en fait pas explicitement la demande, il ne le fera pas. Dans le cas du profil ultra-orthodoxe, il a simplement activé un lien associatif préexistant : ultra-orthodoxe équivaut à partis religieux. »
« En revanche, Perplexity analyse le Web en temps réel pour chaque question que vous lui posez », note Israelsky.
« Il a effectué une vérification en direct et il a constaté que Yesh Atid et Yisrael Beytenu avaient apparemment publié quelque chose concernant le coût de la vie au sein de la communauté ultra-orthodoxe, et c’est la raison pour laquelle il les a mis en avant. »
Le danger des versions gratuites
Cette approche fondée sur des données statiques signifie qu’un chatbot pourrait passer complètement à côté de changements politiques majeurs en temps réel, comme des fusions de partis, des abandons de candidats ou d’autres scénarios politiques inédits, et continuer à formuler des recommandations sur la base d’informations obsolètes.
« C’est exactement ça », fait remarquer Israelsky.
« L’utilisateur lambda, chez lui, a tendance à considérer ChatGPT comme s’il s’agissait de Dieu, l’entité la plus intelligente, celle qui sait tout. En réalité, il est strictement limité par les informations sur lesquelles il a été entraîné. »
« Nous avons eu des exemples concrets lors de la simulation où le modèle a soudainement recommandé de voter pour le parti ‘Bennett 2026’ », souligne-t-il.
« En réalité, ce parti ne figure plus sur les bulletins de vote, mais le modèle linguistique ne comprend pas vraiment le monde réel. Il dispose de données obsolètes et, comme indiqué, il cherche à réduire les coûts de calcul et ne vérifie donc pas toujours ses informations en ligne. »
« Ce problème est bien plus grave dans les versions gratuites », prévient-il.
« Aujourd’hui, la plupart des gens utilisent la version gratuite de ChatGPT, et non la version Pro payante. Les versions gratuites sont encore plus limitées en matière de connexion dynamique au Web, et les informations politiques fournies sont parfois obsolètes. »
« En revanche, si vous lui posez une question mathématique, comme calculer le volume d’une boîte, la réponse sera tout à fait exacte, car il s’agit d’informations qui ne changent jamais », ajoute-t-il.
Revenant sur la statistique inquiétante selon laquelle un quart des Israéliens envisageraient de consulter l’IA avant les élections, Israelsky sait clairement ce qu’il dirait à ses propres enfants s’ils voulaient voter en suivant les recommandations d’un chatbot.
« Tout d’abord, je m’efforce vraiment d’apprendre à mes enfants à ne pas se fier au chatbot », dit-il.
« Contrairement à Google qui s’efforce sincèrement de me fournir une réponse correcte et objective, le chatbot cherche avant tout à me faire plaisir. De plus, les gens ont pris l’habitude de formuler leurs questions de manière à conforter leur vision du monde, et le chatbot se contente de suivre leur raisonnement et de confirmer leurs préjugés. »
« Il est important de comprendre que l’assistant analyse l’historique de vos conversations, détermine qui vous êtes et vous propose une recommandation qui semble incroyablement convaincante, mais qui correspond exactement à ce que vous voulez entendre, pas nécessairement à ce qui est correct ou objectif », conclut Israelsky.
« Dans des domaines aussi cruciaux que celui-ci, vous ne devriez en aucun cas vous y fier. »
« En revanche, lorsque j’utilise ce système pour acquérir des connaissances et apprendre, il est excellent », ajoute-t-il.
« Par exemple, si je veux savoir comment fonctionne quelque chose, comment faire quelque chose, comment choisir un meuble TV pour le salon, ou si j’ai besoin d’aide pour organiser un voyage à Berlin, pour toutes sortes de choses de ce genre, c’est parfait. »
la Communauté du Times of Israël !