Les divagations imparfaites d’un rédacteur en chef sur l’IA, le journalisme et la disparition de la vérité

D’après ce que j’ai compris à ce moment-là, ils étaient parvenus à mettre au point un processus qui permettait de scanner la Toile, d’évaluer les articles les plus importants dans toute l’actualité mondiale, de synthétiser les contenus diffusés par d’autres médias et par d’autres rédacteurs sur les sujets les plus brûlants – autorisant leurs médias clients à produire rapidement et à moindre coût leurs « propres » versions des dits articles, sur la base d’une matière déjà exploitée ailleurs.

Un rédacteur en chef pouvait aussi adapter le produit aux besoins de son média – notamment en termes de style, de sérieux, d’orientation politique, etc.

Je souligne, une fois encore, que c’est ce que j’ai compris – et les deux hommes ont indiqué que le nombre de clients satisfaits ne faisait que croître. (C’était réellement une présentation à des fins d’information, nullement un cas de vente agressive – et nous n’avons plus jamais été en contact depuis). Mais peut-être ai-je mal compris. La vérité est que j’ai été si impressionné et horrifié par ce qu’ils étaient en train de dire que mon esprit s’est immédiatement concentré sur les conséquences dévastatrices qu’une telle technologie était susceptible d’entraîner pour le journalisme, pour la démocratie et, bien entendu, pour la vérité. Et j’avoue que cette préoccupation n’a fait que s’intensifier au cours de l’année qui a suivi.

La plus forte objection que j’ai pu soulever lors de notre conversation a été que cette technologie — comme c’est finalement le cas de toute technologie d’intelligence artificielle utilisée à cette fin – affecterait les ventes des informations et des articles de première main qui sont publiés sur internet. Tous les propriétaires de médias dont le profit est la première motivation – ou, tout du moins, ceux qui privilégient le profit au détriment de la fiabilité du contenu – pourraient bien vouloir remplir leurs publications, leurs sites web et leurs plateformes de réseaux sociaux d’informations apparemment crédibles, adaptées à leur lectorat, sans avoir à employer des journalistes et des rédacteurs compétents pour aller sur le terrain, pour observer, écrire, parler ou filmer.

J’ai également émis l’hypothèse qu’avec le temps, ce processus même de dépendance financière à l’égard de la synthèse personnalisée d’un contenu original par ailleurs élaboré par d’autres journalistes signifierait que de moins en moins de journalistes seraient employés pour produire du contenu original. Ainsi, les outils et la technologie d’IA scanneraient, résumeraient et remodèleraient un réservoir de plus en plus restreint de mots et d’images réels, rapportés par des êtres humains.

Et petit à petit, l’intelligence artificielle serait amenée à se contenter de régurgiter de nouvelles versions de ses propres contenus produits antérieurement – comme ces versions qui sont diffusées en ligne par un nombre croissant de médias qui ne s’adonnent plus réellement au journalisme de terrain. Et par extension, toute vision claire et précise d’un événement d’actualité original (Que s’est-il passé ? Où ? A qui ? Pourquoi ?) en viendrait à être de plus en plus déformée avant d’être complètement occultée. Autre conséquence, le fait qu’un nombre de moins en moins important d’actualités et autres événements de toute sorte seraient rapportés par un esprit humain réel.

En écrivant, je suis conscient que ce que j’évoque ressemble sans doute aux divagations incohérentes d’un rédacteur en chef vieillissant, à la tête d’un journal ou d’un site d’actualités. Je suis bien conscient du fait que mes inquiétudes peuvent s’avérer être d’une naïveté touchante, qu’elles peuvent peut-être ne pas être à la hauteur, trop tardives – ou largement déplacées. Peut-être qu’en fin de compte, la rigueur et la détermination du journaliste à relater les actions de l’humanité, la conviction de l’obligation d’informer le public de ce qui se passe afin de préserver le bien-être de la société, marginaliseront cette indifférence à l’égard des flux et de l’exactitude des faits qui peut être motivée par le profit. Mais à mon avis, les signes ne sont guère encourageants.

Il y a par exemple le fait que, ces derniers mois, le principal moteur de recherche sur Internet, Google – l’outil par lequel nous recherchons des informations – a encouragé la grande majorité des internautes en quête de nouvelles connaissances à utiliser en premier recours le « mode IA » – et le fait qu’une telle recommandation n’ait pas suscité d’inquiétudes à l’échelle mondiale. Il se trouve – pas toujours, mais c’est de plus en plus souvent le cas – en haut à gauche de la page de résultats Google, alors qu’il y a deux ans, les internautes étaient orientés vers des sites qui contenaient des informations apparemment originales, produites par des humains, bien fondées.

Une grande partie de l’humanité affiche sans doute un peu de méfiance à l’égard de l’utilisation de l’IA, s’agissant de rechercher des informations fiables. Un grand nombre d’usagers de la Toile savent que les chatbots IA tels que ChatGPT peuvent nous garantir que Donald Trump est l’ancien président des États-Unis, qu’ils peuvent produire des précédents juridiques qui seront invoqués par des avocats devant les tribunaux mais qui s’avèreront être fictifs, ou qu’ils pourront compiler les listes des meilleurs livres de l’année contenant des ouvrages qui n’ont jamais été écrits. Mais cette méfiance va s’estomper au fur et à mesure que la technologie s’améliorera et que la tentation d’accepter l’intelligence artificielle en tant que moyen simple, accessible en un clic et incontournable pour acquérir des connaissances augmentera.

Vous souvenez-vous de cette époque révolue – il y a environ cinq ans – où Wikipédia était considéré comme l’ennemi peu fiable de la recherche scientifique rigoureuse ? Aujourd’hui, c’est l’une des sources d’information les plus fiables, malgré les interminables guerres politisées sur l’exactitude de ses articles.

Pour en revenir au domaine personnel et journalistique, j’ai reçu, ces dernières semaines, des candidatures qui ne semblaient pas avoir été écrites par les postulants eux-mêmes – non pas parce qu’elles étaient plagiées, mais parce qu’elles avaient été compilées à l’aide de l’IA. Dans un cas, le candidat a précisé que c’était ce qu’il avait fait – témoignant d’une honnêteté rafraîchissante – mais ce qui n’a pas été très utile pour déterminer s’il était réellement en capacité de produire un travail original, rédigé de sa propre main.

De même, on m’a fait parvenir une Opinion qui était destinée à être publiée – article qui, selon les outils de détection de l’IA, était à 0 % d’origine humaine. Autrement dit, il a été généré par l’intelligence artificielle.

On m’a recommandé un article très long, qui a été publié dans une revue scientifique par une personne dont je connais bien les écrits. Après m’être brièvement émerveillé de l’amélioration extraordinaire des compétences de recherche et de rédaction de cette personne, j’ai assez rapidement estimé qu’il était tout simplement impossible que cette personne ait pu traiter le sujet abordé — qui venait tout juste de faire son apparition – avec un tel degré d’information, de références et d’éloquence, même en y consacrant des mois de recherche et de perfectionnement, sans avoir recours à l’IA.

Mais pourquoi tout cela a-t-il tant d’importance, allez-vous me demander ? L’IA est un outil incroyable et si, que ce soit dans le journalisme, dans la recherche universitaire et sans doute dans presque tous les autres domaines, elle a cette capacité d’ouvrir la porte à une plus grande rapidité, à une plus grande aisance, à une plus grande cohérence et à une plus grande réussite – avec peut-être une plus grande précision – il s’agit assurément d’une avancée positive.

Et c’est peut-être le cas, en effet… sauf que : N’y a-t-il pas de risque de réduire progressivement les compétences, la rigueur, la singularité et le souci de vérité de l’Humanité ?

Ces derniers jours et ces dernières semaines, ici, au ToI, nous avons également publié un article qui avait été fourni par une agence de presse et qui était consacré à la présence de soldats américains au siège de la coordination américano-israélienne à Kiryat Gat – article qui s’ouvrait sur une photo, provenant de la même agence, montrant un militaire américain en uniforme qui parlait à un journaliste, à Kiryat Gat, tout en mangeant un falafel. Une photo superbe. Seul problème : cette scène ne s’était jamais produite. La photo avait été générée par l’IA, comme le précisait la légende de l’agence. Je n’avais pas remarqué la légende avant que nous utilisions ce cliché. Une fois que nous l’avons repérée, nous l’avons retirée. (la photo a été publiée ailleurs, parfois sans légende.)

La photo elle-même avait été extraite d’une vidéo générée par l’IA qui avait été diffusée par le municipalité de Kiryat Gat sur TikTok. Une vidéo que nous avons conservée dans l’article, en la décrivant soigneusement – mais la municipalité semble n’avoir eu aucun problème à diffuser des contenus légers provenant de sa ville, présentant des choses qui ne s’étaient pas réellement passées.

Devons-nous nous en soucier ?

Et que penser de la polémique qui a éclaté, sur internet, concernant le regard que Miss Israël aurait lancé à Miss Palestine, sa rivale, lors d’un récent concours de beauté ? Une vidéo a semblé montrer notre Melanie Shiraz regardant d’un œil noir Nadine Ayoub lors de le la soirée Miss Univers en Thaïlande – elle a nié l’avoir fait. La vidéo a-t-elle été manipulée ? Se tenait-elle seulement à l’endroit où la séquence la montre, dans une position qui lui permettait de lancer ce regard mauvais ? Nous avons mis à jour notre article en tentant de mieux comprendre l’image qui nous avait été soumise.

En ce moment même, une vidéo incendiaire, falsifiée grâce à l’intelligence artificielle, circule en ligne. Elle montre des soldats israéliens brûlant un drapeau américain. La majorité des personnes ayant une connaissance même superficielle d’Israël et un minimum de bon sens peuvent douter, à juste titre, de sa véracité, supposant en conséquence qu’elle a été créée à l’aide de l’IA. Elles ne la prendront guère au sérieux. Mais ce n’est pas le cas de tout le monde. Et certains de ceux qui sont enclins à penser le pire d’Israël pourraient bien la ranger dans cette partie du cerveau qui forme et qui réexamine les croyances et les visions du monde.

Nous savons tous que le président Trump n’a pas déversé des eaux usées depuis un avion sur les manifestants lors du mouvement de protestation « No Kings », le mois dernier, pas plus qu’il n’a pris place sur une plage de la Riviera de la bande de Gaza, aux côtés du Premier ministre Benjamin Netanyahu, au mois de février dernier, malgré les vidéos générées par l’intelligence artificielle qui ont été diffusées à cet effet par la Maison Blanche. Mais c’est quand la frontière entre la réalité et la fiction générée par l’IA devient floue que les vrais problèmes commencent.

Plus haut, j’ai écrit que ce discours était décousu. Des personnes plus intelligentes que moi pourront mieux appréhender les implications du recul du journalisme original, du rétrécissement d’autres sources de sagesse et de connaissance, ainsi que les répercussions d’une propagation exponentielle de contenus peu fiables. Je fais donc de mon mieux pour tirer la sonnette d’alarme avec l’espoir que des esprits plus brillants s’emparent de cette problématique.

Dans mon journalisme, dans mon univers particulier, je constate un recul continu du reportage direct dans la mesure où, soyons honnêtes, c’est une tâche difficile et coûteuse. Il y a moins de journalisme d’investigation, un journalisme qui agit au nom de l’intérêt public, dénonçant la corruption. Il y a moins de journalistes aux réunions des conseils municipaux ou aux audiences des commissions parlementaires. Il y a moins de journalistes qui travaillent d’arrache-pied sur des données pendant des journées entières, pendant des semaines, pendant des mois au service de la démocratie. Il y a moins de relations entretenues avec les forces de l’ordre. Il y a moins de politiciens qui se sentent obligés de se soumettre à des rencontres difficiles avec des journalistes bien informés. Et il y a une utilisation croissante, de la part des médias, d’outils relevant de l’intelligence artificielle – non pas pour aider à éditer leur contenu, mais pour le produire.

Au-delà, je crains qu’il y ait désormais une incapacité croissante à faire la distinction entre ce qui est vrai et ce qui ne l’est pas sur les écrans de nos téléphones et de nos ordinateurs. Et, avec le temps, je crains que cette distinction n’entraîne que l’indifférence.

Je vois des gens appartenant à toutes les générations se tourner vers les réseaux sociaux, abandonnant le journalisme traditionnel, pour s’informer. Et je sais que les propriétaires des réseaux sociaux renonceront petit à petit à diffuser ne serait-ce que des brèves d’actualité auprès des usagers, les contenus « non factuels » pouvant se révéler être beaucoup plus provocateurs, captivants et rentables.

Je voudrais être sûr que de vastes ressources et de nombreuses intelligences se consacreront à cette question de l’utilisation de l’IA et d’autres technologies en développement à des fins positives – par exemple pour tracer la voie à suivre dans la lutte contre le réchauffement climatique, dans la résolution des conflits et ou dans la préservation de la vie humaine et de la planète.

Mais je crains que nous ne soyons en train de perdre notre capacité à établir la vérité sur ce qui se passe autour de nous. Et que nous soyons en passe de ne même plus essayer de la déterminer.

Cet article a été rédigé dans un état d’épuisement chronique – en conservant les phrases surchargées et les formulations idiosyncrasiques qui sont ma signature.