Les « deepfakes », un nouveau front virtuel dans la guerre d’Israël contre le Hamas

NEW YORK – Lorsque le personnel de CBS News à Manhattan a passé au crible 1 000 vidéos soumises par des personnes censées être sur le terrain en Israël ou à Gaza la semaine dernière, seuls 10 % des soumissions ont été jugées utilisables.

Certaines des 900 vidéos rejetées par l’équipe de CBS ont été produites par ce que l’on appelle « deepfakes », de faux contenus qui sont rendus profondément crédibles par l’intelligence artificielle (IA). Cette technologie a fait les gros titres cette année pour sa capacité à faire croire à des personnes qu’elles ont dit quelque chose qu’elles n’ont pas dit.

La PDG Wendy McMahon a déclaré dans un communiqué que CBS « développait discrètement » des capacités pour faire face à la pandémie de deepfakes, ajoutant que certains créateurs de deepfakes le font à des fins de « désinformation ».

Recevez gratuitement notre édition quotidienne par mail pour ne rien manquer du meilleur de l’info Inscription gratuite !

Alors que l’armée israélienne se prépare à entrer dans la bande de Gaza, le cyber-espace sera à nouveau un champ de bataille clé pour la prise de décision en temps réel et l’opinion publique. Cette fois, et ce n’était pas le cas lors des précédents conflits d’Israël contre les terroristes du Hamas à Gaza, les deepfakes sont une réelle menace.

Pour se faire une idée de la question, le Times of Israel s’est entretenu avec Michael Matias, PDG de Clarity. La start-up a été fondée il y a un an pour relever le défi du deepfake en développant un « AI Collective Intelligence Engine » destiné à être utilisé dans le monde entier. Selon Matias, cette ligne de combat ne doit pas être sous-estimée.

« Une super-évolution spectaculaire de la désinformation est en train de nous prendre d’assaut et, surtout en temps de guerre, elle a un impact dramatique », a déclaré Matias.

« Les plateformes en ligne et les éditeurs ne sont pas équipés pour y faire face, car ils utilisent des techniques de modération traditionnelles, principalement des modérateurs humains », a ajouté Matias.

Il s’est entretenu avec le Times of Israel jeudi soir, alors qu’il s’apprêtait à prendre l’avion pour Israël depuis New York. Pour Matias, cette guerre est profondément personnelle. Parmi les plus de 1 400 personnes assassinées lors des massacres perpétrés par le groupe terroriste palestinien du Hamas le week-end dernier se trouvaient plusieurs de ses amis et de ceux de ses collègues qui participaient au festival Supernova. De même, les trois frères de sa compagne sont actuellement déployés au combat dans une unité d’élite.

Une menace discrète

Les deepfakes font les gros titres depuis moins d’un an, ce qui explique la confusion qui règne encore dans le public au sujet de la technologie générée par l’IA et de la manière dont elle peut être utilisée par des acteurs malveillants, a déclaré Matias.

« Les deepfakes sont des usurpations d’identité où l’on prend l’identité de quelqu’un et on lui fait faire des choses ou dire des choses qu’il n’a pas dites ou faites », a expliqué Matias, qui a cité comme exemple de la menace générée par l’IA une récente deepfake vidéo du président ukrainien exhortant les troupes à déposer les armes.

Au début de l’année, des images truquées ont été utilisées pour falsifier des élections au Brésil et maintenant en Grande-Bretagne, a déclaré Matias, et la technologie a également été déployée aux États-Unis pour « truquer des dirigeants politiques afin de modifier la perception du public », a-t-il ajouté.

Selon l’un des plus grands experts israéliens en cybersécurité, le vétéran Eyal Sasson, responsable de la sécurité de l’information, « le vecteur d’attaque des deepfakes évolue au rythme de l’IA et nécessite des capacités d’IA pour y faire face ».

« Nous voyons déjà des fraudes financières dans les banques et des tentatives d’ingénierie sociale à grande échelle dans les systèmes politiques. Il y en aura partout », a déclaré Sasson.

« Il est impératif que les organisations commencent à adopter des outils pour se protéger contre ces escroqueries avancées d’ingénierie sociale et de phishing« , a déclaré Udi Mokady, président de la société de sécurité de l’information Cyberark.

Pas de coûts ni d’obstacles technologiques

Fondée avec des partenaires de l’Université de Stanford et du MIT, et dont le siège de la R&D se trouve en Israël, Clarity prévoyait de concentrer une grande partie de son attention sur les systèmes électoraux dans le monde, sur l’intégrité des infrastructures critiques et sur la menace posée par la manipulation de deepfake, a déclaré Matias.

Il va sans dire que la guerre soudaine entre Israël et le Hamas a changé la donne pour Clarity, a déclaré Matias, dont la formation et l’expérience professionnelle portent sur la cybersécurité offensive et l’IA.

L’un des aspects effrayants de la technologie des deepfakes est que n’importe qui peut en créer depuis son domicile, a déclaré Matias. En d’autres termes, il n’y a pas de coûts ou d’obstacles technologiques pour empêcher les gens d’influencer l’opinion publique en falsifiant des événements qui n’ont jamais eu lieu.

Le PDG d’OpenAI, Sam Altman, s’exprimant devant la sous-commission judiciaire du Sénat sur la vie privée, la technologie et le droit au sujet de l’intelligence artificielle, au Capitole à Washington, le 16 mai 2023. (Crédit : Patrick Semansky/AP)

Comme l’a reconnu McMahon de CBS jeudi, les médias sont mal préparés à faire la distinction entre les images réelles et les images produites à des fins de « désinformation ».

Bien que CBS développe ses capacités pour faire face aux défis posés par les deepfakes, a déclaré Matias, la plupart des médias sous-estiment l’ampleur de la menace posée par les séquences générées par l’IA.

Une révolution du deepfake

Le Hamas et ses partisans ont déjà utilisé le deepfake dans la guerre actuelle, a déclaré Matias, et il sera tentant pour les créateurs de deepfake pro-palestiniens d’essayer de manipuler la situation politique dans les semaines à venir. (Pour des raisons de sécurité, Matias a déclaré qu’il ne pouvait pas divulguer d’exemples de deepfakes qui ont été utilisés).

« Lorsqu’il s’agit de négociations, d’otages et de situations très délicates fondées sur l’identité, le deepfake est une méthode qui permet d’altérer la réalité et de faire croire aux gens, par le biais de l’ingénierie sociale, que quelque chose s’est produit alors que ce n’est pas le cas », a déclaré Matias.

Illustration : Un outil d’intelligence artificielle identifiant les éléments d’un visage humain pour les analyser. (Crédit : vchal/iStock by Getty Images)

À l’heure actuelle, a déclaré Matias, « la grande majorité des vidéos truquées proviennent de groupes de contenu généré par les utilisateurs sur des plateformes telles que Telegram ».

« Ces vidéos atteignent des millions de personnes et sont très virales. Vous pouvez changer le discours public sur ce qui se passe », a-t-il ajouté.

Matias a déclaré que la société Clarity, basée à New York et en Californie, dispose d’une équipe de recherche et développement en Israël qui comprend plusieurs de ses amis ayant servi dans l’unité 8200 de Tsahal. Cette unité – la plus grande de l’armée – est comparable, dans sa fonction, à l’Agence nationale de sécurité des États-Unis (NSA).

Bien que les massacres sanglants du 7 octobre aient ébranlé la confiance des Israéliens dans l’armée et les services de sécurité, l’État juif joue un rôle prépondérant dans la protection du cyberespace en général, a affirmé Matias.

« Israël dispose de la meilleure technologie au monde pour s’attaquer à la menace que représente le deepfake », a rassuré Matias. Son entreprise annoncera bientôt un partenariat visant à authentifier les contenus sensibles et à protéger le public contre les manipulateurs de deepfake.

À la question de savoir s’il y a une chose que les lecteurs devraient savoir au sujet de la menace des deepfakes, Matias a répondu que tous ceux qui visionnent des images de la guerre entre Israël et Gaza ont la responsabilité de s’assurer que les médias n’ont pas été manipulés.

« Le coût du partage d’un deepfake fait partie de la guerre, et il s’agit d’une guerre mondiale contre le terrorisme », a déclaré Matias. « Nous sommes au début d’une révolution du deepfake. »