Des entreprises israéliennes testent des bots basés sur l'IA pour les réseaux sociaux - NYT

Selon un article sur les tentatives d'influence de la Chine et de l'Iran, deux sociétés israéliennes ont utilisé des modèles open source pour créer de faux comptes ; l'une invoque des recherches sur les outils de lutte contre la désinformation

Lire d'autres articles du Times of Israël sur Google – ajoutez-nous à vos sources préférées

Deux entreprises privées israéliennes ont utilisé des modèles d’IA open source pour conduire ou simuler des campagnes d’influence sur les réseaux sociaux, a rapporté vendredi le New York Times, dans un article qui faisait également état de l’utilisation de cette technologie par les gouvernements iranien et chinois.

L’une de ces entreprises, IntelEye, a expliqué que son activité, qui concernait la politique intérieure israélienne à l’approche des élections d’octobre, s’inscrivait dans le cadre d’une expérience de recherche visant à renforcer les défenses contre la désinformation. Maor Sellek, l’un des cofondateurs de l’entreprise, a indiqué qu’IntelEye avait fait appel à la société chinoise d’IA DeepSeek pour mener cette expérience.

« IntelEye ne mène pas de campagnes d’influence », a déclaré Sellek au Times. « Notre collaboration avec DeepSeek s’inscrivait dans le cadre de recherches et de tests défensifs. Notre objectif était de comprendre comment des modèles dotés de mesures de sécurité insuffisantes pouvaient être détournés, et d’améliorer la détection de ce type d’activité. »

Cette campagne, qui aurait attiré l’attention des services de renseignement américains en début d’année, a vu des agents IA gérer près d’un millier de comptes sur les réseaux sociaux, diffusant du contenu et répondant à d’autres utilisateurs.

Le Times a noté que certains des bots d’IntelEye publiaient des messages en faveur du Premier ministre Benjamin Netanyahu, tandis que d’autres s’exprimaient contre lui.

L’autre campagne israélienne mentionnée dans l’article a été présentée par Meta le mois dernier comme une « opération commerciale basée en Israël » utilisant une « configuration assez sophistiquée », a fait savoir le Times.

Aucun détail supplémentaire n’a toutefois été fourni sur cette initiative, notamment le nom de l’entreprise ; le Times ne semblait disposer d’aucune information indépendante concernant cette campagne.

Des personnes discutant près d’un panneau Meta à l’extérieur du siège de la société, à Menlo Park, en Californie, le 7 mars 2023. (Crédit : Jeff Chiu/AP)

Dans cet article, les initiatives israéliennes en matière d’IA sont abordées en parallèle des campagnes d’influence menées sous l’égide de l’État par l’Iran et la Chine.

Ces campagnes, tout comme leurs homologues israéliennes, ont tiré parti d’une technologie d’IA chinoise open source pour créer des agents capables de publier des contenus de manière autonome, sans intervention humaine significative.

Selon l’article, ces initiatives ont été repérées par les services de renseignement américains, ainsi que par les plateformes de réseaux sociaux.

La campagne iranienne – déjà évoquée par Axios – a été jugée « particulièrement inquiétante » par les responsables et les chercheurs, a précisé le Times. Quelque 80 000 personnes suivaient ces comptes générés par l’IA, qui se faisaient passer pour de simples Américains dans le but d’influencer l’interprétation de l’opinion publique par les journalistes et les responsables politiques.

En janvier, la chaîne N12 a rapporté que près de la moitié des comptes politiquement actifs sur les réseaux sociaux israéliens étaient des bots. Une situation similaire serait observée dans d’autres pays à travers le monde, selon la chaîne.