Une startup israélienne reçoit des fonds pour concevoir une défense aux cyber-menaces propulsées par l’IA

La startup israélienne Pillar Security a lancé mercredi une plateforme qui vise à sécuriser les systèmes logiciels intégrés à l’intelligence artificielle (IA), comblant ainsi les lacunes croissantes en matière de surveillance et de protection, alors que les outils de cybersécurité traditionnels prennent du retard.

La startup basée à Tel Aviv a déclaré avoir levé 9 millions de dollars de financement pour étendre ses opérations de recherche et de développement et pour tripler ses effectifs, projetant de passer de 10 à 30 employés d’ici la fin de l’année.

La levée de fond a été menée par Shield Capital, un fonds de capital-risque qui compte parmi ses partenaires Dan Caine, récemment nommé président de l’état-major interarmées des États-Unis et principal conseiller militaire du président américain Donald Trump. Parmi les autres investisseurs ayant participé au financement figurent Golden Ventures, Ground Up Ventures et un groupe d’investisseurs providentiels stratégiques.

« L’IA modifie fondamentalement la manière dont nous concevons les logiciels — elle ne se contente pas d’ajouter une nouvelle étape aux processus traditionnels, elle introduit un cycle de vie entièrement nouveau », a déclaré Dor Sarig, cofondateur de Pillar. « À mesure que l’IA évolue au-delà des logiciels traditionnels, les données devenant exécutables et les systèmes agissant de manière autonome, nos paradigmes de sécurité doivent fondamentalement changer. »

« La technologie de Pillar, qui s’appuie sur des renseignements réels sur les menaces liées à l’IA, est construite sur cette base et offre une nouvelle classe de protection conçue explicitement pour les risques de sécurité liés à l’IA », a ajouté Sarig.

Fondée en octobre 2023 par Dor Sarig et Ziv Karliner, Pillar développe une plateforme qui cartographie automatiquement tous les actifs liés à l’IA au sein d’une organisation — des modèles et bases de données aux prompts, en passant par notebooks et frameworks — pour sécuriser les applications du développement à la production. La plateforme est alimentée par des renseignements sur les menaces issus de la recherche et basés sur l’analyse de plus de 50 millions d’interactions d’applications d’IA.

Illustration : Concept de protection en cyber-sécurité. (Crédit : Thinkhubstudio via iStock by Getty Images)

« La sécurité ne peut plus répondre aux avancées technologiques, elle doit être fondamentale, tissée dans le tissu même du cycle de vie du développement de l’IA », a déclaré Sarig. « Notre plateforme aide les équipes à repérer, à comprendre et à traiter les risques de sécurité à chaque étape du cycle de vie, avec une approche continue et automatisée. »

« Cela donne aux organisations la confiance nécessaire pour avancer rapidement tout en restant en sécurité, en libérant le véritable potentiel de l’IA », a-t-il ajouté.

Parmi les clients de Pillar figurent les entreprises technologiques Similarweb, Eleos Health et AvidXchange.

La startup a cité une enquête récente de Deloitte auprès de 1200 responsables de la sécurité des informations, qui a montré que 77 % des personnes interrogées s’inquiétaient des risques et du paysage des menaces de la technologie générative liée à l’IA.

L’enquête a révélé que deux organisations sur cinq ont connu un incident de sécurité ou de confidentialité lié à l’IA, et que dans un quart de ces cas, la menace était malveillante. Selon l’enquête, les principaux risques spécifiques à l’IA sont les attaques par évasion, l’empoisonnement des données, la confidentialité des données et les fuites de propriété intellectuelle.