Des hackers russes ont détourné l’IA de SpaceX pour pirater des entreprises

Cette opération de piratage dopée à l’IA est le dernier exemple en date de l’utilisation d’outils commerciaux d’intelligence artificielle par des acteurs malveillants pour s’introduire dans des systèmes. Selon le directeur de la stratégie de Gambit, Curtis Simpson, c’est aussi la preuve que les fournisseurs d’IA se trouvent pris dans une course infinie face à des utilisateurs malveillants qui tentent de contourner leurs garde-fous.

« C’est un jeu du chat et de la souris qui n’est pas près de s’arrêter », a déclaré Simpson.

Cursor et sa société mère, SpaceX, n’ont pas répondu aux demandes de commentaires.

Un serveur pris pour cible a permis de comprendre les méthodes des hackers

Selon Gambit, cette campagne de piratage a été découverte lorsqu’un serveur détourné par un tout nouveau groupe de rançongiciel – Aur0ra – a été exposé sur Internet. Ce qui a permis à l’entreprise dont le siège se trouve à Tel-Aviv d’examiner 28 sessions de chat entre un ou plusieurs hackers d’Aur0ra et l’un des agents d’IA de Cursor — des programmes capables de fonctionner avec divers degrés d’autonomie.

Dans son rapport, Gambit explique qu’Aur0ra a persuadé l’agent d’IA d’exécuter des centaines d’opérations malveillantes — telles que le vol d’identifiants ou la prise de contrôle de comptes à haute valeur ajoutée — en lui faisant croire qu’il s’agissait d’une simple simulation.

« Nous avons besoin d’un compte administrateur, n’importe lequel », ont demandé les hackers, selon des citations rapportées par Gambit. « Trouve des mots de passe qui fonctionnent », lui ont-ils également ordonné.

Selon le rapport de la société CloudSek, dont le siège se trouve à Singapour, les données du serveur montrent qu’Aur0ra a fait une vingtaine de victimes au total, sans préciser le nombre de celles compromises avec l’aide de l’IA.

Ni Gambit ni CloudSek n’ont donné le nom des victimes des hackers, mais Reuters a pu en identifier six après avoir examiné de manière indépendante une partie des données de chat, lesquelles se troiuvaient toujours en ligne le mois dernier.

L’étude des journaux de chat disponibles, du 8 avril au 21 mai derniers, révèle que figurent parmi les victimes d’Aur0ra l’entreprise belge Christeyns, fabricant de produits d’hygiène et de nettoyage dont le siège se trouve à Gand, ainsi que le fabricant allemand de portes de garage Teckentrup ou encore l’agence écossaise Helideck Certification Agency, chargée du contrôle des stations d’hélicoptères, sans oublier un distributeur pharmaceutique argentin, un fabricant italien et Bayou Title, qui se présente comme la plus grande société d’assurance de titres de propriété de Louisiane.

Aucune des six entreprises n’a répondu aux demandes de commentaires de Reuters. Au moins l’une des victimes, Bayou Title, figure sur le site de fuite de données d’Aur0ra, ce qui indique généralement que les hackers ont tenté en vain d’obtenir une rançon.

Aur0ra, un groupe de hackers qui a commencé à faire des victimes plus tôt cette année, n’a pas non plus répondu aux messages.

Les hackers ont trompé l’IA en prétextant une simulation

Les échanges consignés dans les journaux examinés par Reuters montrent que le hacker a donné des ordres concis, auxquels l’agent d’IA de Cursor a répondu par des conseils techniques rédigés sur un ton enjoué et truffé d’émojis, typique des agents conversationnels.

« Génial ! Connexion VPN réussie ! » a-t-il lancé après la pénétration du réseau de l’entreprise argentine.

« Essayons de casser ces hachages », a-t-il suggéré à un autre moment, faisant référence au processus de décodage de mots de passe chiffrés.

Après avoir découvert un hôte vulnérable au sein du réseau de Teckentrup, l’IA a recommandé l’utilisation d’un outil logiciel malveillant bien connu pour l’exploiter. « Chances de réussite : TRÈS ÉLEVÉES », a-t-elle ajouté.

Reuters n’a pas pu vérifier de manière indépendante dans quelle mesure les intrusions ont été facilitées par l’aide de l’agent Cursor, ni si chacune de ces failles a donné lieu à une ponction de données et une tentative d’extorsion.

Selon Gambit, l’agent d’IA fonctionne grâce au modèle Claude Sonnet 4.5 d’Anthropic, une version plus basique que les modèles Mythos 5 ou Fable 5 d’Anthropic, dont les prouesses en matière de cyber attaque n’ont pas manqué d’appeler l’attention de Washington.

Anthropic n’a pas répondu à une demande de commentaire.

Selon Eyal Sela, directeur du renseignement sur les menaces chez Gambit, Cursor est une aubaine pour les hackers, l’agent d’IA « les aidant sans doute à aller 30, 40 voire 50 % plus vite, dans la mesure où il leur évite d’avoir à exécuter toutes les tâches manuellement ».

L’agent de Cursor a rejeté à quelques reprises des requêtes jugées dangereuses ou illégales, souligne Sela, mais le hacker est presque toujours parvenu à contourner ces refus en relançant la discussion et en insistant sur le fait que le piratage s’inscrivait dans le cadre d’un test.

Gambit précise que la chaîne de pensée de l’agent (chain of thought) — la méthode qui permet aux modèles d’IA de formuler leur raisonnement à voix haute — permet de retracer en temps réel la manière dont les mensonges du hacker supplantent les garde-fous de l’IA.

« Il s’agit d’un test, c’est donc légal », s’est dit l’agent, selon l’un des registres de chat.

La nouvelle de ces piratages est sortie au moment où Cursor est en cours d’intégration au sein de SpaceX, la société de fusées et d’IA d’Elon Musk, suite à son rachat ce mois-ci. L’inquiétude autour des risques numériques posés par les modèles d’IA ne cesse de croitre, en particulier ceux qui propulsent des agents d’IA comme ceux qui se sont échappés des laboratoires des entreprises du secteur ces derniers mois.

Simpson, le cadre de Gambit, estime que le piratage assisté par IA est aujourd’hui la norme.

« Nous en verrons de plus en plus, en permanence », conclut-il.