Les US ont failli lancer un raid contre un navire chinois après une erreur de l’IA — CNN

L’armée américaine s’était préparée à saisir le navire, et des avions de combat avaient déjà décollé, a indiqué CNN, avant que les responsables n’examinent le rapport avec plus d’attention, réalisant qu’il avait été rédigé à l’aide d’un chatbot qui avait mal identifié la cargaison. CNN a précisé qu’elle n’avait pas pu déterminer quelle était la cargaison réelle.

CNN a cité une source qui a confié que le rapport de renseignement s’était avéré être « entièrement faux » mais qu’il avait « failli déclencher une guerre ».

Selon la chaîne, un analyste militaire américain avait interrogé le chatbot au sujet de renseignements fournis par le Commandement des opérations spéciales du Pacifique (US Special Operations Command Pacific), qui est basé à Hawaï, concernant ce navire. Le chatbot avait alors fondé sa réponse erronée à la fois sur des sources ouvertes et sur des renseignements d’origine électromagnétique secrets.

Il est difficile de dire si le bot était un produit commercial ou gouvernemental, a précisé CNN, qui a ajouté que ni le Pentagone, ni le Commandement des opérations spéciales du Pacifique n’avaient répondu à une demande de commentaire.

Le Commandement central américain — qui est responsable des forces américaines au Moyen-Orient — n’a pas répondu à une demande de commentaire concernant l’incident.

Ce reportage de CNN a fait suite à une polémique qui a éclaté au début du mois, lorsqu’un chercheur a démissionné publiquement de la société de pointe en IA Anthropic, craignant que cette technologie n’échappe au contrôle humain.

Un autre employé d’Anthropic, qui n’a pas démissionné, a expliqué publiquement : « Nous croyons sincèrement que l’IA pourrait tuer tous les êtres humains », disant qu’il estimait que les chances étaient supérieures à « 10 % au cours de la prochaine décennie ».

Malgré ces avertissements, le président américain Donald Trump et certains de ses principaux alliés se sont opposés à une restriction drastique du développement de l’intelligence artificielle.

Dans un autre incident qui a impliqué l’armée américaine et la Chine, Politico a rapporté vendredi que des pièces d’avion F-35 — notamment une verrière furtive sensible destinée au cockpit — avaient été détournées vers Hong Kong et sont désormais introuvables, ce qui fait craindre que Pékin ait mis la main sur une technologie militaire américaine sensible.

Ces pièces étaient en transit entre l’Australie et les États-Unis à des fins de réparation lorsque le détournement s’est produit, a rapporté le média américain, ajoutant qu’il était difficile de dire pourquoi elles avaient été réacheminées et où elles se trouvaient actuellement.

Un porte-parole de Lockheed Martin – qui gère la chaîne d’approvisionnement du F-35 – a noté que l’entreprise ne pouvait pas s’exprimer sur des expéditions spécifiques pour des « raisons de sécurité ».

« Lockheed Martin respecte l’ensemble des réglementations américaines établies par le ministère de la Défense et régies par l’Agence logistique de la défense (DLA) concernant l’expédition de composants d’aéronefs », a déclaré le porte-parole.

« Nos équipes traitent chaque expédition avec la plus grande diligence et en prenant toutes les précautions nécessaires pour garantir l’intégrité du programme F-35 et la sécurité de nos partenaires alliés ».