Anthropic bloque certaines de ses IA sur ordre de la « sécurité nationale » américaine
Le gouvernement redoute un « jailbreak » de Fable 5, version verrouillée de Mythos 5 qui avait été retenue par précaution en raison de ses capacités de piratage inédites
Vendredi, Anthropic a annoncé la suspension de l’accès à deux puissants modèles d’IA, Fable 5 et Mythos 5, afin de se conformer à un ordre de sécurité nationale des États-Unis.
Trois jours seulement après le lancement public de Fable 5, l’entreprise a indiqué dans un article de blog avoir reçu une directive du gouvernement interdisant à tous les ressortissants étrangers, même ceux qui travaillent chez Anthropic, d’accéder à Fable 5 et Mythos 5 pour des raisons de sécurité nationale.
« De façon à nous conformer à cet ordre d’application directe, nous devons immédiatement désactiver Fable 5 et Mythos 5 pour tous nos clients », a-t-elle précisé.
L’entreprise a indiqué avoir reçu la lettre à 17h21 (21h21 GMT). Selon Axios, ladite lettre venait du Secrétaire américain au Commerce, Howard Lutnick.
Les autorités du Commerce américain n’ont pas répondu à la sollicitation de l’AFP.
L’entreprise a fait savoir que la lettre ne précisait pas ce qui inquiétait le gouvernement. Toutefois, de ce que l’entreprise « en a compris », « le gouvernement pense avoir découvert une méthode de contournement, ou ‘jailbreak' » du modèle Fable 5, une méthode susceptible de le rendre vulnérable aux piratages informatiques.
Sorti mardi dernier, Fable 5 est une version verrouillée de Mythos 5, un modèle d’IA de pointe qu’Anthropic avait choisi de ne pas diffuser auprès du grand-public, craignant que ses capacités d’identification des vulnérabilités logicielles sans précédent — c’est-à-dire des failles dans le code susceptibles – puissent être exploitées par des pirates.
Mythos 5 — le modèle non restreint — n’a été diffusé qu’à un petit échantillon d’entreprises.
Anthropic a indiqué avoir examiné la méthode de
« jailbreak » qui fait l’objet de ces spéculations ainsi que les opportunités de piratage qu’elle exposait, sans toutefois en conclure que Fable 5 offrait aux pirates des capacités différentes de celles déjà disponibles grâce à d’autres modèles publics.
Selon l’entreprise, toujours, aucun de ses testeurs n’a découvert de « jailbreak universel », c’est-à-dire de moyen de contourner totalement ses barrières de protection contre l’aide au piratage.
« Nous ne pensons pas que la découverte d’un risque de jailbreak, de surcroit très limité, justifie le retrait d’un modèle commercial déployé auprès de centaines de millions de personnes », a déclaré l’entreprise.
« Si cette norme était appliquée à l’ensemble de l’industrie, cela aurait pour conséquence de quasiment mettre un terme au déploiement de tout nouveau modèle, et ce pour tous les fournisseurs de modèles de pointe. »
Anthropic est en délicatesse avec l’administration Trump depuis son refus de laisser sa technologie être utilisée à des fins de surveillance de masse et d’armes autonomes, lequel a eu pour conséquence la rupture par le Pentagone de sa relation contractuelle avec l’entreprise.