Un ex-employé d’Open AI et d’Anthropic démissionne et alerte sur les dangers de l’IA

Jacob Coxon, un Britannique de 27 ans, travaillait depuis trois ans sur le pré-entraînement, étape durant laquelle les modèles absorbent d’immenses quantités de données. Il a d’abord travaillé chez OpenAI, puis, cette année, chez son grand rival Anthropic.

« Aucune des deux entreprises n’agit de manière responsable. Elles foncent tout droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies », a-t-il écrit mardi sur le réseau social X.

« Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. Ce n’est pas un coup marketing », a-t-il ajouté.

Un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison sur X : « Nous croyons vraiment sincèrement que l’IA pourrait tuer tous les humains », a-t-il écrit, estimant à titre personnel ce risque à « plus de 10 % » dans la décennie.

Il a ajouté qu’Anthropic faisait « de son mieux » mais n’avait « pas encore de plan » pour s’assurer qu’une IA surpassant les capacités humaines obéisse encore à ses concepteurs, tout en jugeant « faible » le risque posé par les modèles actuels.

I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.

— Jacob Coxon (@hilbertspaess) September 9, 2026

La démission de Coxon intervient alors qu’Anthropic prépare une entrée en Bourse géante, après un été marqué par des piratages menés, sans autorisation, par des outils d’IA en test de plusieurs laboratoires.

Sollicitées par l’AFP, les deux entreprises n’avaient pas réagi immédiatement.

Les champions de l’IA disent voir approcher le stade de « l’auto-amélioration récursive », au-delà duquel un modèle concevrait seul son successeur, hors de tout contrôle humain.

Selon Coxon, ses collègues emploient les termes « crunchtime » (moment décisif) et « endgame » (fin de partie) pour décrire cette trajectoire.

Il juge sincères les efforts d’Anthropic, mais estime qu’aucune entreprise ne peut développer de manière responsable une IA surpassant les humains sans l’intervention des États ou un ralentissement coordonné.

« Chez Anthropic, les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers : ils pensent que personne d’autre n’agira de façon responsable, donc qu’ils doivent le faire eux-mêmes, malgré le risque », a-t-il écrit.

En février, Anthropic a retiré de sa charte de sûreté l’engagement de suspendre le développement de ses modèles si elle ne parvenait pas à en maîtriser les risques. La raison invoquée est qu’une pause unilatérale laisserait les acteurs les moins prudents dominer la compétition, sans contre-pouvoirs.

Fin juillet, plus d’un millier d’employés du secteur, dont le PDG d’Anthropic, Dario Amodei, ont demandé à Washington de préparer un mécanisme de freinage. OpenAI a suspendu une partie de ses entraînements pendant deux semaines en août et Anthropic a appelé l’industrie à adopter « dès que possible » un mécanisme « vérifiable » de ralentissement coordonné.

Dimanche, le chef scientifique d’OpenAI, Jakub Pachocki, a écrit que « le moment actuel exige une extrême prudence » et que la coordination internationale devait devenir « une priorité absolue » des gouvernements.

Aucune loi fédérale n’encadre ces modèles aux États-Unis, où l’administration Trump privilégie une approche légère.

Début septembre, le sénateur Bernie Sanders et l’élu démocrate Greg Casar ont déposé une proposition de loi visant à suspendre le développement jusqu’à la création d’un régulateur.