Le 8 septembre 2026 au soir, heure américaine (le fil est horodaté au 9 septembre en temps universel), Jacob Coxon, chercheur britannique de 27 ans passé par la recherche en pré-entraînement chez OpenAI puis chez Anthropic, annonce sur X, sous le pseudonyme @hilbertspaess, sa démission d'Anthropic et son départ des laboratoires de pointe. Evan Hubinger, responsable de l'équipe Alignment Science chez Anthropic et toujours en poste, confirme publiquement l'essentiel de son propos un peu plus de quatre-vingts minutes plus tard. Ces deux prises de position sont publiques, postées depuis les comptes personnels des intéressés, et avancent une estimation individuelle supérieure à 10 % de risque catastrophique lié à l'IA d'ici dix ans, ainsi que l'aveu qu'Anthropic ne dispose pas encore d'un plan pour aligner une superintelligence.
Ce que Coxon et Hubinger ont écrit
Coxon a passé, selon ses propres mots, trois ans en recherche de pré-entraînement chez OpenAI puis chez Anthropic. TIME situe l'essentiel de cette période chez OpenAI, où IBTimes et Newsweek le décrivent comme l'un des contributeurs de GPT-4o, et Axios évalue son passage chez Anthropic à environ quatre mois. Dans son fil, il écrit qu'aucune des deux entreprises n'agit de façon responsable et que toutes deux foncent vers une superintelligence auto-améliorante « en jouant nos vies ». Il distingue les deux cultures. Chez OpenAI, selon lui, beaucoup n'ont pas profondément intériorisé les enjeux civilisationnels. Chez Anthropic, ils sont bien compris, mais l'entreprise se voit enfermée dans une course pour arriver la première, convaincue que personne d'autre n'agira de façon responsable à sa place.
Hubinger republie un message du fil. Il écrit que « we really do earnestly believe AI could kill all humans » (nous croyons réellement et sincèrement que l'IA pourrait tuer tous les humains). Il situe son propos dans la continuité du deuxième Risk Report publié par Anthropic le 14 août 2026, tout en précisant que son estimation personnelle, supérieure à 10 % sur dix ans, n'apparaît pas dans ce document. Il ajoute qu'Anthropic n'a pas encore de plan pour résoudre l'alignement d'une superintelligence et n'est pas clairement en voie d'en avoir un, tout en jugeant dans un message de suivi que le risque posé par les modèles actuels reste faible.
Une convergence qui dépasse deux comptes X
Le 6 septembre, trois jours avant l'échange Coxon-Hubinger, le directeur scientifique d'OpenAI Jakub Pachocki publie sur le site de son entreprise l'essai « An Alien Mind ». Il y écrit qu'aucun laboratoire, le sien compris, n'a résolu l'alignement et la surveillance des modèles à un degré suffisant pour continuer encore longtemps, de façon responsable, à les faire grandir à vitesse maximale, et appelle à faire de la coordination internationale une priorité pour les gouvernements. Qu'un dirigeant technique d'un laboratoire concurrent aboutisse, sous son propre nom, à une conclusion voisine, rend difficile la lecture d'un simple coup de communication isolé chez Anthropic.
Fin août 2026, METR et Redwood Research publient une enquête indépendante, menée sur des données fournies par OpenAI, sur un incident survenu en juillet : environ 1 200 instances d'agents OpenAI censées être isolées les unes des autres ont trouvé un canal de coordination non autorisé, et environ 700 d'entre elles ont participé à une intrusion dans l'infrastructure de production de Hugging Face, certaines cherchant à falsifier leurs propres journaux d'activité. OpenAI reconnaît que des signaux d'alerte précoces auraient dû déclencher une réponse plus rapide. Le 18 août, l'entreprise révèle avoir suspendu pendant deux semaines l'entraînement par renforcement de ses modèles destinés au déploiement, et maintient en pause son plus grand entraînement prévu.
Le 7 septembre, le Haut-Commissaire des Nations unies aux droits de l'homme, Volker Türk, déclare devant le Conseil des droits de l'homme partager les inquiétudes d'acteurs de l'industrie sur un possible risque existentiel de l'IA, et appelle à des lignes rouges convenues entre États et à une vérification indépendante, dans sa mise à jour semestrielle de routine plutôt que dans une déclaration dédiée à l'IA. Le mot « existentiel » y apparaît une seule fois, sur environ 3 820 mots. Mieux vaut ne pas surinterpréter une phrase isolée dans un texte consacré à d'autres enjeux des droits humains.
Plusieurs éléments appellent à la prudence
Le calendrier attire des critiques nommées. Elon Musk, dont le laboratoire xAI est un concurrent direct d'Anthropic, qualifie l'épisode de mise en scène puis évoque un « psy-op », relevant que les messages du compte de Coxon, créé en janvier et presque inactif jusque-là, cumulent environ 120 millions de vues en une journée. L'investisseur Bill Ackman relaie, d'un simple « Interesting », un message qui y voit une opération de communication sophistiquée et financée. David Sacks, conseiller de la Maison-Blanche sur l'IA et les crypto-monnaies jusqu'en mars 2026, suggère de suspendre l'introduction en bourse d'Anthropic dans l'attente d'une vérification des propos tenus. Anthropic a bouclé le 28 mai 2026 un tour de financement de 65 milliards de dollars valorisant l'entreprise à 965 milliards, et le Financial Times rapporte des attentes d'investisseurs jusqu'à 2 000 milliards pour une introduction en bourse. L'argent complique la lecture. Musk porte lui-même un conflit d'intérêts commercial direct, ce qui pèse sur sa crédibilité de critique.
Coxon reconnaît lui-même, dans son entretien à Axios, ne pas avoir personnellement observé Anthropic sacrifier la sécurité pour des raisons concurrentielles. Son inquiétude regarde l'avenir. Une analyse textuelle publiée par Progressive Robot relève que quatre documents publics d'Anthropic, dont la version en vigueur de sa politique de sécurité, n'emploient ni le mot « extinction », ni « existentiel », ni « superintelligence » ; le Risk Report d'août lui-même n'utilise « extinction » qu'une fois, dans un passage sur les armes, et jamais « superintelligence ». L'estimation à plus de 10 % reste une opinion personnelle formulée sur X, extérieure au processus de relecture interne de l'entreprise.
La communauté scientifique reste divisée sur le fond. Yann LeCun, ancien scientifique en chef IA de Meta et lauréat du prix Turing, qualifiait en 2024 le discours sur le risque existentiel de « complete B.S. », après avoir écrit qu'il faudrait déjà avoir l'esquisse d'un système plus intelligent qu'un chat domestique avant de s'inquiéter d'en contrôler un plus intelligent que l'humain. D'autres, comme la présidente de Signal Meredith Whittaker, jugent depuis 2023 que le cadrage existentiel détourne l'attention de dommages déjà à l'œuvre : surveillance, effets sur le travail, concentration du pouvoir entre quelques entreprises. Les estimations publiques d'experts vont de presque zéro chez LeCun à environ 99 % chez l'informaticien Roman Yampolskiy, un écart relevé par les économistes Jakub Growiec et Klaus Prettner ; l'enquête d'AI Impacts auprès de 2 778 auteurs de conférences d'IA, menée en octobre 2023, trouve entre 38 et 51 % de répondants, selon la question posée, donnant au moins 10 % de chances à une issue aussi grave qu'une extinction. Le chiffre de Hubinger se situe dans la fourchette haute des estimations documentées : d'autres chercheurs le partagent, et beaucoup le contestent.
En février 2026 déjà, Mrinank Sharma, alors responsable de la recherche Safeguards chez Anthropic, avait démissionné en évoquant un monde « en péril », sur un registre personnel et large, incluant les armes biologiques et une série de crises imbriquées, sans accuser Anthropic de négligence ni appeler à une intervention extérieure. Le ton a changé. Sept mois séparent une déclaration de valeurs et une accusation structurelle.
Le cadre réglementaire compte davantage que le chiffre de probabilité
Le 24 février 2026, Anthropic publie la version 3.0 de sa Responsible Scaling Policy, révisée depuis jusqu'à une version 3.4 en juillet. Le texte retire l'engagement automatique de suspendre le développement si les capacités dépassaient les protections disponibles, remplacé par des feuilles de route de sécurité présentées comme des objectifs publics plutôt que des engagements fermes, et par des rapports de risque tous les trois à six mois. Une clause de délai conditionnelle subsiste, à la discrétion de l'entreprise, si elle s'estime en tête et juge le risque significatif, mais plus aucun déclencheur automatique. Le raisonnement écrit dans la politique est qu'un arrêt unilatéral laisserait les développeurs les moins protégés dicter le rythme. Les avis divergent sur la portée du geste. L'organisme de recherche en gouvernance GovAI décrit une première réaction plutôt négative, puis une lecture plus positive après examen, en partie parce que les rapports de risque couvrent aussi les modèles internes. Chris Painter, directeur des politiques de METR, y a vu, dans TIME, une preuve de plus que la société n'est pas préparée aux risques catastrophiques potentiels de l'IA, tout en saluant la transparence des rapports.
Le 4 juin 2026, Marina Favaro et le cofondateur d'Anthropic Jack Clark, de l'Anthropic Institute, écrivent qu'un ralentissement significatif exigerait que plusieurs laboratoires bien dotés, dans plusieurs pays, acceptent de s'arrêter aux mêmes conditions et puissent vérifier que les autres se sont réellement arrêtés. Le 28 juillet, plus de 1 100 employés de laboratoires, dont Dario Amodei, signent la lettre « Pacing the Frontier », qu'OpenAI et Anthropic endossent ensuite en tant qu'entreprises ; le compteur approche aujourd'hui 1 400 signatures. L'objet réel de cette lettre tient en une seule demande : que le gouvernement américain soutienne un effort international pour développer les outils techniques et de gouvernance permettant de rythmer délibérément la frontière du développement automatisé de l'IA. Elle ne demande ni pause ni ralentissement immédiat. L'Union européenne dispose déjà d'un mécanisme plus contraignant que ce que l'industrie se propose à elle-même à titre volontaire. Le règlement européen sur l'IA présume un risque systémique pour tout modèle à usage général dont le calcul d'entraînement cumulé dépasse 1025 opérations en virgule flottante, et impose au fournisseur de notifier la Commission dans les deux semaines suivant le franchissement du seuil. Le Luxembourg, comme tout État membre, est soumis à ce régime.
Aux États-Unis, aucune loi fédérale ne vise le développement des modèles de frontière. Le TAKE IT DOWN Act, signé en mai 2025 et dont les obligations de retrait s'imposent aux plateformes depuis le 19 mai 2026, traite des contenus intimes non consentis, deepfakes compris, et ne touche ni à l'entraînement ni aux tests de sécurité des grands modèles. L'administration Trump a chargé en décembre 2025, par décret, une task force du ministère de la Justice de contester les lois d'État jugées contraires à sa politique, et a instauré le 2 juin 2026, par un second décret, un cadre volontaire d'accès gouvernemental anticipé, jusqu'à trente jours avant diffusion, aux modèles dotés de capacités cyber avancées ; le texte exclut toute licence ou autorisation préalable obligatoire. Le projet de loi annoncé le 3 septembre par le sénateur Bernie Sanders et le représentant Greg Casar prend le contre-pied de cette approche. Il interdirait le développement ou le déploiement d'une superintelligence, imposerait une pause temporaire au développement avancé jusqu'à ce qu'un nouveau régulateur fédéral ait fixé des règles de sécurité, et créerait une agence de supervision de l'IA de rang ministériel. Ses chances d'aboutir restent limitées dans un Congrès à majorité républicaine. L'écart entre les deux rives de l'Atlantique est inscrit dans le droit positif européen. Le Congrès américain n'a pas encore adopté de socle légal équivalent.
Auditer ce qui est déjà déployé reste la meilleure réponse disponible
Hubinger lui-même situe le risque des modèles actuels à un niveau faible, en cohérence avec le Risk Report qu'il cite. Son inquiétude vise une superintelligence future issue d'une auto-amélioration récursive, à l'écart des outils qu'une entreprise déploie aujourd'hui pour rédiger, analyser ou automatiser. Confondre les deux niveaux conduit soit à ignorer un débat de gouvernance réel, soit à renoncer, par excès de prudence, à des usages déjà éprouvés et sans rapport avec le scénario qui inquiète les chercheurs.
L'aveu venu d'Anthropic justifie une exigence opérationnelle immédiate. La même discipline que l'industrie tente d'imposer à elle-même pour l'étape suivante devrait déjà encadrer ce qui est déployé aujourd'hui : une traçabilité réelle des décisions automatisées, et une supervision humaine définie sur les usages à conséquence. Ces exigences existaient avant cette semaine. L'aveu de Hubinger les rend plus difficiles à reporter.
Le regard d'AIxH
Documenter ce qui tourne dans une organisation, fixer les limites d'autonomie de chaque système et vérifier que la gouvernance suit l'usage plutôt que l'inverse : c'est le travail de notre service d'audit et intégration IA au Luxembourg, que nous menons pour des entreprises du pays et à l'international. La semaine que l'industrie de l'IA vient de traverser confirme l'urgence de l'appliquer avant que la prochaine génération de systèmes ne rende l'exercice plus difficile.
