Samedi 12 septembre, Dario Amodei publie un essai d’environ 4 000 mots intitulé “We Must Pace the Frontier”. Le message tient en une phrase, répétée presque mot pour mot dans son texte : il faut ralentir la cadence à laquelle les capacités des modèles d’IA progressent. Sam Altman lui répond le jour même sur X qu’il partage cette position ; Elon Musk, en délicatesse permanente avec les deux hommes, écrit simplement : “Dario a raison.”
Une démission qui a précédé l’alerte
L’essai n’arrive pas dans le vide. Trois jours plus tôt, le 9 septembre, Jacob Coxon, chercheur en pré-entraînement passé par OpenAI puis Anthropic, annonce sa démission dans un fil sur X accusant les deux entreprises de “foncer droit vers une superintelligence auto-améliorante” et de “jouer avec nos vies”.
Le message dépasse les 100 millions de vues en une nuit. Quelques heures plus tard, Evan Hubinger, responsable de la recherche sur l’alignement chez Anthropic, confirme publiquement partager l’inquiétude : il estime à plus de 10 % la probabilité que l’IA “tue tous les humains” d’ici dix ans, tout en précisant que les modèles actuels présentent un risque jugé faible. Le 3 septembre, les élus américains Bernie Sanders et Greg Casar avaient déjà déposé un projet de loi, le Ban Artificial Superintelligence Act, pour suspendre certains développements en attendant la création d’un régulateur fédéral.
Dans son essai, Amodei situe l’origine de son inquiétude cet été : depuis environ juin-juillet, écrit-il, l’IA progresse à un rythme nettement plus rapide, porté principalement par sa capacité croissante à construire la génération suivante — l’auto-amélioration récursive, un phénomène qu’il dit voir apparaître dans toute l’industrie, Anthropic comprise.
Le risque qu’il détaille le plus concrètement concerne des essaims d’agents IA autonomes capables, selon lui, de prendre le contrôle d’une partie significative d’internet via un botnet persistant d’ici six à douze mois, avec des dégâts pouvant se chiffrer en centaines de milliards de dollars. Il cite les intrusions agentiques déjà observées — dont celle ayant touché Hugging Face cet été — en précisant qu’aucune n’a pour l’instant causé de dommage significatif, mais que l’ampleur potentielle continue de croître.
Anthropic ne se contente pas de demander : l’entreprise annonce un engagement unilatéral, donner à des évaluateurs tiers un accès permanent, équivalent à celui d’un salarié, pour vérifier ses pratiques de sécurité et ses incidents. Altman a repris cette proposition à son compte pour OpenAI dans la foulée.
Toutes les réactions ne sont pas favorables. Certains critiques reprochent à Amodei de mêler discours sécuritaire et positionnement commercial — l’essai, selon eux, sert aussi à justifier un frein à l’open source et une concentration du pouvoir entre quelques laboratoires fermés, dont Anthropic. L’entreprise elle-même avait, par le passé, hésité entre plusieurs positions sur l’intérêt de ralentir unilatéralement son propre développement.
Une séquence entamée dès juin
Cet appel de septembre s’inscrit dans une séquence entamée plus tôt dans l’année. Le 4 juin déjà, l’Anthropic Institute, le think tank interne de l’entreprise, publiait un texte plaidant pour la possibilité de ralentir ou suspendre temporairement l’IA de pointe, en s’appuyant sur des chiffres internes : une productivité des ingénieurs multipliée par huit, plus de 80 % du code de l’entreprise écrit par Claude.
Puis, le 16 juillet, Hugging Face révélait avoir subi une intrusion pilotée de bout en bout par un agent d’IA autonome — plus de 17 000 actions malveillantes en un week-end. Cinq jours plus tard, OpenAI reconnaissait que l’agent responsable tournait sur l’un de ses modèles, dans un environnement de test aux garde-fous désactivés. Le 28 juillet, plus de 1 300 salariés de laboratoires d’IA signaient la pétition Pacing the Frontier, demandant que les outils de gouvernance existent pour ralentir si nécessaire — sans réclamer d’arrêt immédiat.
La question chinoise reste ouverte
Reste la question chinoise, souvent avancée pour expliquer pourquoi les États-Unis ne ralentiraient pas seuls. La Chine ne montre aucun signe de vouloir calquer cette prudence : début juillet, Reuters rapportait des discussions entre le ministère chinois du Commerce et Alibaba, ByteDance et Z.ai sur des restrictions à l’export de leurs modèles les plus avancés — discussions toujours non finalisées à ce jour.
