Un système d’intelligence artificielle qui s’immisce dans une chaîne de commandement nucléaire, ou qui déclenche de sa propre initiative une cyber-opération militaire, ne laisserait peut-être que quelques minutes à Washington ou à Pékin pour trancher : accident technique, ou attaque délibérée ?
C’est le scénario que redoutent des experts américains et chinois réunis dans un dialogue informel sur l’IA et la sécurité nationale. Leurs travaux nourrissent depuis 2019 les discussions officielles entre les deux capitales.
Un scénario redouté : quelques minutes pour décider
Le forum, coprésidé par le Centre pour la sécurité et la stratégie internationales de l’université Tsinghua et le think tank Brookings Institution, a publié la semaine dernière une série de recommandations. Objectif affiché : s’entendre sur des règles avant qu’un incident lié à l’IA ne dégénère en crise.
Le texte tombe à un moment précis. Les deux pays doivent tenir des pourparlers sur l’IA à la mi-septembre, avant une rencontre prévue le 24 septembre à Washington entre Donald Trump et Xi Jinping. Ce sera la première depuis que les deux dirigeants avaient convenu, en mai, de relancer ce dialogue technique resté gelé depuis 2024.
Des lignes rouges autour du nucléaire
Melanie Sisson, chercheuse à Brookings, défend l’idée que la décision de lancer une cyberattaque assistée par IA contre les systèmes nucléaires de commandement, de contrôle et de communication de l’adversaire doit rester une prérogative humaine, exclusivement.
Son raisonnement : un système autonome peut mal fonctionner, dépasser le cadre qu’on lui a fixé, ou être piraté. Le pays visé n’a alors aucun moyen simple de savoir si l’action relève de l’accident ou d’un ordre donné en haut lieu.
Son homologue chinois dans ce dialogue, Tianjiao Jiang, professeur à l’université Fudan, va plus loin. Il propose d’interdire purement et simplement à l’IA de décider seule d’employer l’arme nucléaire ou d’attaquer un système de commandement nucléaire, et d’étendre cette protection aux infrastructures critiques — énergie, finance, santé.
Il réclame aussi une définition commune du « contrôle humain significatif », pour éviter que Washington et Pékin n’emploient les mêmes mots avec des seuils d’autonomie machine différents. L’idée prolonge un principe que Joe Biden et Xi Jinping avaient déjà approuvé en novembre 2024 : garder l’humain aux commandes des décisions nucléaires.
La chercheuse Lora Saalman, du SIPRI, notait en février que c’était l’un des rares points de convergence réels entre les deux pays. Elle observait toutefois que chacun continue, par ailleurs, d’intégrer davantage d’IA dans ses propres systèmes nucléaires.
Une hotline dont l’utilité fait déjà débat
Jiang propose également une ligne téléphonique militaire dédiée aux incidents impliquant une IA autonome. L’argument : un échange de cyberattaques automatisées peut s’emballer plus vite qu’un humain ne peut intervenir.
Une IA défensive répond à une activité suspecte ; l’autre camp y lit une attaque et riposte, avant même de comprendre ce qui s’est passé. Une hotline permettrait, en théorie, de signaler qu’une opération inhabituelle était accidentelle, avant qu’elle ne soit traitée comme un acte d’État délibéré.
Reste que l’utilité de ce genre de ligne d’urgence est déjà contestée dans les faits. Carla Freeman, de la Johns Hopkins School of Advanced International Studies, rappelait en janvier que la hotline militaire de crise existante entre les deux pays n’avait pas fonctionné lors de l’incident du ballon espion chinois, en février 2023 : les responsables chinois avaient tout simplement refusé de décrocher.
Elle pointe une bureaucratie chinoise où aucun officier subalterne ne prend l’initiative avant que la hiérarchie n’ait arrêté une position commune — un processus qui, selon elle, peut prendre des jours.
Ni Washington ni Pékin n’ont officiellement endossé ces propositions. Mais la Chine a déjà rattaché l’IA militaire à sa bureaucratie existante de contrôle des armements, via le département du contrôle des armes du ministère des Affaires étrangères.
Son ambassadeur pour le désarmement, Shen Jian, a dit en juin devant l’ONU, à Genève, que l’IA militaire pouvait fragiliser la stabilité stratégique — tout en insistant sur le fait que la sécurité de l’IA ne doit pas servir de prétexte à des restrictions technologiques. Washington, de son côté, n’a pas d’équivalent : le dossier est éclaté entre le Conseil de sécurité nationale, le département d’État et le Pentagone.
Ni l’un ni l’autre ne semble pressé de signer quoi que ce soit qui limiterait sa propre marge de manœuvre — même au nom de la prévention d’un accident nucléaire.
Maghreb Emergent/Avec Reuters
