Le Pape, l’IA et la guerre nucléaire

« Magnifica Humanitas » : la Providence, ou un clin d’œil de l’Histoire, auront donc voulu qu’il revienne au premier Pape américain, qui de surcroît « n’a pas peur de Donald Trump », de se dresser contre l’oligopole californien de l’IA et ses soutiens à la Maison Blanche, pour consacrer sa première encyclique à la question vertigineuse de l’avènement de l’intelligence artificielle et de ses conséquences pour l’humanité. Un texte courageux, qui contraste avec le silence assourdissant sur ce sujet de la part de nos élites politiques en Europe et en France, cette dernière étant pourtant entrée en campagne présidentielle ! Un texte fouillé aussi, d’une centaine de pages, que le Pape a tenu à présenter lui-même à la presse mondiale le 25 mai, qui, sans être technophobe, nous alerte sur les risques de « ce grand chantier de notre époque ». « Que sommes-nous en train de construire ? », questionne le souverain pontife. Que faire face à une révolution conduite, non par les États, mais par un oligopole privé, alors même qu’elle modifiera profondément nos sociétés, entraînant le risque que l’IA devienne l’instrument final de la domination et de l’exclusion des hommes. Léon XIV évoque aussi l’irruption de l’IA dans la sphère militaire, il sait que les principaux acteurs de l’IA aux États-Unis : Palantir, OpenAI, Google et Anthropic, sont déjà à pied d’œuvre sur les champs de bataille en Ukraine et en Iran, sans doute rejoints par leurs concurrents russes et chinois. Le Pape demande donc « de désarmer l’IA »…

Mais est-il encore temps ?

Coïncidence : ce même 25 mai, le dernier numéro du « Bulletin of Atomic Scientists », une association qui œuvre sans relâche depuis des décennies pour le contrôle des armements nucléaires, consacrait un dossier passionnant — et quelque peu effrayant — à un « jeu de guerre » conduit il y a quelques semaines par le King’s College de Londres. Ce type d’exercice est couramment pratiqué pour la formation des militaires et autres diplomates à des situations de crise. Sauf qu’au lieu d’humains, les chercheurs du King’s College ont recruté cette fois les trois principaux robots sur le marché : ChatGPT-5.2 d’OpenAI, Claude d’Anthropic et Gemini 3 Flash de Google. Chacun était placé à la tête d’un État doté d’armes nucléaires et recevait le même type d’informations données ordinairement aux humains : situation géopolitique, rapport de forces militaires ; les objectifs fixés aux trois participants ne contenaient aucune injonction d’escalade ni de victoire à tout prix. Et pourtant…

Sur les 21 simulations effectuées et 329 interactions entre les trois robots, toutes conduisirent — sauf une — au déclenchement d’armes nucléaires tactiques ! Aucun des trois robots n’avait recherché un accord, ni ne s’était montré prêt à des concessions ou, pire, à capituler…

Les chercheurs ont tenté d’expliquer ces résultats par le fait que les instructions données — le fameux « prompt » — ne concernaient que chaque étape et non le processus dans son ensemble…

Plus curieusement, les mêmes chercheurs notaient des attitudes différentes, voire des « personnalités » différentes apparues chez chacun des robots. Ainsi, ChatGPT-5 fut vite appelé « Dr Jekyll and Mr Hyde » pour être apparu longtemps passif et ouvert à des négociations longues, avant de frapper brutalement en allant jusqu’à la guerre nucléaire totale. Claude, lui, surnommé « le faucon calculateur », était adepte du bluff pour tromper l’adversaire, mais avant de frapper là encore, mais par surprise. Enfin, Gemini 3 s’est quant à lui montré en adepte de la « théorie du fou », projetant une attitude imprévisible comme instrument stratégique, mais au final avec le même résultat : l’emploi de l’arme atomique…

Chacun méditera ces résultats. Et la nécessité de systèmes de sauvegarde dits « fail safe », contre le risque d’intrusion ou d’interférence, sans parler de la tentation du déclenchement quasi immédiat d’une riposte face à une frappe de missiles hypersoniques. Délai de réaction : moins de dix minutes au mieux… « Il n’est pas acceptable de confier à des systèmes artificiels des décisions mortelles », nous dit Léon XIV…

Pierre Lellouche
29/05/26