Le Pentagone veut que l'IA améliore ses armes nucléaires, est-ce une bonne nouvelle ?

Pour ceux qui ne le savent pas, les États-Unis sont l’un des pays qui ont déclaré qu’ils maintiendraient toujours le contrôle des armes nucléaires entre les mains des humains, et non de l’IA, pour la tranquillité de millions de personnes.

Abonnez-vous à la newsletter de Softonic et recevez les dernières nouveautés en technologie, jeux vidéo et offres directement dans votre boîte

Abonnez-vous (c'est GRATUIT) ►

Mais voilà que le Pentagone n’hésite pas à utiliser l’intelligence artificielle pour « améliorer » les systèmes de commandement, de contrôle et de communications nucléaires, ce qui est préoccupant car la ligne qui sépare le contrôle humain du contrôle de la machine est très mince.

À la fin du mois dernier, le chef du Commandement stratégique des États-Unis, le général de l’armée de l’air Anthony J. Cotton, a déclaré que le commandement était « en train d’explorer toutes les technologies, techniques et méthodes possibles pour contribuer à la modernisation de nos capacités NC3 ».

L’avenir semble être résider dans l’IA, même pour l’armement

Au cours des dernières années, plusieurs systèmes d’armes et véhicules militaires contrôlés par l’IA ont été développés, tels que des avions de combat, des drones et des mitrailleuses. Cependant, leur utilisation sur le champ de bataille suscite des inquiétudes, ce qui fait que la perspective que l’IA, qui commet encore de nombreuses erreurs, fasse partie d’un système d’armes nucléaires ressemble à un cauchemar de science-fiction hollywoodienne.

Cotton a tenté d’apaiser ces craintes lors de la Conférence 2024 du Système d’Information de Renseignement du Département de la Défense. Il a déclaré (via Air & Space Forces Magazine) que bien que l’IA améliorera les capacités de prise de décision de commandement et de contrôle nucléaire, « nous ne devons jamais permettre à l’intelligence artificielle de prendre ces décisions à notre place ».

Déjà en mai, Paul Dean, fonctionnaire chargé du contrôle des armements au Département d’État, a déclaré lors d’une séance d’information que Washington avait pris un « engagement clair et ferme » de maintenir les êtres humains au contrôle des armes nucléaires.

Dean a ajouté que tant la Grande-Bretagne que la France ont pris le même engagement. Dean a déclaré que les États-Unis accueilleraient favorablement une déclaration similaire de la part de la Chine et de la Fédération de Russie.

Cotton a affirmé que l’augmentation des menaces, l’avalanche de données provenant des capteurs et les problèmes de cybersécurité rendent l’utilisation de l’IA nécessaire pour maintenir les forces américaines en avance sur ceux qui cherchent à défier les États-Unis.

« Les systèmes avancés peuvent nous informer plus rapidement et efficacement », a-t-il déclaré, soulignant une fois de plus que « nous devons toujours maintenir une décision humaine dans la boucle pour maximiser l’adoption de ces capacités et conserver notre avantage sur nos adversaires ». Cotton a également parlé de l’utilisation de l’IA pour donner aux dirigeants plus « d’espace de décision ».

ChatGPT TÉLÉCHARGER

Pour le Pentagone, l’utilisation de l’IA pourrait aider à comparer, interpréter et présenter rapidement toutes les données recueillies par ces systèmes.

Bien qu’on ne lui remette pas littéralement les codes de lancement nucléaire, l’utilisation de l’IA dans tout système d’armes nucléaires pourrait être risquée, quelque chose qui, selon Cotton, doit être abordé.

En février, des chercheurs ont réalisé des simulations de conflits internationaux avec cinq grands modèles linguistiques (Large Language Model) différents : GPT-4, GPT 3.5, Claude 2.0, Llama-2-Chat et GPT-4-Base. Ils ont constaté que les systèmes intensifiaient souvent la guerre et, dans plusieurs cas, déployaient des armes nucléaires sans avertissement préalable.