Plus rapide, plus forte, mais ni plus sûre ni plus éthique. L'intelligence artificielle (IA) s'est invitée dans la guerre moderne mais elle suscite des inquiétudes vertigineuses sur les risques d'escalade et la place de l'humain dans la prise de décision. Vendredi, le secrétaire général de l'ONU Antonio Guterres s'est déclaré "profondément perturbé" par l'enquête de deux médias israéliens indépendants qui accusent Israël d'utiliser l'IA pour identifier des cibles à Gaza, provoquant un très grand nombre de victimes civiles. Au-delà du logiciel "Lavender" incriminé et de l'enquête que les autorités israéliennes réfutent avec force, retour sur un développement technologique qui change le visage de la guerre.
( AFP / MAHMUD HAMS )
Trois usages majeurs
A l'image de Lavender, l'IA est particulièrement prisée pour le ciblage. L'algorithme traite, à grande vitesse, une multitude de données dont il tire des probabilités censées aider à la prise de décision.
L'IA intervient aussi sur le plan tactique. Exemple: l'essaim de drones, sur lequel la Chine notamment semble très avancée. Chaque appareil pourra à terme communiquer avec les autres et interagir en fonction d'un objectif préalablement assigné.
Au niveau stratégique, elle permet aussi de produire des modélisations du champ de bataille, des hypothèses de réponses à une attaque, voire de l'usage ou non de l'arme nucléaire.
Penser plus vite
Dans un conflit majeur, l'IA propose "des stratégies et des plans militaires en répondant en temps réel à des situations", schématise Alessandro Accorsi, expert de Crisis group. "Le temps de réaction est significativement réduit. Ce qu'un humain peut faire en une heure, elle peut le faire en quelques secondes".
Le dôme de fer, système de défense anti-aérien israélien, peut ainsi détecter l'arrivée d'un projectile, déterminer son type, sa destination et les dégâts qu'il peut provoquer.
"L'opérateur (...) dispose d'une minute pour prendre la décision de neutraliser la roquette ou pas", explique Laure de Roucy-Rochegonde, de l'Institut français des relations internationales.
Or, "très souvent, c'est un jeune qui fait son service militaire, qui a une vingtaine d'années et qui donc n'est pas rompu au droit de la guerre. On peut questionner à quel point son contrôle est significatif".
Un vide éthique sidéral
Objet d'une course aux armements, soumise à l'opacité propre aux choses de la guerre, l'IA s'impose sur le champ de bataille sans que l'humanité n'en ait mesuré toutes les conséquences.
L'homme "prend une décision qui est une recommandation faite par la machine, mais sans savoir les faits sur lesquels s'est appuyée la machine", constate Laure de Roucy-Rochegonde.
"Même si c'est bien un opérateur humain qui appuie sur le bouton, cette méconnaissance ou cette incompréhension, ainsi que la rapidité, font que sa responsabilité dans la décision est assez ténue".
L'IA "est un système de boîte noire. On ne sait pas forcément ce qu'elle a fait ou pensé, ni comment elle est arrivée à ce résultat", confirme Ulrike Franke, pour l'European Council on Foreign relations.
"Pourquoi l'IA me propose telle ou telle cible ? Pourquoi me donne-t-elle ce renseignement et pas un autre? Si on donne l'autonomie (...) létale à une machine (...), c'est une vraie question éthique".
L'Ukraine comme laboratoire
Les Etats-Unis utilisent eux aussi des algorithmes, encore récemment pour frapper les rebelles houthis au Yémen. Mais "la bascule c'est maintenant: l'Ukraine est devenue un laboratoire pour l'usage militaire de l'IA", estime Alessandro Accorsi.
Depuis l'invasion de l'Ukraine par la Russie en février 2022, les deux belligérants ont "développé des solutions d'IA pour des tâches comme le renseignement géospatial, des opérations avec systèmes sans pilote, de l'entraînement militaire et de la cyberguerre", écrit Vitaliy Goncharuk, de l'Observatoire de la défense IA (DAIO) à l'université Helmut Schmidt de Hambourg.
Ce conflit est le premier dans lequel l'IA est utilisée de part et d'autres, soulignant le besoin de remettre "l'homme dans la boucle".
Surenchère et danger nucléaire
Terminator, robot tueur dont l'homme perd le contrôle, relève du fantasme cinématographique. En revanche, les calculs froids de la machine ignorent l'instinct de survie et le doute.
Des chercheurs de quatre instituts et universités américaines ont publié en janvier une étude, dans des simulations de conflit, de cinq grands modèles de langage (LLM, au fonctionnement semblable à ChatGPT).
Ils "ont tendance à développer une dynamique de course aux armements, aboutissent à des conflits plus importants et, dans des cas rares, au déploiement d'armes nucléaires", assurent-ils.
Soucieuses de ne pas être dépassées, les grandes puissances rechignent pourtant à encadrer l'activité. Les présidents américain Joe Biden et chinois Xi Jinping sont convenus en novembre de faire plancher leurs experts respectifs sur le sujet.
Et des discussions ont commencé il y a dix ans aux Nations unies, mais sans résultat majeur. "Il y a des débats sur ce qui doit être fait dans l'industrie de l'IA civile", souligne Alessandro Accorsi. "Mais très peu pour l'industrie de défense".
3 commentaires
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer