Si un certain nombre de chercheurs et de militants peuvent jouer de la confusion entre « robot tueur » et « système doté d’une autonomie », c’est d’abord parce que cette notion d’autonomie, qu’elle soit instrumentalisée ou mal comprise, est polysémique, montrant une large palette d’expressions. Dans un monde où les notions liées aux probabilités sont mal comprises (1), mais aussi dans un contexte de réelle complexité technique, qu’est-ce que l’autonomie dans le champ des matériels militaires ?
Les différentes acceptions de l’autonomie impliquent de prendre en considération la notion d’Intelligence artificielle (IA). Si DSI a déjà largement abordé ce sujet (2), signalons ici que les IA sont, jusqu’ici, dites « faibles » : ce sont des systèmes logiciels complexes débouchant sur des résultats au terme de calculs. L’IA faible renvoie pour l’essentiel à l’évolution incrémentale de logiciels et à l’évolution naturelle de l’informatique. Même les systèmes liés à l’apprentissage statistique renvoient pour l’heure à une IA faible. Cela permet de comparer ce qui est observé avec une base de données pour en déduire, par exemple, une identification avec un certain degré de probabilité.
Biais anthropomorphique
La notion d’IA partage avec celle d’autonomie un biais anthropomorphique : ces notions sont assimilées à la faculté d’adaptation de l’humain et à son aptitude à prendre des décisions, voire à établir le propre cadre de son action. C’est évidemment trompeur : y parvenir nécessiterait une IA « forte », techniquement hors de portée. Or, qu’il s’agisse de SALA – le Système d’arme létal autonome – ou de « robot tueur », une ambiguïté persiste sur la notion d’autonomie : n’est-elle pas, malgré tout, précisément parce qu’il est question d’une autonomie se définissant sur un spectre large, une forme d’IA forte ? Un glissement « de l’autre côté », c’est-à‑dire vers une décision d’engagement (pour ce qui concerne les systèmes d’armes), n’est-il pas en train de s’opérer ? Tout dépend de ce que l’on entend par « décision » et de ses conditions de production.
En effet, si la distinction entre IA faibles et IA fortes peut laisser la porte ouverte au soupçon, une autre distinction paraît plus utile et a d’ailleurs récemment été reprise par le Comité d’éthique de la défense. Elle fait la part entre automatisme et autonomie et est autrement plus opérante. De facto, les IA faibles sont des automatismes complexes qui conduisent à des actions sur la base d’informations paramétrées là où l’autonomie renvoie à des décisions sur la base d’informations paramétrées… et/ou appréciées, parce qu’elles prennent en compte des facteurs intangibles. Sémantiquement parlant, l’autonomie est en effet l’aptitude à définir les propres normes de sa conduite. Pour prendre un exemple concret, la « voiture autonome » ne l’est pas, en réalité. Ce n’est, en effet, pas elle qui définit le code de la route, ni qui décide où elle va, quand et avec qui à bord – en réalité, elle n’a pas le libre arbitre d’un conducteur humain.
En revanche, elle est automatisée. Elle va suivre son système de navigation pour progresser vers la destination qu’on lui a assignée et, en fonction de ce que détectent ses capteurs, elle adaptera sa vitesse, s’arrêtera aux carrefours et restera au centre de la route dès lors. Le système couple donc des capteurs, une capacité de calcul programmée et des actuateurs ayant une action sur la plate-forme (la voiture). Même la résolution du dilemme entre écraser un piéton détecté trop tard et faire sortir la voiture de la route pour l’éviter – au risque de blesser ou de tuer les passagers – est elle-même le fruit d’une programmation. Si le calculateur n’a pas été programmé pour éviter un obstacle sur la route, il le percutera.
Le spectre de l’automatisation
Revenons cette fois aux matériels militaires. S’il n’existe pas de système autonome comme pourrait l’être le T‑1000 de Terminator, qui dispose manifestement d’un libre arbitre, il n’en demeure pas moins que les automatismes complexes sont de plus en plus fréquemment utilisés, y compris dans des systèmes d’armes à proprement parler. Peut-on établir une typologie ?
Automatismes fonctionnels
On peut d’abord considérer les automatismes fonctionnels – typiquement, un pilote automatique ou encore une capacité ATOL (Automatic take-off and landing). Souvent citée pour les drones, cette dernière est développée depuis les années 1960. En 1963, un F‑8D et un F‑4A effectuent ainsi leur premier appontage de manière totalement automatique – en prenant en compte le roulis et le tangage du pont, impliquant une dynamique plus complexe que les drones contemporains. Évidemment, il n’est pas question ici d’usage d’armement – sur lequel les commentateurs tendent à se focaliser en fonction de leurs implications –, mais, en réalité, c’est sans doute là que les IA pourront jouer un rôle important. C’est par exemple le cas pour les mules robotisées.
La mutation des automatismes fonctionnels a, du reste, des implications en matière de ciblage. Dans les années 1970 apparaît le TERCOM (Terrain contour matching) qui permet au missile Tomahawk de comparer les données issues de son altimètre radar à une carte des relevés de reliefs : il navigue en comparant ses données avec les reliefs à suivre. Ce système est encore amélioré dans les années 1980 avec l’étude puis la mise en service du DSMAC (Digitized scene-mapping area correlator). Les mémoires et les capteurs ont évolué et le système compare alors l’imagerie infrarouge qu’il recueille et des images en mémoire. Jusqu’au début des années 2000, ce système de navigation s’avère plus précis que le GPS par exemple. Cette corrélation capteur/scène est également utilisée pour augmenter la précision terminale de la frappe du missile Pershing II. L’imagerie est en revanche radar et non infrarouge.
Cette capacité du Pershing à reconnaître sa cible rappelle évidemment la capacité d’un missile air-air ou antiradar : un paramètre doit être reconnu et le capteur du système permet de générer les données permettant le verrouillage sur la cible. Les capteurs peuvent évoluer : le missile AIM‑9X Sidewinder comporte ainsi un imageur infrarouge plutôt qu’un autodirecteur, ce qui permet de faire le tri entre une cible pertinente et un leurre. Une mine navale comme la CAPTOR peut lancer une torpille Mk46 sur une signature acoustique bien spécifique. Mais, en l’occurrence, les capteurs sont optimisés pour un type de cible particulier et le tir, comme pour le Pershing ou le Tomahawk, intervient dans des conditions spécifiques, l’humain n’en étant pas exclu.
Plus largement, l’automatisation de fonctions avancées est au cœur de la deuxième stratégie d’offset (3). Elle trouve des applications aussi complexes que le système de combat Aegis et ses différentes itérations, développé dès la fin des années 1970. Le fait que ce système, conçu pour faire face à une attaque de saturation de missiles antinavires soviétiques, n’ait pas été utilisé dans un environnement opérationnel aussi complexe que celui du golfe Persique en 1988, alors que l’équipage du croiseur Vincennes n’était pas entraîné pour compenser, a conduit à la destruction d’un Airbus d’Iran Air. En réalité, l’Aegis avait été conçu pour faire face à des attaques de saturation exigeant une réponse rapide. La multiplication de traces radars, couplées à une interrogation IFF (Identification friend or foe) devait conduire au lancement d’un nombre déterminé de missiles, en utilisant les illuminateurs SPG‑62. Elle trouve également d’autres applications, comme le programme Assault Breaker, qui devait repérer les axes de progression adverses avant de lancer automatiquement des missiles eux-mêmes équipés de sous-munitions à guidage terminal et devant attaquer les véhicules par le toit. Seuls quelques éléments du système (radar Joint-STARS, missile MGM‑140 ATACMS) entreront en service.
Les automatismes ATA
Un tournant s’opère dans les années 1990 avec l’apparition des systèmes ATA (Automatic target acquisition) : la puissance de calcul et celle des mémoires rencontrent de nouveaux capteurs. Émerge alors le programme LOCAAS (Low cost autonomous attack system). Doté d’un petit réacteur, le missile de 45 kg utilise d’abord un guidage inertiel couplé à un GPS après largage. En phase terminale, il entre dans une configuration de munition rôdeuse : un LADAR (Laser radar) crée alors une modélisation 3D des véhicules se présentant au-dessous de lui qui est alors comparée à une bibliothèque de modélisations 3D et, si une cible est identifiée, la munition bascule dessus. Le système, destiné à automatiser la destruction d’une vague de blindés, n’est jamais entré en service : les priorités stratégiques n’étaient plus là.
