Magazine DSI HS

Intelligence artificielle et robots militaires

En matière d’armement des drones, des débats internes ont empêché toute initiative française pendant près de quinze ans, jusqu’à ce que la ministre des Armées annonce l’armement des drones Reaper (1) lors de l’Université d’été de la Défense de 2017. On notera que cette décision est intervenue après l’armement de leurs drones par les Américains, les Russes, les Chinois, les Israéliens, les Britanniques… et surtout après l’utilisation de drones armés par Daech contre nos propres forces.

Ainsi, il aura donc fallu être rattrapé par la réalité des opérations militaires et la réalité de l’équipement des armées étrangères pour clore des débats internes juridico-éthiques sans pour autant corriger les biais de perception qui accompagnent le monde de la robotique et de l’Intelligence Artificielle (IA). Les progrès de l’IA aidant, il est incontestable que la prochaine génération de systèmes d’armes disposera d’un niveau d’automatisation beaucoup plus poussé et performant que celui que nous connaissons à ce jour. À moins de vouloir courir le risque d’un nouveau décalage avec la réalité des enjeux opérationnels et de la menace militaire, nous devons donc anticiper l’arrivée de ces futurs niveaux d’automatisation et clarifier la terminologie, les concepts d’emploi opérationnels ainsi que les corpus juridique et éthique accompagnant l’ensemble.

Des choix terminologiques bien hasardeux…

Les débats sociétaux et l’agitation médiatique auxquels nous assistons sur l’IA n’auraient probablement pas eu lieu si nous avions gardé la terminologie scientifique et technique initiale, certes peu attrayante, à savoir « traitement du signal », « traitement des données », « algorithmie » et « automatisme ». L’utilisation de ce nouveau champ lexical (intelligence, réseau de neurones, algorithme génétique, autonomie…), qui s’appuie sur des caractéristiques du vivant et de l’homme, est malheureusement source de confusions et de fantasmes dont on a du mal à gérer les conséquences. Elle présente néanmoins le gros avantage de la vulgarisation facile, et donc d’un marketing efficace : un doctorat en intelligence artificielle est nettement plus vendeur qu’un doctorat en automatisme industriel…

Malgré cette nouvelle terminologie, et sans dénier les vrais potentiels de l’IA, nous devons rester lucides quant aux performances réellement accessibles, pour ne pas dire limitées, de cette technologie, car, à ce jour, il apparaît clairement que l’intelligence artificielle reste plus artificielle qu’intelligente. Les déconvenues rapportées dans l’emploi des techniques d’IA dans de nombreux domaines (assistants vocaux, chatbot…) démontrent régulièrement que les seuls mérites de l’IA résident plus dans la puissance de calcul et la réactivité que dans la qualité de ses interactions avec l’humain.

Idéalement, nous devrions donc parler d’informatique algorithmique et non pas d’intelligence artificielle. Luc Julia, cocréateur de Siri, le logiciel de reconnaissance vocale d’Apple, a d’ailleurs publié un livre dont le titre accrocheur résume bien le besoin de revenir à du rationnel : L’intelligence artificielle n’existe pas. L’objectif affiché par l’auteur est bel et bien de « déconstruire le mythe de l’IA ». On pourrait compléter le panorama avec la déclaration récente d’Andrew Moore, vice-président de Google : « L’IA est actuellement très, très stupide »…

Sans aller jusqu’à nier l’existence de l’IA, force est de reconnaître qu’il en existe à ce jour de nombreuses définitions, certaines reposant sur des notions très anthropocentriques et implicitement sur un mythe fantasmagorique : la machine « intelligente ». On notera également que la plupart de ces définitions restent particulièrement absconses pour les non-initiés (voire également pour certains initiés). L’Organisation internationale de standardisation (ISO) doit se pencher prochainement sur le sujet, espérons qu’il en sorte une définition rationnelle et intelligible.

IA et autonomie

L’IA est souvent associée à l’autonomie des systèmes évoluant dans des environnements ouverts ou en interaction avec l’homme. De fait, l’IA consiste bien à développer des algorithmes ultra-­complexes permettant à des systèmes d’évoluer dans des situations où pour l’instant seul l’homme sait réagir à bon escient. Néanmoins, ce n’est pas parce qu’un système évolue dans un environnement ouvert et complexe à l’instar de l’homme que cela en fait un système intelligent ou autonome. Cela en fait surtout un système très bien conçu par des femmes et des hommes ultra-­formés et ultra-­qualifiés. À ce jour, très peu de sociétés peuvent se vanter d’avoir les compétences nécessaires en IA pour garantir, si besoin était, la sécurité des personnes et des biens.

L’autonomie, tout comme l’intelligence, est une des caractéristiques de l’homme qui a acquis un certain savoir-­faire et des connaissances.

Étymologiquement, l’autonomie consiste à être gouverné selon ses propres règles : l’homme est donc bien autonome, puisqu’il lui est toujours possible de sortir, à ses risques et périls, du cadre qui lui est fixé. Dans de nombreux cas, le non-­respect de la règle et la capacité à changer les règles établies dans des environnements nouveaux permettent à l’homme, par un processus quasi darwinien, d’évoluer. La désobéissance est donc également le propre de l’homme et une conséquence de l’autonomie.

Dans cette acception de la notion d’autonomie qui consiste à pouvoir « désobéir », il est peu probable que des systèmes pleinement autonomes aient leur place dans la vie publique, et encore moins dans les forces armées. Alors que tous les médias parlent de véhicule autonome pour la fin de la prochaine décennie, ce qui concourt à l’idée que l’autonomie des machines serait une réalité, le NHTSA (National Highway Transportation Safety Authority), très sérieux organe américain régulateur en matière de véhicules, n’évoque quant à lui dans sa stratégie à aucun moment un quelconque véhicule autonome, mais seulement des « automated driving systems », des « automated vehicles » et des « automation levels », suivant en cela la normalisation internationale (SAE International) en matière de véhicules sans chauffeur.

Selon SAE International et le NHTSA, le niveau ultime du véhicule automatisé, à savoir le véhicule sans volant, serait donc un véhicule « pleinement automatisé » et non pas autonome. Et pour cause, un véhicule autonome aurait la capacité de rouler sur un trottoir en prétextant que cela est plus rapide. Dans ces conditions, personne ne veut de véhicule vraiment autonome ! L’autonomie est donc essentiellement un concept de marketing et un outil de vulgarisation qui accompagne le cortège terminologique marketing de l’IA.

IA et apprentissage

On évoque souvent le fait que l’intelligence artificielle fait de l’« autoapprentissage ». On pourrait préciser utilement qu’il s’agit d’apprentissage automatique, donc non intelligent. Les travaux en matière d’apprentissage, transverses à plusieurs sciences (neurosciences, psychologie, informatique…), donnent lieu à de nombreuses théories et on peut s’accorder sur le fait qu’un processus d’apprentissage se traduit par un changement significatif et permanent des savoir-­faire, des savoirs, des connaissances et donc des règles de comportement. Pour l’humain, l’apprentissage est consubstantiel de la compréhension. Dans le cas de l’IA, l’« apprentissage » se distingue donc de la simple « mise en mémoire », en ce qu’il modifie les règles de comportement de l’IA. Il est cependant peu probable que l’IA comprenne ce qu’elle « apprend » et donne du sens à son apprentissage.

Bienvenue sur Areion24.news.
Ce site regroupe une sélection d'articles et d'entretiens rédigés par des spécialistes des questions internationales et stratégiques (chercheurs, universitaires, etc.) et publiés dans les magazines Diplomatie, Carto, Moyen-Orient et DSI.

Les Grands Dossiers de Diplomatie n°54 - L'état des conflits dans le monde - décembre 2019-janvier 2020

Dans notre boutique

Pin It on Pinterest

Votre panier
Areion24.news

GRATUIT
VOIR