Intelligence artificielle et robots militaires

En matière d’armement des drones, des débats internes ont empêché toute initiative française pendant près de quinze ans, jusqu’à ce que la ministre des Armées annonce l’armement des drones Reaper (1) lors de l’Université d’été de la Défense de 2017. On notera que cette décision est intervenue après l’armement de leurs drones par les Américains, les Russes, les Chinois, les Israéliens, les Britanniques… et surtout après l’utilisation de drones armés par Daech contre nos propres forces.

Ainsi, il aura donc fallu être rattrapé par la réalité des opérations militaires et la réalité de l’équipement des armées étrangères pour clore des débats internes juridico-éthiques sans pour autant corriger les biais de perception qui accompagnent le monde de la robotique et de l’Intelligence Artificielle (IA). Les progrès de l’IA aidant, il est incontestable que la prochaine génération de systèmes d’armes disposera d’un niveau d’automatisation beaucoup plus poussé et performant que celui que nous connaissons à ce jour. À moins de vouloir courir le risque d’un nouveau décalage avec la réalité des enjeux opérationnels et de la menace militaire, nous devons donc anticiper l’arrivée de ces futurs niveaux d’automatisation et clarifier la terminologie, les concepts d’emploi opérationnels ainsi que les corpus juridique et éthique accompagnant l’ensemble.

Des choix terminologiques bien hasardeux…

Les débats sociétaux et l’agitation médiatique auxquels nous assistons sur l’IA n’auraient probablement pas eu lieu si nous avions gardé la terminologie scientifique et technique initiale, certes peu attrayante, à savoir « traitement du signal », « traitement des données », « algorithmie » et « automatisme ». L’utilisation de ce nouveau champ lexical (intelligence, réseau de neurones, algorithme génétique, autonomie…), qui s’appuie sur des caractéristiques du vivant et de l’homme, est malheureusement source de confusions et de fantasmes dont on a du mal à gérer les conséquences. Elle présente néanmoins le gros avantage de la vulgarisation facile, et donc d’un marketing efficace : un doctorat en intelligence artificielle est nettement plus vendeur qu’un doctorat en automatisme industriel…

Malgré cette nouvelle terminologie, et sans dénier les vrais potentiels de l’IA, nous devons rester lucides quant aux performances réellement accessibles, pour ne pas dire limitées, de cette technologie, car, à ce jour, il apparaît clairement que l’intelligence artificielle reste plus artificielle qu’intelligente. Les déconvenues rapportées dans l’emploi des techniques d’IA dans de nombreux domaines (assistants vocaux, chatbot…) démontrent régulièrement que les seuls mérites de l’IA résident plus dans la puissance de calcul et la réactivité que dans la qualité de ses interactions avec l’humain.

Idéalement, nous devrions donc parler d’informatique algorithmique et non pas d’intelligence artificielle. Luc Julia, cocréateur de Siri, le logiciel de reconnaissance vocale d’Apple, a d’ailleurs publié un livre dont le titre accrocheur résume bien le besoin de revenir à du rationnel : L’intelligence artificielle n’existe pas. L’objectif affiché par l’auteur est bel et bien de « déconstruire le mythe de l’IA ». On pourrait compléter le panorama avec la déclaration récente d’Andrew Moore, vice-président de Google : « L’IA est actuellement très, très stupide »…

Sans aller jusqu’à nier l’existence de l’IA, force est de reconnaître qu’il en existe à ce jour de nombreuses définitions, certaines reposant sur des notions très anthropocentriques et implicitement sur un mythe fantasmagorique : la machine « intelligente ». On notera également que la plupart de ces définitions restent particulièrement absconses pour les non-initiés (voire également pour certains initiés). L’Organisation internationale de standardisation (ISO) doit se pencher prochainement sur le sujet, espérons qu’il en sorte une définition rationnelle et intelligible.

IA et autonomie

L’IA est souvent associée à l’autonomie des systèmes évoluant dans des environnements ouverts ou en interaction avec l’homme. De fait, l’IA consiste bien à développer des algorithmes ultra-­complexes permettant à des systèmes d’évoluer dans des situations où pour l’instant seul l’homme sait réagir à bon escient. Néanmoins, ce n’est pas parce qu’un système évolue dans un environnement ouvert et complexe à l’instar de l’homme que cela en fait un système intelligent ou autonome. Cela en fait surtout un système très bien conçu par des femmes et des hommes ultra-­formés et ultra-­qualifiés. À ce jour, très peu de sociétés peuvent se vanter d’avoir les compétences nécessaires en IA pour garantir, si besoin était, la sécurité des personnes et des biens.

L’autonomie, tout comme l’intelligence, est une des caractéristiques de l’homme qui a acquis un certain savoir-­faire et des connaissances.

Étymologiquement, l’autonomie consiste à être gouverné selon ses propres règles : l’homme est donc bien autonome, puisqu’il lui est toujours possible de sortir, à ses risques et périls, du cadre qui lui est fixé. Dans de nombreux cas, le non-­respect de la règle et la capacité à changer les règles établies dans des environnements nouveaux permettent à l’homme, par un processus quasi darwinien, d’évoluer. La désobéissance est donc également le propre de l’homme et une conséquence de l’autonomie.

Dans cette acception de la notion d’autonomie qui consiste à pouvoir « désobéir », il est peu probable que des systèmes pleinement autonomes aient leur place dans la vie publique, et encore moins dans les forces armées. Alors que tous les médias parlent de véhicule autonome pour la fin de la prochaine décennie, ce qui concourt à l’idée que l’autonomie des machines serait une réalité, le NHTSA (National Highway Transportation Safety Authority), très sérieux organe américain régulateur en matière de véhicules, n’évoque quant à lui dans sa stratégie à aucun moment un quelconque véhicule autonome, mais seulement des « automated driving systems », des « automated vehicles » et des « automation levels », suivant en cela la normalisation internationale (SAE International) en matière de véhicules sans chauffeur.

Selon SAE International et le NHTSA, le niveau ultime du véhicule automatisé, à savoir le véhicule sans volant, serait donc un véhicule « pleinement automatisé » et non pas autonome. Et pour cause, un véhicule autonome aurait la capacité de rouler sur un trottoir en prétextant que cela est plus rapide. Dans ces conditions, personne ne veut de véhicule vraiment autonome ! L’autonomie est donc essentiellement un concept de marketing et un outil de vulgarisation qui accompagne le cortège terminologique marketing de l’IA.

IA et apprentissage

On évoque souvent le fait que l’intelligence artificielle fait de l’« autoapprentissage ». On pourrait préciser utilement qu’il s’agit d’apprentissage automatique, donc non intelligent. Les travaux en matière d’apprentissage, transverses à plusieurs sciences (neurosciences, psychologie, informatique…), donnent lieu à de nombreuses théories et on peut s’accorder sur le fait qu’un processus d’apprentissage se traduit par un changement significatif et permanent des savoir-­faire, des savoirs, des connaissances et donc des règles de comportement. Pour l’humain, l’apprentissage est consubstantiel de la compréhension. Dans le cas de l’IA, l’« apprentissage » se distingue donc de la simple « mise en mémoire », en ce qu’il modifie les règles de comportement de l’IA. Il est cependant peu probable que l’IA comprenne ce qu’elle « apprend » et donne du sens à son apprentissage.

Ainsi, la mémorisation de la fable Le Lièvre et la Tortue de La Fontaine ne constitue pas un apprentissage fondamental en soi. Seule constitue un apprentissage la morale de la fable « Rien ne sert de courir, il faut partir à point » qui devient alors une nouvelle règle ayant du sens et qui modèle un comportement. De même, un joueur d’échecs électronique « mémorise » la position des pièces sur l’échiquier, en déduira le meilleur coup possible selon des algorithmes qui lui sont propres, mais en aucune manière ne réinventera les règles du jeu d’échecs et encore moins ne sortira du cadre de l’échiquier.

Enfin, la « mise en mémoire » d’une cartographie tridimensionnelle par un véhicule dit « autonome » n’aboutit pas à modifier les règles du Code de la route, mais seulement à alimenter son algorithme d’optimisation qui lui permet d’accomplir son déplacement au mieux. De fait, l’IA n’apprend pas, elle ne fait que des calculs d’optimisation, des calculs de cohérence, des calculs statistiques… : l’IA est avant tout un « agent computationnel » et c’est bien là une de ses définitions.

Même reposant sur des « agents computationnels », un apprentissage entièrement autonome, c’est-à‑dire aboutissant à de nouvelles règles de comportement non validées par l’homme, est techniquement possible. Dans les faits, ce sont ces apprentissages qui ont construit des chatbots racistes et sexistes du fait que l’environnement d’apprentissage dans lequel ils ont été plongés était raciste et sexiste. La tentation d’un apprentissage autonome (donc non supervisé et non validé par l’homme) est extrêmement forte, car elle permet, d’une part, de traiter des quantités de données gigantesques en temps quasi réel et, d’autre part, de s’affranchir des coûts monstrueux de la validation par l’homme de l’IA produite.

L’apprentissage autonome est néanmoins fondamentalement dangereux, car il n’y a que l’homme pour s’assurer, conceptuellement, que le domaine d’apprentissage n’est pas biaisé et que les résultats de l’apprentissage sont solides. Une « doctrine » possible pour « l’apprentissage autonome » consisterait donc à n’en autoriser l’utilisation que dans les phases de recherche et de développement. Lors du passage en production, la validation par l’homme devrait alors être obligatoire.

Le point de vue de la doctrine interarmées en matière d’IA

Pour les forces françaises, une doctrine interarmées (2) portant sur « l’emploi de l’intelligence artificielle et des systèmes automatisés » a été publiée en 2018. Cette doctrine était indispensable, car elle a permis de faire un pont entre une terminologie rationnelle (l’automatisme) et une terminologie marketing (l’autonomie).

Dans notre boutique

suscipit vulputate, felis porta. dapibus ut Praesent mattis eget
Votre panier