Magazine DSI HS

Intelligence artificielle et robots militaires

Ainsi, la mémorisation de la fable Le Lièvre et la Tortue de La Fontaine ne constitue pas un apprentissage fondamental en soi. Seule constitue un apprentissage la morale de la fable « Rien ne sert de courir, il faut partir à point » qui devient alors une nouvelle règle ayant du sens et qui modèle un comportement. De même, un joueur d’échecs électronique « mémorise » la position des pièces sur l’échiquier, en déduira le meilleur coup possible selon des algorithmes qui lui sont propres, mais en aucune manière ne réinventera les règles du jeu d’échecs et encore moins ne sortira du cadre de l’échiquier.

Enfin, la « mise en mémoire » d’une cartographie tridimensionnelle par un véhicule dit « autonome » n’aboutit pas à modifier les règles du Code de la route, mais seulement à alimenter son algorithme d’optimisation qui lui permet d’accomplir son déplacement au mieux. De fait, l’IA n’apprend pas, elle ne fait que des calculs d’optimisation, des calculs de cohérence, des calculs statistiques… : l’IA est avant tout un « agent computationnel » et c’est bien là une de ses définitions.

Même reposant sur des « agents computationnels », un apprentissage entièrement autonome, c’est-à‑dire aboutissant à de nouvelles règles de comportement non validées par l’homme, est techniquement possible. Dans les faits, ce sont ces apprentissages qui ont construit des chatbots racistes et sexistes du fait que l’environnement d’apprentissage dans lequel ils ont été plongés était raciste et sexiste. La tentation d’un apprentissage autonome (donc non supervisé et non validé par l’homme) est extrêmement forte, car elle permet, d’une part, de traiter des quantités de données gigantesques en temps quasi réel et, d’autre part, de s’affranchir des coûts monstrueux de la validation par l’homme de l’IA produite.

L’apprentissage autonome est néanmoins fondamentalement dangereux, car il n’y a que l’homme pour s’assurer, conceptuellement, que le domaine d’apprentissage n’est pas biaisé et que les résultats de l’apprentissage sont solides. Une « doctrine » possible pour « l’apprentissage autonome » consisterait donc à n’en autoriser l’utilisation que dans les phases de recherche et de développement. Lors du passage en production, la validation par l’homme devrait alors être obligatoire.

Le point de vue de la doctrine interarmées en matière d’IA

Pour les forces françaises, une doctrine interarmées (2) portant sur « l’emploi de l’intelligence artificielle et des systèmes automatisés » a été publiée en 2018. Cette doctrine était indispensable, car elle a permis de faire un pont entre une terminologie rationnelle (l’automatisme) et une terminologie marketing (l’autonomie).

Conceptuellement, la doctrine française a donc fait le choix de parler d’automatisme, qui s’appuie bien entendu sur de l’IA. Néanmoins, pour des raisons de communication, il a été nécessaire de faire référence à des systèmes semi-­autonomes et pleinement autonomes, cette terminologie étant largement utilisée dans les médias, les organisations non gouvernementales et les instances internationales (ONU, UE) alors même qu’il n’y a pas de définitions agréées et partagées sur ces concepts.

Le recours à l’IA et à des moyens matériels de plus en plus automatisés est nécessaire pour de nombreuses raisons. On retiendra surtout que le modèle d’armée française repose à ce jour sur un nombre « relativement » limité d’hommes : pour être à la hauteur de leurs missions sur le territoire national ou à l’extérieur, les armées doivent donc compenser par un recours à des moyens matériels de plus en plus automatisés et de haute technologie. En clair, si demain l’emploi de l’IA devait être limité, il faudrait envisager de revoir à la hausse le modèle d’armée actuel ou de revoir à la baisse ses missions. Dans ce contexte, que dit la doctrine ?
• Les systèmes automatisés peuvent être supervisés, semi-­autonomes ou pleinement autonomes.
• Les systèmes semi-­autonomes sont subordonnés à la chaîne de commandement qui garde la responsabilité de l’emploi de ces systèmes.
• Les systèmes pleinement autonomes ne sont pas subordonnés à une chaîne de commandement et sont capables entre autres de redéfinir leur cadre d’emploi (règles, mission…). Outre le fait que ces systèmes n’existent pas, il n’y a pas à ce jour de concept d’emploi identifié associé à ce type de système dans les armées conventionnelles respectueuses du droit international.

Pour la doctrine interarmées, le commandement est responsable de la décision de l’emploi des systèmes en tout temps et en tout lieu, ces derniers devant rester subordonnés à l’homme. Par ailleurs, le droit international humanitaire reste applicable.

Le respect du droit international humanitaire

Le droit international humanitaire, qui s’est fixé pour objectif de limiter les effets des guerres sur les populations civiles, repose sur quatre grands principes : humanité, nécessité, distinction et proportionnalité. Les débats à l’ONU en matière de SALA (Systèmes d’Armes Létaux Autonomes) font apparaître trois grands types d’arguments :
• le premier, soutenu par les ONG, développe l’idée que la robotisation, grâce à laquelle l’homme ne risque plus nécessairement sa vie, baisse le seuil d’engagement des armées. Celles-ci, ne risquant rien, seraient alors plus susceptibles d’employer la force ;
• le deuxième argument, qui commence à être développé notamment par les États-Unis, postule que la robotisation est de nature à garantir un meilleur respect du droit international humanitaire. En effet, la robotisation constitue une nouvelle alternative dans la panoplie du décideur qui peut se révéler, dans des scénarios particuliers, une option tout à fait intéressante. Dans des combats de haute intensité en zone urbaine, par exemple, des systèmes automatisés performants feraient probablement plus de place à la distinction et à l’action chirurgicale que des combats rapprochés où des civils peuvent être utilisés en bouclier humain.

À titre d’illustration sur l’ampleur des enjeux, on peut se reporter à la libération de Mossoul par les forces irakiennes en 2017. Les résultats sont édifiants : plusieurs milliers de civils pris en otages et tués, victimes de l’État islamique, mais aussi des bombardements et de la coalition, une ville détruite dont la reconstruction coûtera plusieurs milliards de dollars, sans compter les pertes de l’ordre de 30 % dans la « Golden Division », la division d’élite de l’armée irakienne ;
• le dernier argument alimentant les débats sur les SALA est lié au devoir d’efficience des armées qui doivent pouvoir mener leurs actions et défendre le droit. Cette nécessité entraîne le devoir de s’armer des technologies les plus efficientes.

Force est de constater que l’ensemble des arguments, qu’ils soient en faveur ou en défaveur des SALA, sont recevables. Dans ces conditions, il n’est pas évident qu’un nouveau droit international naisse des travaux sur les SALA.

À propos de l'auteur

Avatar

Patrick BEZOMBES

Ingénieur général de l’armement, directeur adjoint du Centre Interarmées de Concepts, de Doctrine et d’Expérimentation (CICDE).

Ajouter un commentaire

Cliquez ici pour poster un commentaire

Bienvenue sur Areion24.news.
Ce site regroupe une sélection d'articles et d'entretiens rédigés par des spécialistes des questions internationales et stratégiques (chercheurs, universitaires, etc.) et publiés dans les magazines Diplomatie, Carto, Moyen-Orient et DSI.

Les Grands Dossiers de Diplomatie n°54 - L'état des conflits dans le monde - décembre 2019-janvier 2020

Dans notre boutique

Calendar

janvier 2020
L M M J V S D
« Déc    
 12345
6789101112
13141516171819
20212223242526
2728293031  

RSS Meks Blog

  • Top 3 proven methods to monetize your WordPress site or blog 17 décembre 2019
    Eager to learn how to monetize your WordPress site or blog in an easy way? Read our guide and learn all about it! The post Top 3 proven methods to monetize your WordPress site or blog appeared first on Meks.
    Ivana Cirkovic
  • Top 8 WordPress audio player plugins to enhance your podcast or music 15 novembre 2019
    What are the top WordPress audio player plugins to choose from for your next music or podcast project? Take your pick from our suggestions! The post Top 8 WordPress audio player plugins to enhance your podcast or music appeared first on Meks.
    Ivana Cirkovic
  • How to add Instagram photo feed to your WordPress site (in 5 minutes!) 1 octobre 2019
    How (and why) to add Instagram to WordPress and see more benefits from that match? We give you all the details and tools to do it successfully yourself! The post How to add Instagram photo feed to your WordPress site (in 5 minutes!) appeared first on Meks.
    Ivana Cirkovic
  • 15 best headline & blog title generator tools to easily boost your SEO 12 septembre 2019
    Ready to increase traffic to your website today? Use these headline generator tools and improve your click-through-rates! The post 15 best headline & blog title generator tools to easily boost your SEO appeared first on Meks.
    Ivana Cirkovic
  • How to create a Facebook Page for your blog (plus PRO tips) 4 septembre 2019
    Wondering how to create a Facebook Page for your blog knowing that you really do need one? Follow our in depth guide and learn how to create and manage attractive and successful Facebook Page! The post How to create a Facebook Page for your blog (plus PRO tips) appeared first on Meks.
    Ivana Cirkovic
  • Beginners guide on how to redirect a page in WordPress 29 août 2019
    Whether you’re trying to redirect a page in WordPress or just want to discover and understand why it’s important, use this guide to help you get ahead of it and learn all there is to it. The post Beginners guide on how to redirect a page in WordPress appeared first on Meks.
    Ivana Cirkovic
  • The best Facebook Groups for SEO to improve your knowledge and rankings 21 août 2019
    Are you tired of searching for the best Facebook groups for SEO to improve your knowledge and learn about the tricks from the trade? The post The best Facebook Groups for SEO to improve your knowledge and rankings appeared first on Meks.
    Ivana Cirkovic
  • Useful rank tracking plugin and tools recommendation to improve your WordPress website SEO 15 août 2019
    Are you looking for a reliable rank tracking plugin to track your rankings on search engines and improve SEO strategy? Here is our top recommendation! The post Useful rank tracking plugin and tools recommendation to improve your WordPress website SEO appeared first on Meks.
    Ivana Cirkovic
  • 6 reasons why you should never use WordPress nulled themes 7 août 2019
    What are WordPress nulled themes and should you use them, are they really that bad as people say or it’s just to scare you away from using the good stuff for free? In this article, we’re explaining in details why you should never ever use these kinds of themes. The post 6 reasons why you […]
    Ivana Cirkovic
  • Top 6 WordPress Portfolio plugins (hand-picked by designers) 31 juillet 2019
    Wondering what type of WordPress Portfolio plugins to use to showcase your work? Read our recommendation and choose between these top eight I present to you today. The post Top 6 WordPress Portfolio plugins (hand-picked by designers) appeared first on Meks.
    Ivana Cirkovic

Text

Distinctively utilize long-term high-impact total linkage whereas high-payoff experiences. Appropriately communicate 24/365.

Pin It on Pinterest

Votre panier
Areion24.news

GRATUIT
VOIR