Magazine Les Grands Dossiers de Diplomatie

Les usages malveillants de l’intelligence artificielle au service de la cybercriminalité

Dans le domaine de la robotique militaire (R8), une course mondiale aux armements semi-autonomes s’est installée durablement, accélérée par des enjeux de souveraineté et les tensions internationales. Les gouvernements doivent désormais prendre en compte le risque élevé de dissémination et d’utilisation de systèmes armés semi-autonomes ou autonomes rudimentaires dans le cadre d’opérations terroristes. Le risque de mise en œuvre terroriste ou mafieuse d’un SALA (système armé létal autonome) figure dans deux vidéos « Slaughterbots » publiées par un collectif d’ONG militant pour une interdiction à l’ONU des robots armés autonomes (3). Pour autant, un texte signé à l’ONU interdisant le développement et l’usage de SALA n’aurait aucune influence sur l’emploi de ces systèmes par un groupe terroriste. Les technologies civiles permettant de développer un robot terrestre équipé d’une mitrailleuse ou un drone aérien équipé de mortiers sont disponibles sur étagère. Le software lui conférant une autonomie rudimentaire de détection et d’acquisition de cibles est également disponible sur étagère. Un drone aérien dédié à l’épandage agricole doté d’une capacité d’emport de 16 kg s’achète pour moins de 1000 euros sur eBay ou AliExpress. Les plateformes terrestres chenillées métalliques téléopérables de 30 kg de charge utile sont accessibles chez des vendeurs chinois d’eBay pour moins de 600 euros. Un robot quadrupède Cyberdog développé par le constructeur de trottinettes Xiaomi coûte moins de 2500 euros alors que le modèle équivalent SPOT, développé par Boston Dynamics, coûte 80 000 dollars. Ces quelques exemples accessibles au grand public nous montrent que la dissémination des plateformes robotisées aéroterrestres et navales s’effectue par la robotique civile accessible à tous et « customisable » par tous. De telles plateformes peuvent facilement être transformées en systèmes armés télé-opérables puis dérivées en systèmes armés autonomes en y ajoutant un software de déplacement autonome et de reconnaissance d’humains. Le risque terroriste dénoncé par les ONG est donc bien réel avec ou sans texte d’interdiction signé à l’ONU. Pour contrer ce risque, il est urgent de développer et de « démocratiser » les systèmes de brouillages pour sécuriser certains évènements. Il faut aussi concevoir de la robotique de neutralisation, anti-robot, anti-drones, anti-essaims capable de réagir en temps réel face à une attaque terroriste robotisée.

Les 20 menaces les plus dangereuses de l’IA

Sources : University College London (UCL)/https://crimesciencejournal.biomedcentral.com/articles/10.1186/s40163-020-00123-8#Fig2[/mks_accordion_item]

Notes

(1) Thierry Berthier & Bruno Teboul, « From Digital Traces to Algorithmic Projections », 2018, ISTE WILEY, ELSEVIER (http://​www​.iste​.co​.uk/​b​o​o​k​.​p​h​p​?​i​d​=​1​372).

(2) Les douze révolutions sectorielles mondiales de la robotique : R1 – Révolution de la robotique agricole ; R2 – Robotique de dépollution automatique des sols, airs, mers ; R3 – Robotique de l’industrie et logistique ; R4 – Robotique du transport et des mobilités ; R5 – Robotique de l’aéronautique et du spatial ; R6 – Robotique de la construction et BTP ; R7 – Robotique de la sécurité civile ; R8 – Robotique militaire ; R9 – Robotique chirurgicale et cellulaire ; R10 – Robotique des prothèses et de l’augmentation humaine ; R11 – Robotique domotique de l’habitat et du quotidien ; R12 – Robotique de l’automobile et du camion autonome.

(3) Slaughterbots – if human : kill() (https://​www​.youtube​.com/​w​a​t​c​h​?​v​=​9​r​D​o​1​Q​x​I​260).

Légende de la photo en première page : Si l’intelligence artificielle est devenue un outil indispensable pour la police, elle l’est aussi pour les criminels, qui sont entrés dans la course en apprenant notamment à laisser de fausses traces sur les supports numériques, afin d’induire la police en erreur. (© Shutterstock)

Article paru dans la revue Les Grands Dossiers de Diplomatie n°66, « Géopolitique de la criminalité », Février- Mars 2022.

À propos de l'auteur

Thierry Berthier

Maître de conférences en mathématiques, cryptographie, chercheur associé au CREC ESM Saint-Cyr en cyberdéfense et directeur du groupe « Sécurité - Intelligence artificielle - Robotique » du Hub France IA.

À propos de l'auteur

Bruno Teboul

Executive vice-president Cybersécurité & Intelligence artificielle chez ALEIA et chercheur associé à l’UTC (Compiègne).

Lectures offertes

Lectures offertes

Afin de permettre une meilleure compréhension des évènements qui frappent aujourd'hui l'Ukraine, nous partageons GRATUITEMENT les derniers numéros des nos magazines DIPLOMATIE et DSI consacrés à la géopolitique et aux forces militaires russes. Bonne lecture !

Bienvenue sur Areion24.news,
le portail d'information dédié aux relations internationales et aux questions de Défense des publications d'Areion Group. Ce site regroupe une sélection d'articles et d'entretiens rédigés par des spécialistes des questions géopolitiques et stratégiques publiés dans nos différents magazines.

Votre panier