Aujourd’hui, au‑delà de l’usage évident en matière d’administration
des forces de défense et de sécurité (gestion du personnel, logistique,
maintenance, etc.), les procédés d’intelligence artificielle sont très
présents au plan opérationnel, dans la mise en œuvre même des activités
de sécurité, sous leurs nombreuses formes (traitement automatisé
de l’information, interfaces homme-machine, robotique, etc.).
Il n’existe pas de recensement exhaustif de tous les cas d’usage
des SIA par les autorités publiques en charge des politiques de défense
et de sécurité, mais quelques exemples de développements récents
permettent d’illustrer l’utilité et l’importance de ces procédés9.
Le domaine de la défense est sans doute celui où l’usage de l’IA
est le plus ancien et le plus intense. Aujourd’hui, l’utilisation des SIA
en cette matière est très importante pour la conduite opérationnelle,
de l’appui au combat jusqu’aux systèmes d’armes, les matériels de
combats les plus sophistiqués utilisant tous un ou plusieurs SIA.
En 2023, le recours possible à des « robots tueurs » a ainsi suscité
de vifs débats sur la scène internationale eu égard au risque que
représente la suppression du contrôle humain dans le recours à la force10.
Sans aller jusqu’à cette possibilité d’utilisation d’un engin armé autonome
sans tutelle humaine, les systèmes d’armes automatisés,
possiblement létaux11, existent depuis longtemps et la recherche
pour développer l’autonomie des systèmes d’armes n’a fait que s’accélérer
ces dernières années avec l’essor des méthodes d’apprentissage
de l’IA (ou « machine learning »).
9. Voir notamment l’étude réalisée par le Conseil d’État à la demande du Premier ministre, Intelligence artificielle et action publique :
Construire la confiance, Servir la performance, adoptée en assemblée générale plénière le 31 mars 2022, qui comporte une
cartographie des cas d’usage de l’IA notamment dans les domaines de la défense et de la sécurité et des activités d’enquête,
de contrôle et de sanction (annexe 9).
10. À
cet égard, une résolution 78/241 de l’Assemblée générale des Nations-Unies, votée par 152 pays le 22 décembre 2023,
relève que « les enjeux de taille et les vives inquiétudes que soulève […] l’utilisation de nouvelles applications technologiques dans
le domaine militaire, y compris celles liées à l’intelligence artificielle et à l’autonomie des systèmes d’armes », témoignant tant des
développements techniques issus de l’IA que des enjeux entourant les nouvelles formes d’armes désignées sous le vocable de
« systèmes d’armes létaux autonomes » (ou SALA).
11. P
armi ces systèmes d’armes létales automatisées, figurent par exemple les systèmes de défense antimissile, dont le succès
technique repose sur l’IA, dès lors que le délai de réaction, pour pouvoir être utilement employés, exclut le recours à une
décision humaine (autre que de principe en amont, en activant le système), ou encore, de façon plus récente, les drones armés
tels que les drones Predator et Reaper de la société américaine General Atomics Aeronautical Systems, dont certains ont été ou
sont utilisés dans des conflits, notamment au Moyen-Orient ou en Ukraine.
140