suffisante des technologies par l’autorité juridictionnelle pour permettre
le rendu d’une décision juste.
La capacité à expliquer48 le fonctionnement des systèmes constitue
aujourd’hui l’un des grands enjeux associés à l’essor de l’IA et soulève
la question de la maîtrise et de la possibilité d’auditer les procédés
de surveillance mis en œuvre.
2.1.2. Des enjeux spécifiques de gestion de la donnée
et de cohérence du cadre juridique
Le développement de l’usage des SIA par les services de renseignement
soulève deux enjeux spécifiques qui tiennent à la gestion de la donnée
et à la cohérence du cadre juridique en vigueur.
ÉCL AIRAGE 1
L’introduction des SIA interroge les principes de gestion des données
posés par le législateur afin de préserver l’équilibre entre les nécessités
d’intérêt public auxquelles répond la politique publique du renseignement
et la préservation des droits et libertés fondamentaux, en particulier
le respect de la vie privée.
Pour assurer cet équilibre, les dispositions en vigueur du code de la sécurité
intérieure déterminent strictement les modalités d’utilisation des données
recueillies par les services de renseignement, y compris dans le cadre
de la recherche-développement, fixent les durées de conservation
de chaque type de données, encadrent leur possibilité de partage,
au sein et en dehors de la communauté du renseignement, et limitent
les possibilités de croisement des différents fichiers de police administrative.
Or, l’utilisation massive, partagée et croisée des données est
consubstantielle au développement de l’IA d’apprentissage automatique.
Les SIA sont en effet d’autant plus performants qu’ils sont nourris
48. Voir notamment l’analyse concernant l’IA d’apprentissage dans le rapport Villani précité, voir note 23.
165