De la même manière, il rend plus cruciales encore les évolutions
préconisées par la CNCTR en matière de centralisation des données
recueillies et d’accès à distance54 à ces données aux fins de contrôle,
eu égard aux risques et enjeux précédemment évoqués.
Dans le contexte normatif actuel, il amène aussi au développement
d’une nouvelle modalité du contrôle ex ante au travers de la formulation
de lignes directrices ou de recommandations visant, dans l’imprécision
ou le silence du code de la sécurité intérieure, à veiller à la compatibilité
des technologies employées par les services avec des principes généraux
posés par les textes.
ÉCL AIRAGE 1
Cette possibilité, qui peut s’inscrire dans les prérogatives générales
de formulation de recommandations, observations et avis reconnues
à la CNCTR par les articles L. 833-6, L. 833-10 et L. 833-11 du code
de la sécurité intérieure, est un outil essentiel pour éviter que ne
se développe l’usage par les services de « boites noires », à l’impact
peu ou mal connu. Elle est de fait une voie permettant d’appliquer aux
outils d’IA utilisés en matière de renseignement une régulation prudentielle
relevant du même esprit que celle prévue pour les SIA à haut
risque par la réglementation européenne, qui impose aux fournisseurs
une certification des modèles et applications d’intelligence artificielle.
Dans une démarche analogue à celle fixée par l’AI Act, cet axe de
contrôle consiste, au vu des caractéristiques des procédés et
algorithmes proposés par les services et de la documentation technique
transmise, à auditer ces outils et analyser leur impact sur les principes
légaux et les droits fondamentaux, puis à recommander une doctrine
d’emploi. Celle‑ci s’attache tant à assurer le respect des règles générales
posées par le code de la sécurité intérieure qu’à veiller à la prise en
compte des principes nécessaires à la préservation des droits et libertés
fondamentaux, tels l’impératif du contrôle humain sur les résultats
des SIA ou le caractère individualisé de la surveillance domestique.
54. Voir point 3.1 du rapport d’activité.
171