À cet égard, l’accent est d’abord mis sur le risque de déresponsabilisation
de l’agent « décideur », ainsi que sur les biais introduits dans sa décision,
les SIA n’étant jamais neutres puisqu’ils sont paramétrés par l’homme
en incorporant inévitablement des partis pris.
Une telle difficulté se pose dans le domaine du renseignement
comme dans le reste du champ de l’action publique, avec toutefois
une acuité particulière du fait de la sensibilité de la matière. En dehors
du cas particulier de la technique de l’algorithme, l’encadrement
juridique de la mise en œuvre des techniques de renseignement est
en effet centré sur l’exploitation humaine des données recueillies et
fait ainsi reposer sur une personne la responsabilité de vérifier la finalité
d’intérêt public poursuivie, le caractère fondé d’une surveillance et
la proportionnalité de l’ingérence dans les droits et libertés fondamentaux
à la menace ou aux enjeux en cause.
L’usage d’outils de SIA, rapides et puissants, peut laisser craindre
que les technologies ne soient pas qu’une simple aide à la prise de
décision mais se substituent à l’agent dans sa tâche, celui‑ci
se bornant à entériner les résultats proposés par la machine.
Un hiatus pourrait de ce fait voir le jour entre une responsabilité
ressentie de l’agent et sa responsabilité juridique, notamment pénale,
telle qu’elle est fixée par l’article L. 862-2 du code de la sécurité intérieure.
En outre, la perte de contrôle humain prend une dimension particulière
avec les développements de l’IA générative. En effet, les SIA basés sur
des procédés d’apprentissage profond ou même seulement sur des
algorithmes particulièrement complexes se caractérisent par leur opacité.
Ces SIA peuvent vite s’avérer trop compliqués pour pouvoir être présentés
et compris par les agents chargés de les utiliser. Au‑delà de ces agents,
l’opacité des SIA représente un défi particulier pour les personnes
et autorités chargées de les contrôler. Elle pourrait même questionner
le droit à un recours juridictionnel effectif, qui nécessite une compréhension
164