Dès lors, l’emploi des nouvelles technologies en matière sécuritaire
peut être perçu, non comme un facteur de promotion de la sécurité
collective, mais comme un instrument de la surveillance de masse,
sentiment nourri par la méfiance que ressent une partie de la population
vis-à-vis de l’État et de ses fonctions régaliennes.
Les pratiques de certains gouvernements ont, il est vrai, montré
les capacités des nouvelles technologies de surveillance.
Emblématique en la matière, le régime communiste chinois a développé
un projet inédit de surveillance de ses citoyens, s’appuyant en particulier
sur le déploiement d’un système de crédit social, dispositif de contrôle
permanent des individus se basant sur l’intelligence artificielle et
le « Big Data ».
ÉCL AIRAGE 1
Sans verser dans la crainte de la reproduction généralisée d’un tel modèle,
la démultiplication de la surveillance que permet l’automatisation
comporte toutefois intrinsèquement un risque majeur d’atteinte au droit
au respect de la vie privée, notamment de protection des données
personnelles, et menace par ricochet la liberté d’expression par le
phénomène d’autocensure que le déploiement de dispositifs de
surveillance peut engendrer, influant ainsi sur les comportements et
l’équilibre psychologique des individus (« chilling effect »). Si la plupart
des SIA développés n’ont ni pour objet ni pour effet de modifier
les conditions dans lesquelles les données sont recueillies,
ils permettent en effet une analyse systématique et automatisée de
ces dernières de nature à accroître considérablement le nombre
et la précision des informations qui peuvent en être extraites.
Autre conséquence de l’automatisation, à côté de la démultiplication
des possibilités de surveillance, la perte du contrôle humain est
souvent mise en exergue pour pointer les dangers des SIA.
L’un des questionnements les plus essentiels que soulève
l’utilisation des outils d’IA tient aux conséquences de la délégation
à une « machine » de la prise de décisions critiques ou encore à
la délégation massive de décisions non critiques.
163