Classification des systèmes d’IA :
Le règlement classe les SIA en fonction des risques qu’ils présentent :
Les SIA interdits (art. 5 du chapitre II39) :
Le texte prévoit d’interdire les SIA présentant un risque inacceptable.
Considérées comme une menace claire pour les droits fondamentaux
des personnes, les pratiques suivantes, qu’elles soient ou non intentionnelles,
sont interdites : les techniques relevant de la manipulation comportementale
cognitive ; les méthodes exploitant les vulnérabilités liées à l’âge, au handicap,
ou à la situation économique ou sociale ; les méthodes de notation
sociale portant évaluation ou classification d’individus ou de groupes
sur la base de leur comportement social ou de leurs traits personnels ;
l’évaluation du risque qu’une personne commette des infractions
pénales sur la seule base d’un profilage ou de traits de personnalité,
sauf exception encadrée ; la constitution de bases de données de
reconnaissance faciale par extraction non ciblée d’images faciales sur internet
ou d’images de vidéosurveillance et l’identification biométrique à distance
en temps réel dans des lieux publics, sous réserve des exceptions
déterminées par le règlement pour leur usage par les forces de l’ordre.
ÉCL AIRAGE 1
Les SIA à haut risque (chapitre III40) :
Cette catégorie regroupe des systèmes utilisés dans des secteurs industriels
énumérés (notamment aviation civile, transports…) ou identifiés
comme étant par nature à haut risque et listés en annexe (notamment
les systèmes biométriques et les systèmes d’aide aux autorités
répressives). Sont également classés comme présentant un risque
élevé les SIA qui établissent des profils de personnes (traitements
automatisés de données personnelles utilisés pour évaluer divers
aspects de la vie d’une personne, tels que ses performances
professionnelles, sa situation économique ou, sa santé, notamment).
39. Suivant la numérotation provisoire disponible au moment de l’impression du présent rapport.
40. Suivant la numérotation provisoire disponible au moment de l’impression du présent rapport.
157