La mise sur le marché ou en service et l’utilisation de ces SIA à haut
risque est encadrée par des obligations spécifiques destinées
à garantir leur fiabilité et leur innocuité, notamment en termes de contrôle
humain sur la machine, d’établissement d’une documentation technique,
de mise en place d’un système de gestion du risque. De plus, une analyse
d’impact sur les droits fondamentaux doit être effectuée avant qu’un système
d’IA à haut risque ne soit mis sur le marché.
Les modèles d’IA à usage général (GPAI) :
Le règlement prévoit un régime particulier pour les GPAI, qui se caractérisent
par leur grande généralité et leur capacité à exécuter avec compétence
un large éventail de tâches distinctes, quelle que soit la manière dont
le modèle est mis sur le marché, et qui peut être intégré dans une variété
de systèmes ou d’applications en aval. Ces modèles doivent respecter
des obligations de transparence spécifiques avant leur mise sur le marché,
des règles plus strictes étant prévues pour ceux de ces modèles qui
sont considérés comme systémiques, incluant une évaluation des risques
systémiques et une obligation de protection de la cyber sécurité.
Les autres SIA :
Les systèmes d’IA qui présentent un risque minimal ne sont soumis
à aucune obligation spécifique au titre du règlement, en dehors d’une
obligation de transparence peu contraignante.
Gouvernance :
Le texte prévoit notamment la création d’un Bureau de l’IA (ou Office AI) au sein
de la Commission européenne et d’un Comité européen de l’intelligence
artificielle réunissant les représentants des État et le Contrôleur européen
de la protection des données en qualité d’observateur. Il comporte en outre
des règles concernant la désignation des autorités nationales compétentes,
notamment une autorité « notifiante » et les autorités de surveillance
du marché, pour assurer la mise en œuvre du règlement. Ces autorités auront
en particulier pour mission de représenter l’État-membre au sein du comité
européen de l’IA, d’accréditer et évaluer les organismes de conformité
et de veiller au bon fonctionnement du marché des SIA.
158