Le rapport Donner un sens à l’intelligence artificielle : pour une stratégie
nationale et européenne (2018) esquisse plusieurs pistes que le Livre
blanc de la sécurité intérieure fait siennes. En amont, il s’agit d’intégrer
les enjeux éthiques dès la formation des ingénieurs et la conception des
outils d’intelligence artificielle. L’appropriation et la compréhension de ces
technologies doit aussi être favorisée en en favorisant l’« explicabilité »,
en conduisant un débat public informé, voire en développant l’évaluation
citoyenne plus en aval. D’une façon plus générale, des systèmes de contrôle
et d’évaluation doivent être mis en place par le développement de l’audit
(le rapport propose la création d’un corps d’experts publics assermentés).
Au niveau stratégique, ces technologies pourraient faire l’objet d’une
supervision par un comité d’éthique ad hoc, sur le modèle du Comité
national d’éthique.
Par ailleurs, les travaux et auditions conduits dans le cadre du Livre blanc
ont identifié une série de mesures conservatoires. Dès les expérimentations
envisagées en amont du déploiement des technologies adossées à
l’intelligence artificielle, un cadre protecteur doit être mis en place. Il inclut
l’anonymisation ou, à défaut, la pseudonymisation des données collectées.
Celles-ci doivent en outre être stockées sur des espaces sécurisés placés
sous le contrôle de tiers de confiance.
Le Livre blanc estime que les défaillances de ces technologies, notamment
les biais, peuvent être réduits à l’usage. Les technologies d’intelligence
artificielle reposant sur les effets d’apprentissage, il est nécessaire de
réduire dès l’amont ces risques en perfectionnant les outils. La réduction
des biais en aval repose ainsi sur des phases d’apprentissage robustes, dans
lesquelles les données des utilisateurs sont fortement protégées.
Enfin, le maintien d’une main humaine dans la prise de décision et le
contrôle des technologies est primordial. Les algorithmes d’intelligence
artificielle sont en premier lieu des outils d’aide à la décision. Ils peuvent
intervenir à des degrés variables dans la prise de décision, selon la
complexité des enjeux, mais, s’ils bénéficient d’une forme d’autonomie, ils
doivent toujours être susceptibles d’une reprise en main ou d’un contrôle
direct ou a posteriori de la part d’opérateurs.
5.
Renforcer la capacité d’innovation technologique du ministère de
l’Intérieur
5.1. Développer une recherche et innovation ouverte
5.1.1. La recherche et innovation, un enjeu clef au ministère de l’Intérieur
Dans un monde en évolution rapide, qui voit l’Etat confronté à des forces
criminelles protéiformes et contesté par des acteurs numériques privés
internationaux, la capacité de recherche et d’innovation des forces de
l’ordre et de secours est fondamentale. Dans ce domaine, le ministère de
l’Intérieur fait face à quatre principaux défis :
– Se mettre en capacité de répondre aux menaces qui pèsent sur la société
dans le domaine numérique et se prémunir des attaques cyber ;
266