Dans cette analyse parue dans La Gazette des Communes (2/6 du dossier spécial « IA, et si on se posait les bonnes questions ? », Yvon Goutal et Théo Simon plaident pour un recensement précis, exhaustif et dynamique des traitements algorithmiques mis en place par l’administration et rendu nécessaire par la multiplication des systèmes d’IA.
Au fil des vagues successives de dématérialisation, la numérisation massive de l’action publique a permis la prolifération des « traitements algorithmiques ». Le secteur public regorge aujourd’hui de ces assistances à la décision : le calcul des taxes et impôts, l’attribution de prestations sociales, la gestion de la mobilité des agents etc.
La multiplication déjà bien réelle des systèmes d’IA (SIA) rend d’autant plus urgent de s’atteler à cette tâche qu’imposent non seulement la réglementation ( loi n° 2016-1321 du 7 octobre 2016 pour une République numérique et Règlement européen sur l’IA (RIA, UE 2024/1689 du 13 juin 2024) mais aussi un impératif de bonne gestion : un recensement précis, exhaustif et dynamique des traitements algorithmiques mis en place par l’administration.
Un autre défi majeur auquel sont confrontées les administrations réside dans la détection des utilisations non déclarées (et donc, non encadrées) des traitements algorithmiques. Le secteur public n’est pas épargné par ce phénomène émergent d’utilisation « en douce » (le fameux « shadow IA »), dont l’ampleur – même mal mesurée – est probablement importante…
Lire aussi dans le dossier spécial « IA, et si on se posait les bonnes questions ? » :
