Pour utiliser le terme complet : système de traitement de données à caractère personnel.
Champollion est mis en place pour les services du ministère du travail. Comme je le dis en intro, ce n’est pas la seule base de données que possède l’État sur toi et on est bel et bien tous concernés.
Néanmoins, on peut faire un petit tour sur ce que contiennent ces données, juste pour savoir.
Ces données sont divisées en quatre catégories :
- Relatives à l’état civil
- Relatives à la situation familiale
- Relatives à la vie professionnelle et extraprofessionnelle
- D’ordre économique, financier et social.
Mouais, bof, rien de plus que ce que tu renseignes quand tu remplis des formulaires sur ta situation professionnelle, peut-être le « extraprofessionnelle » peut sembler étrange.
Mais ce n’est vraiment pas ça le sujet.
IA, modèle prédictif et administration
C’est ça le problème en fait. On a (presque) tous déjà été confrontés à, ce que j’appellerai pour les besoins de la démonstration : un paradoxe administratif.
C’est quand, par exemple, tu déclares X de revenu, et que tu es imposé sur X x 100 par exemple.
C’est déjà arrivé, c’est passé au JT de 20 h, un pauvre retraité s’est vu imposer de 20 000 F (à l’époque). Des factures d’électricité (du temps de EDF l’administration) de plus de 300 000 F et plusieurs autres encore. Et ça pour ne citer que des situations qui ont eu voie de presse.
On a tous eu les nôtres de (plus ou moins) petits tracas avec l’administration. Spéciale dédicace aux indépendants et à l’URSSAF.
Et je ne parle même pas des allocations et de la CAF.
À chaque fois, c’est des semaines d’échanges de dossiers et de justificatifs par courrier et le tout en vain !
Jusqu’à ce qu’on puisse voir quelqu’un, que de toutes façons on ne peut pas espérer rencontrer tant qu’on n’en a pas référé à son supérieur.
Bref, le parcours du combattant face au rouleau compresseur administratif, toi-même tu sais !
Qui est le responsable ?
Donc on l’aura compris, une fois que l’erreur s’est introduite dans la machinerie, il faut le toitier pour l’arrêter. Le gars qui a les clefs du bouton d’arrêt d’urgence.
Qui aura ce pouvoir sur cette IA ?
Parce que le problème, c’est que cette IA sera sûrement centralisée au ministère, mais elle va rendre des décisions pour toutes les institutions déconcentrées de celui-ci, les DREET mais aussi les Pôles Emploi et certainement d’autres.
Donc, loin de moi l’idée de vouloir jouer les alarmistes, mais il faut sacrément être de mauvaise foi ou être un lapin de 6 semaines pour s’imaginer que tout va toujours très bien avec l’administration et ses organisations de gestion.
Cas concret
Sans compter que j’ai eu vent d’une histoire cette année où une IA est en charge de la gestion des positions administratives des usagers. Dans ce cas, l’IA corrige systématiquement une info juste pour une info qu’elle a calculée comme étant plus exacte. Sauf qu’elle a tout faux, et ça dure depuis plus d’un an. Et visiblement, personne ne sait comment l’arrêter, il manque visiblement le bouton d’arrêt d’urgence sur des cas comme celui avec cette IA.
…E vado via…
Mais tout va bien
Alors attention!! Tout ne va pas systématiquement mal avec l’administration, non j’ai pas dit ça. Mais quand ça va mal, qui est capable de l’arrêter?