Sur la piste des algorithmes… l’opacité est toujours la règle

L’Observatoire des algorithmes publics a mis à jour son inventaire, portant de 70 à 120 son répertoire d’algorithmes utilisés dans le secteur public. Les constats établis l’année dernière, au lancement de l’initiative, demeurent les mêmes : l’opacité administrative reste persistante ; les évaluations des systèmes et les informations budgétaires lacunaires. Et si l’IA fait son entrée dans l’administration, là aussi, l’information est bien souvent inexistante. 

Signalons que depuis septembre, l’Odap a également publié de nombreux entretiens avec des chercheurs sur ces enjeux. Tous ces entretiens, « sur la piste des algorithmes », méritent largement une lecture. 

On recommandera notamment celui avec la sociologue Claire Vivès sur le contrôle à France Travail qui pointe trois outils algorithmiques développés à France Travail : un outil de pour déterminer les contrôles des bénéficiaires, un autre pour déterminer si les bénéficiaires recherchent activement un travail et un outil d’aide à la détermination de la sanction en cas de manquements dans la recherche d’emploi. « En 2023, plus de la moitié des contrôles ont ciblé des demandeur·ses d’emploi inscrit·es dans des métiers dits en tension. Ce ciblage pose des questions d’équité territoriale et sociale. » Mais là encore, les caractéristiques de ces outils demeurent opaques aux usagers comme aux agents, et plus encore aux citoyens puisque leurs fonctionnement ne sont pas documentés. A l’heure où le Sénat vient de proposer de nouvelles mesures de surveillance des bénéficiaires, comme d’accéder à leurs relevés téléphoniques, révèle L’Humanité, la surveillance coercitive des allocataires avance bien plus vite que la transparence de l’action administrative. 

La sociologue souligne combien ces outils ont du mal à s’inscrire dans les activités des agents et surtout que ces dispositifs viennent souvent alourdir leur activité plutôt qu’en réduire la charge. « Les réformes sont pensées à distance, sans prise en compte réelle du travail fait sur le terrain. Les algorithmes ne font qu’ajouter une couche à ce problème, en accentuant ce sentiment de perte de sens, parfois même de mépris ou au moins d’ignorance de leur expertise de la part des décideur·ses. Dans ce contexte, on peut se demander si l’acceptation des algorithmes, quand elle existe, ne tient pas surtout à une forme de résignation. » 

« L’une des principales difficultés de notre enquête tient en réalité à une opacité structurelle de l’administration, qui dépasse largement la question algorithmique. France Travail, comme d’autres institutions administratives, reste un espace très difficile d’accès. Les autorisations sont rares, les possibilités de terrain très encadrées, et les refus fréquents, que ce soit pour les chercheur·ses ou les journalistes d’ailleurs. Nos demandes d’observations du travail réalisé sur les plateformes de contrôle, par exemple, n’ont jamais abouti. Et sur le terrain, les agent·es eux-mêmes hésitent à parler : le devoir de réserve est souvent interprété de façon erronée et fait barrière aux prises de parole. Sur les algorithmes spécifiquement, l’information est très parcellaire. La Direction générale de France Travail ne publie quasiment rien à ce sujet, le site officiel est muet sur les outils utilisés. C’est d’ailleurs quelque chose qui pose question : pourquoi est-ce que les documents internes, qui sont ceux d’une administration publique, ne sont pas diffusés en accès libre ? En tous cas, tout cela conditionne profondément notre manière de mener l’enquête, le rythme de travail et les types de matériaux mobilisables. » 

L’opacité fonctionnelle explique certainement la perspective à orienter la suite de l’enquête. « Dans les prochaines étapes de l’enquête, nous allons notamment chercher à travailler sur le volet conception de ces outils : qui les commande ? Qui les paramètre ? Avec quels objectifs ? Qui les évalue ? Ce sont des points sur lesquels on a pour l’instant peu de réponses ». On a hâte de voir ce qui va en sortir en tout cas.