Pour une démocratie algorithmique

« Les débats politiques suscités par les nouvelles technologies ont le potentiel de « réanimer la démocratie au XXIe siècle » », défend le théoricien politique devenu député travailliste britannique, Josh Simons, dans son livre Algorithms for the People: Democracy in the Age of AI (Princeton University Press, 2023). Les questions que posent les décisions automatisées révèlent les enjeux qu’on toujours eut les décisions institutionnelles en matière d’équité, explique Lily Hu dans le compte-rendu du livre qu’elle livre pour la Boston Review. Pour Simmons, ceux qui jusqu’à présent prenaient des décisions seront demain formés par les algorithmes pour les prendre. Mais cela ne signifie pas que les décisions de demain seront plus efficaces ou plus justes, critique Hu. Les assistants sociaux qui prenaient des décisions sur les gens n’étaient pas forcément bienveillants, pas plus que ne le seront les outils algorithmiques qu’on imagine apolitiques. Au contraire, comme l’ont documentés ces dernières années ceux qui s’intéressent au déploiement des outils algorithmiques dans le domaine social, à l’image des travaux de la sociologue Dorothy Roberts qui dénonce la « terreur bienveillante » des systèmes de protection de l’enfance américains, qui relèvent bien plus d’une extension de l’État carcéral qu’autre chose. Les enjeux politiques de nos institutions – en particulier des institutions étatiques qui ont le monopole de la violence – ne peuvent pas être réduits au caractère personnel des individus qui y travaillent, rappelle Hu. Pour Simons, « nous devons nous engager dans des débats publics sur la raison d’être des différentes institutions, sur les responsabilités qu’elles ont et sur la manière dont la prise de décision devrait refléter ces objectifs et ces responsabilités ». Le fait que les systèmes algorithmiques offrent un moyen de mettre en pratique de telles déterminations collectives – par le biais d’une conception décidée démocratiquement – est ce qui en fait un lieu si important de renouveau démocratique, défend-t-il. C’est là que les outils algorithmiques présentent une opportunité unique. En élargissant nos options de prise de décision, ils facilitent l’audit et l’évaluation des systèmes dont nous disposons déjà, en proposant d’ouvrir le débat, de les changer et les améliorer.

Dans son livre, Simmons esquisse deux propositions. Il propose une loi sur l’égalité de l’IA qui établirait un cadre auquel toutes les institutions qui ont recours à des outils prédictifs devraient se conformer. L’idée est de mettre au cœur des systèmes l’égalité politique, c’est-à-dire « non seulement de s’assurer que leurs systèmes de prise de décision n’aggravent pas les inégalités sociales et que, dans certains contextes, leurs systèmes les réduisent ». 

Enfin, il propose de développer des services publics « spécifiquement démocratiques » via de nouveaux mécanismes de gouvernance participative – ce qui n’est pas sans rappeler ce que disait le juriste Thomas Perroud, qui voyait dans les Communs, un levier pour reposer la question démocratique en ouvrant la gouvernance des services publics. Pour Simmons, nous devons « débattre sans cesse » de la manière dont nos idéaux sont mis en pratique. « Ce qui compte ce n’est pas les valeurs ou les intérêts particuliers que les outils de prédiction privilégient à un moment donné, mais les processus et les mécanismes de gouvernance utilisés pour faire émerger et interroger ces valeurs et ces intérêts au fil du temps ». Nous devrions institutionnaliser un processus de révision continue pour nous demander comment faire progresser l’égalité politique et soutenir les conditions de l’autonomie collective. Une démocratie plus profonde est la fin que nous devrions chercher à atteindre. Nous devrions nous préoccuper avant tout de la meilleure façon de « donner la priorité à la démocratie sur le capitalisme ».