L’IA ne réforme pas les institutions démocratiques, elle les détruit

L’IA n’est pas qu’un outil, elle est un outil pour détruire les institutions démocratiques, argumentent les deux professeurs de droit Woodrow Hartzog et Jessica Silbey dans une riche démonstration. Comme le synthétise le journaliste Gerald Holubowicz pour Synth Media, le déploiement de l’IA atrophie l’expertise des institutions. « Quand l’IA se trompe, les institutions paient le coût de la correction et quand elle « réussit », elles s’appauvrissent en expertise ». Elle favorise le « court-circuit décisionnel » en automatisant des choix fondamentalement moraux, aplatit les hiérarchies institutionnelles et rend invisibles les règles qui donnent leur sens aux institutions. « Elle est par ailleurs incapable de prendre des risques intellectuels ni de faire montre d’une forme de désobéissance créatrice. » Enfin, elle favorise l’isolement. Et en érodant les liens interpersonnels, elle fait disparaître la friction, qui est la condition même de l’adaptabilité institutionnelle. Pour Hartzog et Silbey, la destruction des institutions a déjà commencé, notamment avec le Doge et le développement de systèmes d’IA et algorithmiques dans les administrations américaines. Des déploiements, « sans cadre légal clair, où l’expertise humaine a été marginalisée et les rôles institutionnels de résistance, supprimés ».« Ce que Hartzog et Silbey laissent entrevoir en creux, c’est le scénario d’une oligarchie technologique progressivement substituée à la représentation démocratique ».

Pour les chercheurs, l’IA fragilise l’Etat de droit en renforçant l’opacité des décisions. La société civile, et la démocratie elle-même, reposent sur la transparence, la délibération et le jugement humain. L’IA corrode ces trois éléments. En ce sens, l’IA n’est pas qu’un outil, elle est une force institutionnelle qui sape les institutions en restructurant les hiérarchies décisionnelles, en dégradant les capacités d’expertise et en modifiant les relations sociales des acteurs. Parce que les institutions dépendent de ces éléments, l’IA ne se contente pas de les fragiliser ; elle les dissout. Les juristes affirment que, sans garde-fous pour contraindre l’IA à servir les institutions plutôt qu’à les remplacer, nous serons confrontés à un choix radical : soit les institutions survivent, soit la conception actuelle de l’IA disparaît.