Dans son livre, The Score: How to Stop Playing Someone Else’s Game (Penguin, 2026, non traduit), le philosophe C Thi Nguyen explique comment le score produit par les systèmes nous détourne de nos objectifs. Bien souvent, le score nous pousse à intérioriser ses critères, à supplanter nos objectifs. « Les données quantitatives promettent de transformer des pans entiers de notre monde, d’une complexité immense, en résumés concis. C’est un marché séduisant : une « clarté exquise » sous la forme d’un score simpliste, au détriment du contexte et des nuances », explique The Guardian. « Notre vénération aveugle pour les indicateurs permet ce que Nguyen appelle le « blanchiment d’objectivité » (objectivity laundering) : des bureaucrates dissimulent leur influence dans les décisions concernant nos écoles, nos hôpitaux et notre bien-être, en invoquant « les chiffres » comme arbitres impartiaux. Ceux qui sont au pouvoir choisissent les indicateurs à privilégier, puis prétendent que les actions motivées par ces indicateurs transcendent d’une manière ou d’une autre l’idéologie. »
Pour Jennifer Szalai du New York Times, la généralisation du scoring que dénonce C Thi Nguyen le rend peu amusant. « Pourquoi les systèmes de notation mécaniques sont-ils, dans les jeux, sources de tant de joie, de fluidité et de plaisir ? Et pourquoi, dans le domaine des indicateurs publics et institutionnels, étouffent-ils toute forme de vie ? » Les faibles enjeux des scores font partie intégrante du jeu, rappelle le philosophe, nous permettant de passer d’un jeu à l’autre. Nguyen soutient que les problèmes surgissent lorsque les enjeux deviennent démesurés, envahissant notre identité et dictant nos valeurs. Les indicateurs, bien qu’offrant une clarté trompeuse, paraissent sclérosants car ils ne rendent qu’une pâle imitation de la richesse et de la complexité du monde qu’ils prétendent représenter.
Le score, par exemple des notes sur les vins selon leurs qualités, conduisent à produire des formes de « capture de valeur » qui tendent à faire que la production s’aligne sur les certains types de vins plutôt que d’autres. Cette capture produit des systèmes de notation simplistes qui non seulement ne reflètent pas correctement nos valeurs initiales, mais modifient même nos valeurs, nous amenant à valoriser ce qui ne nous importe pas vraiment, explique Stuart Jeffries pour le Financial Times. « L’une des principales raisons pour lesquelles nous communiquons est d’apprendre, d’être interpellés, de voir notre compréhension se transformer… Or, ce type de communication n’est pas valorisé par le système de notation des réseaux sociaux. » Nguyen appelle cela « le fossé » : l’écart entre ce qui est mesuré et ce qui compte réellement. Le grand avantage des jeux par rapport aux indicateurs auxquels nous devons nous conformer dans la vie de tous les jours réside dans le fait qu’on retire plus de plaisir en subvertissant les règles plutôt qu’en les suivant. L’intérêt de jouer ne se limite pas à la validation de classements ou de statistiques. « Quand tu joues aux cartes avec tes amis, ton but est de gagner, mais ta finalité est de t’amuser. » Or, bien des mesures ne nous invitent qu’à gagner, sans finalité. Les systèmes de notation, leur généralisation partout, tout le temps, sapent nos valeurs au profit de l’objectif auquel les autres nous font concourir, parfois contre notre gré.
« Les indicateurs peuvent être si trompeurs qu’ils nous incitent à nous soucier de ce qui est facile à mesurer, plutôt que de ce qui est vraiment important », explique Becca Rothfeld pour le Washington Post. Lorsque les universités ont instauré un système de classement formel, par exemple, elles ont cherché à gravir les échelons, souvent au détriment de leur mission éducative (voir notre article « Aux US, le prix des études s’ajuste selon celui que vous êtes prêts à payer »). Comme des taux de refus plus élevés leur permettaient d’obtenir de meilleurs scores, écrit Nguyen, elles « ont commencé à consacrer d’importantes ressources à encourager les candidats improbables à postuler, simplement pour avoir plus de personnes à refuser ».
Dans le contexte des jeux, « les systèmes de notation ont été conçus pour produire une action intéressante, satisfaisante et plaisante », nous obligeant à nous mouvoir avec grâce lors d’une performance de patinage artistique ou à faire appel aux géométries complexes des échecs. Mais les systèmes de notation institutionnels sont conçus pour s’appliquer sans difficulté à différents contextes et, de ce fait, contribuent à l’homogénéisation.
Nguyen oppose la verve improvisée de la préparation d’un plat apprécié aux instructions données aux employés de la restauration rapide. Ces formules éliminent la spontanéité afin de produire un produit uniforme, identique dans chaque franchise ; elles rendent également la main-d’œuvre interchangeable, garantissant qu’aucune compétence particulière ne soit requise pour exécuter les procédures. Il apparaît que les vertus et les écueils des systèmes de notation sont indissociables. Alors que la notation dans les jeux permet de déléguer nos valeurs au gameplay, la notation institutionnelle impose ses valeurs dans nos comportements. « Les jeux nous incitent à expérimenter différentes valeurs dans un esprit ludique afin de développer de nouvelles aptitudes ; les indicateurs, au contraire, nous imposent des valeurs et insistent sur le fait qu’elles sont les seules valables. »
The Score adresse une question simple : avec quels indicateurs voulons nous jouer ?
Stream "Ça (dys)fonctionne"
- ↪ Les LLM dégradent profondément vos documents
- ↪ Kit d’opposition aux data centers
- ↪ Tokenmaxxing : l’IA par abonnement touche à sa fin
- ↪ La colère contre l’IA est-elle en train de dégénérer ?
- ↪ Comment devenir un problème algorithmique ?
- ↪ « On est tous en passe de devenir des livreurs Deliveroo »
- ↪ Les réseaux sociaux dans la tourmente
- ↪ Cosplay forensique
- ↪ L’IA ne réforme pas les institutions démocratiques, elle les détruit
- ↪ L’IA sait tout faire… mais ne lui faites pas confiance pour votre déclaration d’impôts