Les décisions automatisées façonnent nos rapports au réel. Dans les champs du social, du privé au public, de la banque à la CAF, elles sont partout défaillantes. D’abord, parce que les erreurs des calculs ne sont pas une responsabilité pour ceux qui produisent les calculs. Ensuite parce que les individus mal calculés voient leurs possibilités d’action réduites plutôt qu’élargies.
En 2019, dans une tribune pour le New Yorker, Miriam Posner explique le rôle du logiciel dans les chaînes d’approvisionnement, pour mieux nous en pointer les limites. Si les chaînes logistiques ne sont pas éthiques, c’est parce que l’éthique n’est pas une donnée que traite leurs logiciels. Explication.
En 2017, Paul Dourish publiait « The Stuff of Bits », un livre qui s’intéressait à notre rapport aux tableurs et aux impacts matériels de l’information numérique sur la réalité. Une manière de saisir et comprendre comment le monde réel est piloté par les outils numériques dans les organisations. Relecture.
En 2022, Ben Tarnoff fait paraître « Internet for the people, the fight for the future », un livre essentiel pour comprendre les conséquences de la privatisation d’internet. Un retour sur ce que nous avons raté et comment espérer le réparer.
En 2022, David Robinson faisait paraître « Voices in the Code ». Depuis, on ne s’étonnera pas qu’il soit devenu responsable de la sureté des systèmes chez OpenAI. « Voices in the Code » est à la fois une enquête passionnante sur la responsabilité des systèmes et une ode à la participation publique, seule à même d’assurer leur gouvernance. Lecture.
En 2018, la sociologue Dominique Pasquier publiait « L’internet des familles modestes ». Elle nous donnait l’occasion de regarder comment les usages se modulent selon les classes sociales.
Les dispositifs participatifs créent une illusion démocratique, défend Jonathan van Geuns dans une tribune énervée. Ils servent de rempart pour empêcher la contestation. Pour changer cela, nous devons arrêter de mesurer la participation pour savoir qui elle inclue, mais mesurer si les processus mis en place redistribuent le pouvoir ou permettent d’interrompre les systèmes.
Les chatbots pour remplacer les psys ? Pas sûr que ce soit une bonne idée. Pour remplacer les conseillers d’orientation ? Non plus ! Pour faire notre travail à notre place ? Encore moins ! Il serait peut-être temps que ceux qui conçoivent ces outils, imaginent d’autres rapports à leurs utilisateurs !
Avec « Le rapt d’internet », Cory Doctorow nous invite à lutter contre ceux qui nous l’ont volé ! L’interopérabilité est le levier que nous devons activer pour limiter la concentration des Big Tech. Lecture.