L’IA, ce piège de la responsabilité

L’IA n’augmente pas les individus, mais les rend dépendants de systèmes imparfaits, explique avec sa verve habituelle Cory Doctorow dans un très long format pour The Guardian. 

« Personne n’investit des centaines de milliards dans les entreprises d’IA en pensant que l’IA rendra la radiologie plus coûteuse, même si elle la rend plus précise. Le marché qui parie sur l’IA parie sur le fait qu’un commercial ira voir le PDG de Kaiser (l’un des plus grands consortium de soins américain) et lui présentera l’argument suivant : « Vous licenciez neuf de vos dix radiologues et économisez 20 millions de dollars par an. Vous nous versez 10 millions de dollars par an, vous empochez 10 millions de dollars par an, et le travail des radiologues restants consistera à superviser les diagnostics établis par l’IA à une vitesse surhumaine – et à rester vigilants, malgré le fait que l’IA a généralement raison, sauf en cas d’erreur catastrophique ». « Et si l’IA rate une tumeur, ce sera la faute du radiologue, car c’est lui qui est l’élément humain dans le processus. C’est sa signature qui valide le diagnostic. » 

C’est ce que Dan Davies, dans son livre The Unaccountability Machine : Why Big Systems Make Terrible Decisions (Profile Books, 2025), appelle un « piège à responsabilisation ». 

« Le rôle du radiologue n’est pas de superviser le travail de l’IA, mais d’endosser la responsabilité de ses erreurs. C’est un autre élément clé pour comprendre – et donc faire éclater – la bulle de l’IA. L’IA ne peut pas faire votre travail, mais un vendeur d’IA peut convaincre votre supérieur de vous licencier et de vous remplacer par une IA incapable de faire le même travail. »