Royaume-Uni : des algorithmes sociaux « suspicieux by design »

La surveillance sociale par des systèmes automatisés au Royaume-Uni ne semble pas mieux fonctionner qu’en France. C’est ce que pointe un rapport d’Amnesty intitulé « Trop de technologie, pas assez d’empathie » qui met en cause « le déploiement incontrôlé des technologies par le ministère du Travail et des Pensions » britannique. Là bas aussi, la logique austéritaire conduit à développer des technologies problématiques. Le système dénonce la mise en place d’un système social de plus en plus intrusif à l’égard des plus démunis. Amnesty réclame que les autorités britanniques procèdent à un audit indépendant et impartial du système de sécurité sociale et des systèmes numériques utilisés par le ministère du Travail et des Pensions, et supprime tout système qui ne respecte pas les droits ou défavorise certains profils de bénéficiaires. Les systèmes numériques doivent être transparents, compréhensibles et jamais obligatoires, rappelle l’association de défense des droits et des libertés. Le rapport souligne encore que le ministère a lancé une expérimentation de surveillance des comptes bancaires des bénéficiaires de l’aide sociale, soit 713 000 comptes en provenance de deux grandes banques britanniques. 60 000 comptes montraient que les bénéficiaires avaient trop d’argent sur leur compte – mais sans souligner que 50% de ces comptes étaient des comptes joints.

L’association britannique Big Brother Watch, équivalent de la Quadrature du Net, a également publié un rapport sur le sujet et parle de « suspicion par conception ». Le rapport dénonce le « pouvoir d’espionnage bancaire massif » mis en place, obligeant les banques à vérifier les comptes des bénéficiaires de l’aide sociale à la recherche de trop perçus et à faire le travail des services publics (Big Brother Watch avait d’ailleurs mené campagne contre l’accès des services sociaux aux comptes bancaires à des fins de lutte contre la fraude par le ministère des pensions, et avait recueilli quelque 200 000 signatures). Le rapport dénonce « une architecture de suspicion monstrueuse » qui se construit au cœur du système de protection sociale britannique et souligne que le ministère est devenu bien moins transparent depuis qu’il déploie ces outils. Parmi les recommandations de l’association, celle-ci estime que le ministère doit définir des mesures de performance de ses outils qui ne soient pas seulement des niveaux d’automatisation et publier des études d’impact et d’équité.