La surveillance ou le progrès social

Dans une tribune pour The Guardian, Bruce Schneier et Jon Penney s’inquiètent de l’intensification de la surveillance par IA. « Dans un avenir proche, les systèmes de surveillance basés sur l’IA pourront suivre tout ce que nous faisons en public, et une grande partie de ce que nous faisons en privé ». Et le moindre de nos comportements déviants pourra être relié au profil de chacun. Un peu comme des radars automatiques, qui ne se contenteraient pas de faire respecter les limitations de vitesse, mais également toutes les autres règles. Officiellement, cette surveillance liée au renseignement sert à garantir la sécurité publique, « mais son véritable objectif est souvent le contrôle social ». « Larry Ellison, PDG d’Oracle, un puissant géant technologique proche de l’administration Trump, a déclaré : « Les citoyens se comporteront de manière exemplaire car nous enregistrons et rapportons constamment leurs activités. » L’effet dissuasif est précisément ce qui est recherché. »

« La surveillance par IA soulève de nombreux défis en matière de politiques publiques : biais techniques, systèmes non auditables et application automatisée et rigide du droit et des règles sociales, susceptibles de favoriser la discrimination et de saper la transparence, la responsabilité et l’état de droit. Mais nous pensons que l’impact le plus urgent et le plus durable sera son effet dissuasif généralisé », pointent les chercheurs. Dans son livre, Effets dissuasifs : Répression, conformisme et pouvoir à l’ère numérique (Cambridge University Press, 2025, non traduit), Jon Penney explique justement comment la technologie peut être instrumentalisée pour influencer les comportements à grande échelle. La surveillance, sa personnalisation, sa généralisation ont des effets cumulatifs : « plus les mécanismes employés sont nombreux et puissants, plus l’effet dissuasif est important ». Suivre nos déplacements, dresser la liste de nos contacts, surveiller nos dépenses… sont désormais autant de possibilités qui fusionnent, rendant la surveillance « persistante et implacable ». Et l’IA apporte une capacité d’analyse permettant de de répondre à des questions complexes sur nos déplacements et nos activités. Le risque est bien celui d’une intimidation sociale exacerbée : « les idées audacieuses, l’activisme social et la réinvention de soi – en particulier chez les groupes marginalisés et les populations ciblées – pourraient bien être considérablement freinés ». 

La normalisation des relations homosexuelles ou de l’usage récréatif du cannabis ont profondément évolué, rappellent les deux chercheurs, passant d’un statut à la fois immoral et illégal, à un statut moral mais pas toujours légal pour finalement devenir à la fois moral et légal. Mais pour y parvenir, il a fallu l’émergence d’une contre-culture pour faire évoluer la moralité puis la légalité. Or, l’invasion de la surveillance risque de rendre le progrès social impossible, en empêchant ces évolutions par la répression des comportements eux-mêmes. La surveillance étatique par le FBI américain dans les années 50 ou de l’Allemagne de l’Est pendant la guerre froide mobilisait déjà écoutes téléphoniques, ouverture du courrier et informateurs… Mais ne disposait pas de possibilités de recoupement et de traitement que l’IA rend désormais possible, expliquent les chercheurs.  

Cependant, nous ne sommes pas condamnés à l’inaction. « Maintenant que nous avons pris conscience du danger que représente la surveillance de masse assistée par l’IA, nous pouvons opter pour ne pas la mettre en œuvre. L’interdiction de la reconnaissance faciale et d’autres technologies d’identification peut ralentir leur développement ; des mesures solides de protection de la vie privée et des données peuvent limiter le suivi et la conservation de ces dernières ; des réglementations sur l’IA peuvent restreindre ses usages les plus intrusifs ; enfin, des réformes structurelles peuvent nous aider à examiner de près – et à démanteler – les puissants cartels associant États et entreprises technologiques, qui ouvrent la voie à des dérives telles que la surveillance par IA. » 

On voudrait être aussi confiant qu’eux. Mais la surveillance de masse conduit surtout à étouffer les fondements mêmes des sociétés démocratiques.