L’interrupteur algorithmique, une fausse bonne idée ?

En Australie, le gouvernement prépare un projet de loi sur le « devoir de vigilance numérique » (Digital Duty of Care), imposant aux plateformes une responsabilité accrue en matière de prévention et de traitement des préjudices en ligne, notamment pour mieux protéger les plus jeunes. Le projet de loi exige également que les plateformes fournissent des « outils d’autonomisation des utilisateurs », dont la nature reste à préciser. Or, à travers les précisions données par le gouvernement, il semblerait que les mesures projettent de permettre aux Australiens de désactiver l’algorithme. Baptisée My Feed, My Way (Mon fil, à ma façon), cette option devrait permettre d’avoir un meilleur contrôle sur leurs fils d’information : « ils pourraient choisir soit de maintenir le statu quo (contenu recommandé par algorithme), soit de revenir à un affichage limité aux publications des comptes qu’ils ont choisi de suivre, dans un ordre chronologique ou antéchronologique ». 

Reste à savoir si l’idée d’un interrupteur marche/arrêt est une bonne idée, questionnent les chercheurs Daniel Angus, Jean Burgess et Amanda Third dans une tribune pour Tech Policy Press. S’il est nécessaire d’offrir aux utilisateurs un meilleur contrôle sur leur expérience, la proposition d’interrompre les recommandations algorithmiques offre peu de prise de contrôle aux utilisateurs, en les laissant devant un choix binaire, entre une sélection problématique et la submersion. « Le terme d’algorithme est devenu un raccourci puissant pour désigner le mécanisme bien plus vaste du pouvoir des plateformes, ainsi que la manière dont elles sélectionnent et présentent les contenus aux utilisateurs. Les recommandations de contenus nuisibles, la publicité prédatrice, la conception addictive, la polarisation politique et la visibilité des créateurs sont désormais toutes perçues comme des problèmes liés à « l’algorithme ».» Or, « le problème tient bien plus de la manière dont ils sont optimisés, les signaux qu’ils privilégient, les intérêts qu’ils servent, les effets qu’ils produisent.» « Il n’existe pas d’algorithme unique que l’on pourrait activer ou désactiver à volonté. » Les systèmes de recommandations, par exemple, sont là pour résoudre des problèmes d’abondance. Ils sont couplés à des mesures pour modérer les contenus, cibler les publicités, détecter les spams… Ils sont entremêlés à des dispositifs de sécurité essentiels pour supprimer ou rétrograder des contenus. « Le problème ne réside donc pas dans l’existence même de la recommandation algorithmique, mais dans les objectifs d’optimisation de ces systèmes, les signaux privilégiés, les intérêts servis par ces choix et les conséquences qui en découlent. Les systèmes de recommandation ne sont pas tenus de privilégier les revenus publicitaires et le temps d’attention des utilisateurs.»

« Offrir un choix aux utilisateurs est judicieux et de nombreuses plateformes proposent déjà des outils pour modifier, désactiver ou réinitialiser les algorithmes qui façonnent les fils d’actualité, bien que ces outils soient souvent difficiles à trouver, à utiliser ou à comprendre. Toutefois, l’ordre chronologique ne signifie pas l’absence de médiation algorithmique. Un fil chronologique ou basé sur les abonnements applique tout de même des règles déterminant quel contenu est inclus, exclu ou classé parmi une masse potentiellement immense de contenus disponibles. Plus important encore, proposer aux utilisateurs de choisir entre deux modes définis par la plateforme n’offre qu’une autonomie limitée. » 

Mais surtout, soulignent les chercheurs des recherches sur la transparence publicitaire ont mis en évidence les limites de l’approche fondée sur le renforcement des contrôles : « fournir des informations et des outils de contrôle aux utilisateurs ne rend pas nécessairement les systèmes des plateformes transparents ni ne confère aux utilisateurs une véritable maîtrise sur ces derniers. » Offrir un contrôle plus accessible sur les critères de classement, sur la sélection des sources… est peut-être plus essentiel que de proposer un choix binaire. Enfin, ces approches oublient le problème du démarrage : que doit montrer le système à un nouvel utilisateur ? L’expérience d’un nouvel utilisateur montre pourtant la rapidité avec laquelle les plateformes recommandent des contenus de mauvaise qualité. « Si des contenus misogynes ou violents sont facilement accessibles avant même que le système de recommandation ne connaisse l’utilisateur, la suppression de la personnalisation ne résout pas le problème de fond ». 

« La position du gouvernement recèle une tension singulière : il présente « l’algorithme » comme une menace dont les utilisateurs devraient être protégés, tout en exigeant des plateformes qu’elles anticipent et atténuent mieux les préjudices – ce qui, logiquement, nécessite des approches algorithmiques plus sophistiquées, et non l’inverse. À l’échelle des plateformes, l’identification du spam, des abus, des activités malveillantes coordonnées ou des schémas d’exposition à des contenus à risque ne peut se faire manuellement. Si nous voulons que les plateformes repèrent une exposition répétée à des contenus liés aux troubles du comportement alimentaire (par exemple) et interviennent, nous leur demandons de classifier les contenus, de détecter des schémas et de modifier la manière dont les éléments sont classés ou recommandés pour tout ou partie des utilisateurs. C’est pourquoi les détails du devoir de vigilance numérique présentent plus d’intérêt que la rhétorique qui l’entoure. Son principe fondamental est que les prestataires doivent identifier les risques prévisibles de préjudice et prendre des mesures raisonnables pour les atténuer. Le projet de loi exige explicitement des prestataires qu’ils évaluent les préjudices potentiels découlant non seulement des contenus, mais aussi des éléments de conception ainsi que d’autres systèmes et processus. Il confère aux plateformes la responsabilité globale de prendre en compte, de surveiller et de traiter les conséquences des fonctionnalités algorithmiques telles que les systèmes de recommandation, imposant ainsi une approche fondée sur la « sécurité dès la conception ». Les règles proposées par le projet de loi, qui imposent la mise à disposition d’outils permettant aux utilisateurs de reprendre la main, exigent également une certaine flexibilité – bien loin d’un simple interrupteur « marche/arrêt » pour les fils d’actualité algorithmiques. La spécificité de chaque plateforme jouera un rôle important : les fonctionnalités algorithmiques de YouTube diffèrent de celles de TikTok, Facebook ou Instagram ». « Même le fait d’identifier quel « algorithme » un utilisateur est censé désactiver est moins simple que le slogan ne le laisse entendre. Par conséquent, les outils dont les utilisateurs ont besoin pour exercer un plus grand contrôle sur leur expérience varieront d’une plateforme à l’autre.» 

Ce projet de loi permet aux responsables politiques d’exiger des plateformes qu’elles « corrigent l’algorithme », mais les gouvernements, les chercheurs et le public disposent de moyens limités pour déterminer ce que ces systèmes font réellement. Ce qu’il manque, à nouveau, « c’est l’observabilité : la capacité d’examiner ces systèmes en fonctionnement. À quels contenus les différents utilisateurs sont-ils exposés ? Certains groupes sont-ils systématiquement exposés à des contenus différents ? Quelles modifications spécifiques des systèmes de recommandation permettent réellement de réduire les préjudices ? Des chercheurs indépendants peuvent-ils vérifier les affirmations d’une plateforme quant aux résultats de ses interventions ? Cela revêt une importance particulière dans le cadre d’une obligation de vigilance. Si les plateformes doivent identifier les risques de préjudice, les atténuer et évaluer l’efficacité de leurs interventions, des acteurs indépendants doivent avoir la possibilité de vérifier ces affirmations. Sinon, les plateformes restent à la fois responsables de l’exploitation des systèmes et seules juges de leur sécurité.»

Il est encourageant de constater que le projet de loi commence à prendre en compte ce problème. Les fournisseurs seraient tenus de réaliser et de conserver des évaluations des risques, tandis que des dispositions distinctes établiraient une base pour l’accès des chercheurs aux données et protégeraient les chercheurs agréés utilisant des identités fictives (« sock puppets ») pour étudier les plateformes. Les modalités précises de cet accès seront cruciales, mais le principe est essentiel : « l’obligation de rendre des comptes ne peut dépendre uniquement de ce que les plateformes choisissent de nous dire sur leurs propres systèmes ». C’est peut-être là, en fin de compte, le problème lorsqu’on fait de « l’algorithme » la cible de la régulation. Cela focalise l’attention sur un mécanisme technique, alors que les questions les plus importantes concernent les systèmes dans leur ensemble : ce qu’ils optimisent, leur conception, les choix qu’ils offrent, les préjudices qu’ils engendrent et la possibilité pour des tiers extérieurs aux entreprises exploitantes d’en observer les résultats de manière indépendante. 

L’anthropologue du numérique Mizuko Ito pour le MIT Press Reader, dressait d’ailleurs un bilan de l’interdiction des réseaux sociaux pour les adolescents australiens de moins de 16 ans. Un an après sa mise en place, l’interdiction semble surtout avoir échoué : 7 adolescents Australiens sur 10 continuent d’utiliser les réseaux sociaux et les recherches universitaires font état d’un taux de respect de la mesure encore plus faible. « L’échec des interdictions ne doit pas inciter à renforcer les mesures coercitives ; il témoigne plutôt d’un mauvais diagnostic. » Elle rappelle que plutôt que d’attiser les conflits intergénérationnels par des interdictions, jeunes et adultes peuvent façonner la technologie ensemble. « Cela peut aller de démarches simples, comme examiner en famille les paramètres de confidentialité des réseaux sociaux, à des projets plus ambitieux tels qu’Autcraft, un serveur Minecraft géré par des familles ayant des enfants autistes. » Les éducateurs peuvent associer les élèves à l’élaboration des règles d’usage technologique à l’école et adapter les outils numériques pour favoriser l’apprentissage et le développement. 

Lorsqu’on les interroge, les parents et les adolescents expriment le souhait de continuer à utiliser les réseaux sociaux, tout en disposant de moyens flexibles pour protéger leur vie privée, contrôler les algorithmes de recommandation et surveiller leur propre usage de la technologie. L’accent mis sur les interdictions s’est fait au détriment de progrès concernant les politiques et fonctionnalités des plateformes susceptibles d’améliorer l’univers numérique pour les personnes de tous âges. 

Reste que là encore, on restera néanmoins sur notre faim. Les usagers n’ont pas suffisamment la main pour saisir et comprendre comment les plateformes fonctionnent pour déjouer les systèmes algorithmiques qui se jouent par devers eux. Sans mieux délimiter le modèle économique des plateformes, les régulations risquent de rester longtemps cosmétiques et inefficaces.