❌

Vue normale

Il y a de nouveaux articles disponibles, cliquez pour rafraîchir la page.
À partir d’avant-hierHubert Guillaud

Les algorithmes contre la société

✇Hubert Guillaud
Par : Hubert Guillaud
14 mars 2025 à 22:18

Le 4 avril 2025, je publie un court essai aux éditions La Fabrique, Les algorithmes contre la société (176 pages, 14 euros, extraits en ligne).

Cet essai parle de la transformation algorithmique de nos sociétés pour pointer, d’abord et avant tout, leurs défaillances massives. Des algorithmes de la CAF à Parcoursup, en passant par les systèmes de recrutement automatisés, les usages du marketing et les systèmes de fixation des prix et des salaires, il tente de montrer que nous sommes cernés par des systèmes dysfonctionnels, qui, sous couvert d’un calcul toujours plus granulaire du social, produisent de l’opacité, de la discrimination et nous empêchent d’exercer nos droits à les contester.

Le livre n’est pas qu’un réquisitoire, il fait aussi des propositions. J’espère qu’elles vous stimuleront ! Ce que je défends, c’est qu’on ne peut pas parler de progrès technologique sans progrès social. Et à ce jour, tout ces systèmes visent à restreindre le social plus que le libérer.

Avec les éditions La Fabrique, nous avons souhaité faire un livre court, très accessible, qui fourmille d’exemple et qui propose en même temps un recul critique pour comprendre les enjeux de ces transformations. Vous nous direz si nous y sommes arrivés.

Sommaire
Coincés dans les fausses promesses de la révolution numérique
I. Des calculs massivement défaillants
II. Calculer, c’est discriminer
III. Du marketing à l’économie numérique :
la discrimination pour le profit
IV. De l’autoritarisme du numérique au risque fasciste des calculs
V. Calculer autrement !

Amis lecteurs, vous pouvez précommander le livre dans toutes les librairies. Des rencontres en librairie sont déjà prévues à Paris, à Rennes… et j’espère, amis libraires, que nous aurons l’occasion d’en organiser de nombreuses autres, partout ailleurs ! Pour cela, je vous laisse contacter directement les éditeurs.

Amis journalistes, pour obtenir un service de presse, il faut contacter Antoine Bertrand – 06 24 30 29 07 – antoinebertrand1@gmail.com – attaché de presse pour de nombreuses maisons d’éditions.

Pour des demandes d’interventions qui ne concernent ni la presse ni les librairies, toutes mes coordonnées sont accessibles sur la page à propos de cet espace. Et si vous souhaitez prolonger votre lecture, je vous invite à vous abonner au média en ligne que j’anime depuis un an, Dans les algorithmes.

Cette page sera mise à jour pour signaler les recensions du livre, les interviews et les tribunes qui lui seront liées.

C’est une très belle maison que je rejoins et j’en suis très heureux. Je n’aurai jamais assez de remerciements pour Irénée Régnauld qui nous a présenté et qui a rendu ce livre possible. Merci à Jean, Stella et toute l’équipe de La Fabrique pour leur formidable accompagnement.

Recensions, interviews, interventions, rencontres :

Les livres qui citent “Les algorithmes contre la société” :

Joie de pouvoir jouer à Google Books désormais, en pointant vers les livres qui citent le mien (pour ceux que je repère) :

A venir :

Avec mes excuses… algorithmiques

✇Hubert Guillaud
Par : Hubert Guillaud
9 juillet 2024 à 10:22

Mea culpa maxima !

Vous qui me lisez ici, qui êtes abonnés à ce blog automatiquement par RSS ou par mail, êtes assurément mes plus fidèles lecteurs… Et en fait, si vous ne me suivez pas sur les réseaux sociaux, vous n’êtes peut-être pas au courant que j’ai lancé un nouveau média. Il s’appelle Dans les algorithmes, et je veux croire que son titre dit clairement son objet. Il souhaite apporter à tous de la matière pour mieux comprendre les transformations sociales que produisent les données et les calculs sur la société. Ce média en ligne (pour l’instant une simple newsletter que nous transformerons en site à la rentrée) a déjà produit 8 numéros (que vous pouvez lire par là). Et je ne vous préviens que maintenant. Je m’en excuse platement… mais ces dernières semaines ne m’ont pas laissé beaucoup de temps pour revenir vers vous. Le lancement, le rythme de production élevé m’a accaparé. Ce n’est pas une excuse suffisante, je le reconnais. J’espère que la disponibilité des contenus viendra compenser ce manquement des plus grossiers.  

Ce nouveau média est le fruit d’un long travail et de discussions avec beaucoup d’acteurs. Mais comme toute aventure, il est avant tout le fruit d’une rencontre. Cette rencontre, c’est celle de François-Xavier Petit, président de Matrice. Je l’avais rencontré une première fois en 2019, alors que Matrice n’était encore qu’une école du web un peu iconoclaste. C’est lui qui est venu me chercher en apprenant la fin de l’aventure de la Fing. De discussions en discussions, nous nous sommes retrouvés sur un même constat : le monde du numérique a besoin de comprendre ses transformations et de bâtir des alternatives. Sur la base de ce constat nous avons monté Vecteur, une structure associative pour porter le média et ses ambitions, pour rassembler ceux qui ne se sentent pas vraiment à l’aise avec les développements actuels du numérique. Durant de longs mois, il a fallu frapper à de nombreuses portes, tenter de convaincre ceux qui pourraient se retrouver dans ces constats pour nous soutenir et nous aider à démarrer. Ce ne fut pas le plus facile et nos efforts n’ont pas toujours été couronnés de succès. Avec patience pourtant, nous avons réussi à monter la structure et à trouver nos premiers soutiens. Il nous en faudra bien d’autres pour continuer, mais nous partons confiants. Nous restons persuadés que nous avons besoin d’améliorer le niveau de discussion sur le numérique et encore plus à l’heure de l’IA. On espère que les très nombreuses pistes que nous avons déroulées dans ces 8 numéros agiront comme un démonstrateur pour que les acteurs du numérique se réinterrogent ensemble sur ce qu’ils déploient et mettent en place et se retroussent collectivement les manches pour faire mieux. 

C’est pourquoi, outre le média, le grand chantier qui va m’animer dans les mois à venir, consiste à ouvrir la discussion sur les systèmes du travail. J’ai l’impression qu’il y a là un levier pour tenter d’interroger les limites des systèmes de calcul du fait de leurs effets très concrets sur les gens. 

Nous sommes à la recherche de partenaires qui souhaitent venir creuser leurs responsabilités RH dans un monde automatisé. De chercheurs et de militants qui travaillent sur les enjeux des système d’embauches automatisés, des usages des plateformes d’emplois par les demandeurs d’emploi, des systèmes de planification d’horaires et des systèmes d’évaluation des personnels comme de surveillance au travail. Si vous avez des idées, si vous voulez me présenter des acteurs, n’hésitez pas à m’écrire. 

Un grand merci aux équipes de Matrice pour leur patience et leur énergie. Un grand merci à ceux qui ont parié sur le projet : Jérémy Lamri, Christian Fauré, Hélène Halec. Un grand merci au ministère de la Culture pour son soutien. 

Hubert

PS : ce blog ne va pas fermer pour autant même s’il sera certainement bien moins alimenté qu’il ne l’était. Mais il est probable que j’ai encore besoin de cet espace pour parler de quelques lectures qui n’auront pas leur place dans le média. 

Une Silicon Valley, plus de droite que de gauche

✇Hubert Guillaud
Par : Hubert Guillaud
25 avril 2024 à 12:33
“Au-delà de l’idéologie de la Silicon Valley” : Tèque n°4.

En devenant enfin thématique, le 4e numéro de Tèque réussit assurément sa mue. Loup Cellard et Guillaume Heuguet y livrent une intéressante critique de l’idéologie californienne (portée notamment dans le livre éponyme de Richard Barbrook et Andy Cameron, mais également par Fred Turner dans Aux sources de l’utopie numérique). Ils rappellent fort justement que le pouvoir économique de la Silicon Valley précède de loin le moment hippie et que Barbrook et Cameron sous-estiment particulièrement le rôle de l’industrie technologique et des fonds d’investissement qui lui sont bien antérieurs. Le positionnement technologique de la Silicon Valley a d’abord été porté et est encore porté par des notables, des personnalités autoritaires, des investisseurs qui ne partagent en rien les idéaux communautaires. Les cadres de la Valley ont toujours bien plus tenus de bourgeois réactionnaires que de socialistes libertaires. Le darwinisme et l’eugénisme, c’est-à-dire le fond très réactionnaire des industriels de la Valley, n’est pas que le fait d’un Musk ou d’un Bezos, mais se retrouvent en continue chez tous ceux qui ont fait la Silicon Valley depuis le 19e siècle (comme le montrent d’ailleurs Timnit Gebru et Emile Torres dans leur dernier article pour First Monday sur l’idéologie de l’IA). Les élites californiennes ont toujours porté peu d’attention à l’égard du prolétariat qu’ils ont toujours largement exploité.

Dans ce numéro, on découvre également une belle contribution de Fred Turner qui critique la notion de prototypage, qui rappelle combien elle est enracinée dans la pratique ingénieure comme dans la théologie protestante, et combien ceux-ci permettent de produire des récits permettant de fusionner des orientations commerciales et politiques. Par le prototype, les ingénieurs deviennent des ministres du culte ingénieurial, capables de proposer des mondes sociaux idéaux, à leur propre gloire. 

Charlie Tyson dresse, lui, un passionnant portrait de Peter Thiel, symbole réactionnaire de la Silicon Valley, qui fait se rejoindre ses stratégies d’investissement et ses combats idéologiques, pour imposer au monde les uns comme les autres. 

Le sociologue de la finance, Fabien Foureault, lui, explique dans un excellent papier combien la technologie a permis de construire des machines financières pour dépasser la stagnation capitaliste, notamment en permettant de développer le capital-risque qui n’a cessé de se construire comme s’il était la seule réponse aux crises du capitalisme contemporain. Pourtant, le capital risque a intrinsèquement un caractère dysfonctionnel. Il favorise les emballements et effondrements, peine à inscrire une utilité sociale, et surtout, ses performances financières restent extrêmement médiocres selon les études longitudinales. “L’économie numérique, financée par le capital-risque, a été conçue par ces élites comme une réponse au manque de dynamisme du capitalisme tardif. Or, on constate que cette activité se développe en même temps que les tendances à la stagnation et qu’elle n’arrive pas à les contrer.” Sa contribution à la croissance semble moins forte que le crédit bancaire et le crédit public ! “Le rendement de la financiarisation et de l’innovation est de plus en plus faible : toujours plus d’argent est injecté dans le système financier pour générer une croissance en déclin sur le long-terme”. 

On y trouve également un extrait du livre de Ruha Benjamin (Race after technology, dont j’avais longuement parlé), qui nous rappelle que le design tient surtout d’un projet colonisateur, qui ne parvient pas à accompagner l’émancipation.

Un autre extrait de livre, celui de Orit Halpern et Robert Mitchell, The Smartness Mandate, MIT Press, 2023), vient discuter des limites de l’injonction à créer un monde parfaitement optimisé, qui vient renouveler la logique de la promesse, sans ne plus proposer aucun progrès. Ils rappellent que les machines et les algorithmes sont devenus les principes d’une gouvernance rationnelle qui cherche toujours à s’adapter aux transformations. Ils rappellent que l’optimisation ingénieuriale signifiait obtenir “la meilleure relation entre les performances minimales et maximales au sein d’un système”, c’est-à-dire une mesure relative au système étant donné ses buts et contraintes, offrant le plus de bénéfices. Mais depuis, cette optimisation pour elle-même a surtout montré ses limites et ses échecs. Elle a produit des solutions pour certains mais pas pour tous. Les deux auteurs soulignent que cette optimisation repose sur la logique de dérivation, propres aux produits dérivés financiers, c’est-à-dire, à produire des dérivés de données pour automatiser, en prenant par exemple en compte des signaux qui ne devraient pas être pris en compte pour construire des systèmes, en ajoutant ainsi aux systèmes d’information des voyageurs, des dérivés qui ne reposent pas seulement sur l’information dont on dispose sur ceux-ci pour mesurer le risque, mais sur d’autres facteurs comme le temps séparant l’achat d’un billet du départ, le fait qu’il soit réglé en espèces, etc. Les dérivés des systèmes d’information permettent “de se prémunir contre les risques sans se retrouver légalement responsables des instruments instables” produits, comme c’est le cas avec les produits dérivés financiers. 

Enfin, le recueil se termine par un inédit de Dave Karpf, sur le longtermisme. Dont je ne retiendrais qu’une phrase pour illustrer les limites des développements technologiques actuels : “Nous sommes en train de brûler la forêt tropicale pour que les ordinateurs puissent faire des dessins animés à notre place”. 

Ce nouveau numéro de Tèque n’a pas qu’une couverture qui passe du blanc au rouge ! Je vous le recommande chaudement !

Hubert Guillaud

A propos de Au-delà de l’idéologie de la Silicon Valley, Tèque 4, 160 pages, 16 euros. 

Je vous avais déjà parlé de Tèque : du premier numéro, du second et du troisième.

L’aporie de la société ordinale 

✇Hubert Guillaud
Par : Hubert Guillaud
9 avril 2024 à 11:33

L’essai des sociologues Marion Fourcade et Kieran Healy, The ordinal society (Harvard University Press, 2024) livre une réflexion assez générale sur les paradoxes de la numérisation de nos sociétés. C’est un peu dommage. Le livre manque souvent d’exemples, de concepts et de terrains. Reste que l’idée générale d’une société désormais ordonnée par et pour la mesure est une évidence que l’on partage largement. Fourcade et Healy montrent que la généralisation des classements conduit à une contradiction insoluble qui invisibilise les forces sociales qui traversent chacun. Les systèmes de classements nous promettent une société où nous aurions tous les mêmes chances à l’aune de nos seuls mérites. Rien n’est moins vrai. A invisibiliser le social par l’individualisation, le risque est qu’il nous éclate à la figure. 

Couverture du livre The ordinal society.

Société ordinale, société ordonnée
Nous sommes confrontés à un monde paradoxal expliquent les deux sociologues : l’informatisation promeut à la fois une démocratisation et une hiérarchisation de nos organisations sociales. La société ordinale est une société ordonnée, gouvernée en toute chose par la mesure, qui produit des effets très concrets sur la société dans une forme de stratification inédite qui bouscule la distribution des opportunités. “Une société ordinale crée de l’ordre par le classement et l’appariement automatisés”. La puissance de ses méthodes, des hiérarchies et catégories qu’elle produit semble sans limite, alors que tout le monde n’est pas bien classé par ces outils. Ce pouvoir ordinal concentre le pouvoir de la mesure dans quelques mains, mais surtout il distille l’idée que le classement et l’appariement sont la solution à tous nos problèmes. Nous sommes passés d’un protocole de partage à un système d’organisation, d’évaluation et de contrôle remarquablement pratique qui est devenu la structure même de notre société. 

Cette grande commodité qu’apporte le numérique est à la source de notre acceptabilité de la grande transformation sociale qu’a été la numérisation. Le problème c’est qu’elle produit un système sans échappatoire. C’est là, la “tragédie politique de l’interactivité”, notre participation enthousiaste se termine par notre propre capture, dans une relation fondamentalement asymétrique, où chaque utilisateur est transformé en profit.

L’accumulation de données est devenue l’impératif, un schéma ordinal s’est mis en place pour capturer et traiter les données. Le numérique a permis à la fois de déployer une précision, un détail, une granularité des données sans précédent ainsi qu’un volume et une massification sans précédent. Tous les processus deviennent communs, comme le disait très justement la sociologue Marie-Anne Dujarier en évoquant le paradoxe de la standardisation des dispositifs par le numérique. Toutes les activités se structurent autour de mêmes activités formelles qui consistent pour l’essentiel à remplir des tableurs et produire des calculs. Les activités deviennent partout mimétiques, normalisées, standardisées. Faire de l’éducation ou du marketing revient désormais à utiliser les mêmes procédures. “La logique bureaucratique des organisations a fusionné avec la logique de calcul des machines”. Les machines sont programmées pour utiliser les données et identifier des modèles, qui sont souvent opaques voire peu interprétables à mesure que se démultiplient les données et les calculs. Les modèles statistiques étaient déjà complexes et opaques, ils le sont plus encore avec l’IA. “La combinaison de grands volumes de données, de haut niveaux de précisions et l’absence d’interprétabilité a plusieurs conséquences organisationnelles” : elles encouragent une forme d’orientation magique au profit des résultats et une déférence à leurs égards. Au risque que les calculs se rapprochent bien plus de l’alchimie ou de l’absurde qu’autre chose, les calculs produisent des résultats, comme on le montrait avec la reconnaissance faciale par exemple. Le problème, c’est que cela ne fonctionne pas toujours. Face à la complexité des calculs cependant, le risque est que nous soyons laissés avec toujours “moins de place à la compréhension et moins de moyens d’intervention”. 

Fourcade et Healy avancent que si nos machines classent c’est d’abord parce que nous mêmes le faisons. Pourtant, la différence avec nos classements, c’est que ceux établis par le numérique sont actionnables, et que les classifications produites à la volée, elles, invisibilisent les interprétations qui sont faites. Les distinctions sont exprimées sous forme de scores et de classements, toujours mouvants, pour nourrir les mesures les unes des autres. Mais comme les hommes, les classifications des machines ne sont pas exemptes d’erreurs, des erreurs qui se déversent d’un classement l’autre, d’autant qu’ils s’entrecroisent les uns les autres.

Dans les défaillances des calculs au risque de produire un “lumpenscoretariat”
Au final, bien souvent, les résultats se révèlent pauvres, extrêmement biaisés quand ce n’est pas profondément problématiques. “Il n’y a pas de solution technique simple à ces problèmes sociologiques”, avancent les sociologues. Fourcade et Healy prennent un exemple frappant. Pour classer des images médicales pour identifier des cas de pneumonies, des chercheurs ont utilisé 160 000 images provenant de nombreux hôpitaux américains. Mais ce que le système d’IA a le mieux identifié, c’est d’abord la différence sociale entre les hôpitaux eux-mêmes. Les hôpitaux n’avaient pas les mêmes patients ni les mêmes qualités d’images. Dans ce cas, le classifieur a surtout appris des différences entre les hôpitaux que ce à quoi une radio de pneumonie ressemble. 

Bien souvent la spécification des modèles par ces méthodes restent pauvres, puisqu’ils doivent apprendre par eux-mêmes. “En incitant les organisations à considérer toutes les données comme utiles et en développant des outils dotés d’une capacité jusqu’ici inégalée à trouver des modèles, les ingénieurs logiciels ont créé des outils dotés de pouvoirs nouveaux et quelque peu extraterrestres.” Le risque, c’est bien sûr de transformer notre monde social en modèle, mais sur des bases particulièrement opaques et avec des performances retorses et qui le sont d’autant plus que ce que l’on doit classer est problématique. Bien souvent on utilise des données inadaptées qu’on mixe à d’autres données inadaptées pour produire un calcul qui approche ce que l’on souhaite calculer. C’est ce que répète souvent Arvind Narayanan : les systèmes ne savent pas calculer ce qui n’est pas clairement défini. Dans le domaine de l’emploi, par exemple, la productivité, la performance ou la qualité d’un candidat ne sont pas des calculs faciles à produire. Et ceux qui en proposent apportent rarement la preuve que leurs calculs fonctionnent. 

Quant à savoir si le résultat est juste ou pas, c’est bien souvent encore plus difficile puisque cela dépend de qui est classé est comment, selon quels critères… ce qui devient encore plus difficile avec des données qui s’adaptent, des catégories qui se reconfigurent sans arrêts… Nous sommes inscrits dans des matrices de caractéristiques fluctuantes qui se recombinent et évoluent sans cesse, rappellent les sociologues. Les systèmes de mesures tendent à chercher une objectivité qui est difficilement atteignable. Au prétexte de pouvoir calculer tout le monde, les systèmes produisent des scores qui fonctionnent très mal pour tous. Certains publics sont mal mesurés et mal classés. C’est ceux que Marion Fourcade appelle le “lumpenscoretariat” du capitalisme numérique. Ceux qui n’entrent pas dans les cases du formulaire, ceux dont la position est trop aberrante par rapport aux données et moyennes, ceux qui vont être maltraités par les systèmes de calcul, et qui seront d’autant plus mal traités que les scores les suivent par devers eux, se répliquent, se consolident dans d’autres index, sous la forme de cascades décisionnels de l’ordinal. 

La performativité généralisée
Fourcade et Healy passent ensuite plusieurs chapitre à nous faire comprendre comment la donnée est convertie en flux de paiements et comment les plateformes assurent leurs monopoles sur les données et renforcent leurs avantages compétitifs par le grand raffinage permanent des données, comme le pratiquent les Gafams, cherchant toujours à renforcer leur propre position, leurs propres avantages. Ils expliquent comment Amazon ou Google ont exploité leur position pour améliorer leur business. Le problème, c’est qu’elles finissent par utiliser les informations qu’elles recueillent pour ajuster leurs business au détriment de leurs clients et de leurs publics, comme le constataient Tim O’Reilly, Illan Strauss et Mariana Mazzucato. Le risque est que demain, elles l’appliquent non seulement aux prix, mais aussi aux salaires, comme le font déjà les plateformes des travailleurs du clic ou les outils de planning RH. Quand toute donnée devient performative, le risque est qu’on ajuste leur performance pour les optimiser. 

Les firmes se sont accaparées les données nécessaires pour accéder à leurs services ainsi que leur propriété. Le business model du numérique tient avant tout de la rente. Les fonctionnalités que permettent l’exploitation des données ou les nouvelles fonctionnalités sont vendues en plus de votre abonnement. Dans le monde des biens non numériques, une vente signifiait un transfert de propriété. Ce n’est plus le cas avec les biens logiciels. Vous n’êtes plus que le locataire d’un service. C’est en cela que “les flux de données deviennent des flots de revenus”. Les industries du numérique, quels que soient les produits qu’elles vendent, finissent par se ressembler jusque dans leurs processus et leurs modèles économiques. “Chaque producteur de bien se transforme en compagnie technologique, chaque compagnie technologique devient un fournisseur de service, et chaque fournisseur de service devient un flux de données transformé en actif”. Avec le numérique, se diffuse d’abord une façon de penser l’économie comme un actif financier. Les données que tous les acteurs s’échangent, rendant le marché toujours plus liquide, ajustable. “L’infrastructure toute entière d’internet peut être transformée en registre qui est aussi un casino”. Tout peut être tokenisé, vendu, transformé en actif, comme l’est le langage lui-même avec l’IA générative. 

Vers une citoyenneté ordinale ?
La classification sociale et le classement quant à eux, produisent des groupes éphémères, composés à la volée, construits puis déconstruits, qui s’ajustent aux contextes, aux frontières plus floues que tranchées, mais où tout doit être hiérarchisé. Les anciennes catégories sociales sont recomposées jusqu’à composer des groupes sans personnes et des personnes sans groupes dans une forme d’individualisation exacerbée. Dans la société pensée par les technologies de classement, l’individu semble devenir auto-souverain. Pour Fourcade et Healy, le risque est que ces évolutions nous conduisent à une citoyenneté ordinale, à une société crédentialiste, c’est-à-dire qui repose uniquement sur les preuves que cette même société produit, une forme d’hyper-méritocratie par le calcul. On ne reviendra pas ici sur toutes les limites de cette vision par le seul mérite. Les mesures du mérites sont partout, sans même parvenir à imposer une mesure objective ou équitable de celui-ci. Dans cette société ordinale, organisée par et pour que ses citoyens soient classés, le rôle de l’Etat n’est plus d’organiser les objectifs de chacun, mais de “s’assurer que le marché les servent bien”. Dans cette société ordinale, les citoyens sont évalués individuellement plutôt qu’en tant que membres de groupes sociaux, sur leurs actions individuelles. Dans une société ordinale, l’important est le classement et ce classement ne permet pas de protéger les gens qui sont mal classés : il n’y a pas de compensation pour les marginalisés et les vulnérables. Nous passons d’une gestion des citoyens par catégories sociales à des gestions individuelles comportementales. Une citoyenneté ordinale, c’est une citoyenneté très individualiste et donc très contrôlée. Et les plus contrôlés sont les moins bien classés, ceux qui relèvent du lumpenscoretariat. Le classement individuel paraît à tous moins controversé et plus équitable, alors qu’il produit une trappe des déclassés, comme l’a montré Issa Kohler-Hausmann dans son livre Misdermeanorland, une enquête sur les délits mineurs, les infractions, les écarts de conduite et leurs jugements expéditifs à l’égard des plus démunis. C’est ce que montre également le philosophe Achille Mbembe quand il évoque leur éviction.  

Dans la société ordinale, chacun semble avoir ce qu’il mérite, comme si la société n’existait pas
“En approfondissant les mesures au niveau individuel, en standardisant la prise de décision grâce à des repères comportementaux de plus en plus détaillés, la collecte de données finit par reconstituer, un petit morceau à la fois, la vérité fondamentale de la structure sociale”. Alors que le développement de la citoyenneté conduit le plus souvent au déclin des différences de genre, de race, de propriété, de religion, de caste… la citoyenneté ordinale permet de contourner les lois contre les discriminations, de réinscrire les discriminations sous le voile du mérite. Même en enlevant toutes les catégories problématiques par exemple, le score de crédit demeure classiste, validiste, raciste, masculiniste… comme le montraient les travaux d’Andreas Fuster ou de Davon Norris. L’ordinalisation de la société est trompeuse. D’abord parce qu’elle transforme la structure sociale du social en choix individuels qui n’en sont pas : le fait de ne pas avoir accès au crédit n’est pas un choix individuel ! Ensuite parce que les positions de chacun sont interprétées comme un choix moral, alors que le fait de ne pas accéder au crédit ne relève pas de son seul comportement, mais bien plus des valeurs morales de la société qui donne plus de crédits à ceux qui ont le plus de moyens. Dans la société ordinale, chacun semble avoir ce qu’il mérite, comme si la société n’existait pas. 

Or, le classement et l’appariement n’ont rien de mesures objectives. En invisibilisant le social, elles le révèlent. On ne peut pas corriger les algorithmes : un système ordinal ne peut pas être ajusté ou corrigé, avancent les deux sociologues. C’est la société elle-même qui est scorée à un niveau individuel. Les outils de classement et d’appariement sont produits pour fonctionner dans certains contextes, ils sont produits au service de certains objectifs pour certaines organisations. Beaucoup de systèmes ordinaux favorisent ceux qui produisent de la valeur pour ceux qui produisent le système. Avoir un bon score de crédit par exemple nécessite d’abord d’utiliser parfaitement le système crédit, tout comme les plateformes du digital labor favorisent ceux qui y performent, ou les médias sociaux favorisent leurs meilleurs éléments (ceux qui postent beaucoup, ceux qui payent…). La stratification ordinale trouve sa justification dans le mérite alors qu’elle n’en relève pas. Le management algorithmique reste une cage invisible ou le mérite qu’il mesure reste illisible et fluctue de manière imprévisible. Deux tiers des conducteurs de Lyft et Uber en 2023 ont été désactivés brutalement à un moment ou à un autre par l’application. Le risque est que nous soyons de plus en plus confrontés à des calculs “aliens”, étranges, improbables… auxquels nous devons nous conformer sans même savoir ce qu’ils agencent ou comment ils l’agencent. Face à des processus d’évaluation opaques et complexes, chacun peut penser que ce sont ses mérites personnels qui sont évalués quand cela reste et demeure un individu et sa position sociale. Les règles de l’ordinalité peuvent changer en permanence pour qu’il soit plus difficile d’en lire ses caractéristiques, la “précarité algorithmique”, elle, s’installe pour de plus en plus en plus d’entre nous, les déclassés des systèmes. 

Se retirer des classements ?
Dans leur conclusion les deux sociologues dénoncent “l’insupportable justesse à être classé”. Les classements et appariement sont partout. Ces outils promettent d’être inclusifs, objectifs et efficaces… Mais ce n’est pas le cas. “Ces intermédiaires algorithmiques remplacent les classifications institutionnelles plus conventionnellement solidaristes ou universalistes par une esthétique de hiérarchie justifiée. Les classements et les notes, ainsi que les correspondances associées qu’ils permettent, soutiennent l’imagination d’une société ordinale.” Nous sommes dans une double vérité. A la fois nous pensons que le classement est juste et à la fois qu’il ne peut pas l’être.

En guise de perspective, les deux sociologues montrent que certaines universités américaines ont décidé de ne plus être classées dans le classement des universités américaines. Mais tout le monde ne peut pas se retirer des classements. “À mesure que la société ordinale s’étend, la recherche d’une égalité formelle sous l’œil du marché éclipse la lutte pour l’égalité substantielle sous l’ombre de l’Etat. Les biens publics et les objectifs collectifs se dissolvent dans le bain acide de l’individualisation et de la concurrence, nous laissant de plus en plus seuls dans un monde hyperconnecté dont l’ordre social est précisément mesuré et, à sa manière factice, car incontestablement « juste ». La vie dans la société ordinale pourrait bien être parfaitement insupportable”.

Pour ceux qui bataillent déjà dans les calculs du social qui sont produits sur eux, c’est déjà le cas. 

Hubert Guillaud

A propos du livre de Marion Fourcade et Kieran Healy, The ordinal society, Harvard University Press, 2024, 384 pages. 

Astrocapitalisme et technocapitalisme : la promesse d’un même dépassement

✇Hubert Guillaud
Par : Hubert Guillaud
22 mars 2024 à 09:45
Couverture du livre d’Irénée Régnauld et Arnaud Saint-Martin.

Ce qui me frappe dans le très sérieux livre d’Irénée Régnauld et d’Arnaud Saint-Martin, Une histoire de la conquête spatiale : des fusées nazies aux astrocapitalistes du New Space (La Fabrique, 2024), c’est combien leur description des transformations de la conquête spatiale pourrait se calquer sur celles des technologies numériques. On a  l’impression d’être immergé dans une même continuité idéologique, politique et économique. L’espace semble un champ technologique comme les autres où la science est d’abord mise au service des intérêts de la Défense et des marchés, avec les mêmes promesses fantasques, assénées avec le même aplomb, pour mieux masquer leurs réalités économiques, extractivistes et matérialistes. Le récit fantaisiste de la conquête d’autres mondes ressemble à s’y méprendre aux promesses du monde numérique, tel qu’on l’entend beaucoup en ce moment avec la révolution de l’IA générative. Il vise, là aussi, à construire du consentement, du spectacle, de la puissance… pour produire un futur inévitable et désirable, alors qu’il produit surtout du désastre, comme toutes les conquêtes avant elle. C’est comme si l’imaginaire humain n’arrivait pas à s’extraire de son rêve de conquête, de dépassement. L’évidence spatiale est le décalque de l’évidence technologique, une idéologie qui se renouvelle à chaque nouvelle proposition technologique, dans une forme de fantasme de puissance permanent qui n’en donne pourtant qu’à ceux qui la dominent et qui en tirent profit.  

Dans leur livre, le consultant Irénée Régnauld – cofondateur du Mouton numérique et infatigable blogueur pour Mais où va le web ? – et le sociologue des sciences Arnaud Saint-Martin déconstruisent patiemment les promesses et les croyances du secteur spatial pour montrer l’intensification marchande et le durcissement de l’idéologie extractiviste. Les promesses servent surtout à lever des fonds et le fait qu’elles soient irréalistes ou fantasques semblent même permettre de lever encore plus de fonds, comme si toute rationalité avait quitté les acteurs du spatial, comme si les récits encore plus fous étaient seuls capables de dynamiser un imaginaire complètement à bout de course à force d’avoir été répété. Le vol habité, le retour sur la Lune, l’exploitation des astéroïdes, la conquête de Mars et sa terraformation… sont autant de “surenchères martiales, propagandistes, extractivistes et commerciales” qui invisibilisent le fait que cette volonté de puissance ne peut se faire qu’au prix de rendre la terre inhabitable. La promesse d’une nouvelle terre se fait en fermant les yeux sur la destruction de la nôtre, comme le montrait récemment la journaliste Celia Izoard en parlant du colonialisme minier. En lisant cette surenchère de promesses, toujours renouvelées, toujours plus découplées de leurs effets (pollution des orbites basses par exemple, développement du pseudo tourisme spatial – alors qu’on ne parle que de voyages lointains…), on a l’impression de lire un livre sur les technologies numériques qui nous noient sous leurs mythes sans jamais regarder leurs effets réels et concrets. On y lit les mêmes transformations : privatisation sur fonds publics, dérégulation tout azimut au profit du marché… tout en clamant toujours son ampleur scientifique, à l’image des nouvelles Lumières des promesses de l’IA. La lecture des quelques pages sur le déploiement de SpaceX par exemple sont particulièrement éclairantes. Les deux auteurs montrent que la capacité de lancement à bas coût de Space X n’a été possible qu’en absorbant une histoire industrielle et l’investissement public. Le New Space capitaliste n’est en rien une rupture avec le fonctionnement passé de l’économie de l’espace, expliquent-ils, mais bien son prolongement par une privatisation inédite. Le principe du réemploi des lanceurs permet certes de générer des économies, mais surtout d’accélérer la cadence des lancements. “La soutenabilité (des modèles du New Space) repose sur l’intensification du volume d’activité” qui génère une fuite en avant, à l’image des flottes de satellites de Starlink à la durée de vie très courte. Comme dans la tech avec Uber, on finance la fuite en avant par des investissements massifs malgré des revenus insuffisants. La promesse d’une nouvelle économie de l’espace repose sur les mêmes moteurs que celle de la tech : des investissements démesurés pour prendre le leadership du secteur par l’intensification de l’exploitation. Au risque de donner un pouvoir sans précédent à ces prestataires, comme c’est déjà le cas avec le fantasque et délirant Elon Musk. Régnauld et Saint-Martin pointent très bien que le secteur profite surtout de la dérégulation qu’organise le secteur public par exemple en favorisant l’investissement par des mesures d’exonérations dédiées au profit du privé et des aides et marchés que l’acteur public leur confie. On a vraiment l’impression de voir rejouer les mêmes politiques que celles qui ont fait naître la Silicon Valley. 

D’autres pages méritent l’attention. Comme celles qui reviennent sur la justification de l’importance du secteur spatial, à savoir la “rhétorique des retombées” économiques (ce ruissellement inexistant qui profite surtout au secteur spatial lui-même) ou celles de la justification scientifique (quand l’immense majorité des recherches sont coûteuses et inutiles), alors que la justification réelle du secteur repose bien plus sur son image innovante pour “persuader le contribuable de la validité” et de l’importance du secteur pour lui-même, que ce soit pour des questions de prestige ou d’importance géopolitique… 

Ce qui m’a frappé dans ce livre, c’est combien le développement économique du spatial est tout entier lié à sa dérégulation, qui vise bien plus à enlever les problèmes qu’à les régler. C’est l’assouplissement des règles sur l’usage commercial de l’ISS qui permet d’étendre sa commercialisation à des entreprises ou des acteurs privés. C’est l’enterrement du principe de non-appropriation par le Space Act de 2015 qui permet le déploiement d’une nouvelle économie spatiale et ouvre l’exploitation de ses ressources. Ce sont les exceptions fiscales en faveur de l’innovation qui favorisent les levées de fonds qui permettent de faire croire à la rentabilité d’un secteur fragile, comme l’est par exemple le tourisme spatial. Reste que même les promesses d’exploitation minière qui semblent la nouvelle justification de l’extension spatiale, demeurent très spéculatives, rappellent les auteurs. Les richesses des sous-sols, les promesses de l’Hélium 3 sont pour l’instant théoriques. “La mission japonaise Hayabusa 2 lancée en 2014 et revenue sur Terre en décembre 2021 a permis de ramener moins de 100 milligrammes de poussière de l’astéroïde Ryugu pour un coût de 200 millions d’euros”. Les mines spatiales semblent encore très très très loin ! 

Mais surtout, rappellent-ils, la pollution et l’encombrement orbitale pourraient à terme compromettre l’utilisation même de l’espace. Outre les satellites innombrables, les débris orbitaux sont également innombrables. La désorbitation reste non contraignante, alors que les lancements et l’obsolescence des satellites s’accélèrent. A force de dérégulation, les solutions pour nettoyer notre espace proche s’éloignent alors que leur coût s’envole. L’astrocapitalisme ressemble surtout à “château de carte”, pour ne pas dire une pyramide Ponzi ! 

Le livre d’Irénée et Arnaud est certes épais, précis, copieux, dense, très documenté, trop exigeant, mais il interroge parfaitement les idéologies qui sont à l’oeuvre (je n’aime pas le terme d’imaginaires qui, à mon sens, dépolitise les fictions qui nous sont vendues), celles qui nous vendent des espoirs d’un autre monde en invisibilisant la destruction du nôtre. Ils déconstruisent à leur tour nos rêves de colonisation lointaine, comme l’avaient fait l’astrophysicienne Sylvia Ekström et Javier Nombela dans le tout aussi excellent Nous ne vivrons pas sur Mars, ni ailleurs. 

Au terme du livre, on se pose une question très saine finalement. Avons-nous vraiment besoin de cette débauche de faux espoirs ? De cette débauche de rêves qui ne deviendront jamais réalité ? On se demande pourquoi autant de gens croient au dépassement de notre humanité, dans des fusées qui ne mènent nulle part comme dans des systèmes techniques comme l’IA qui nous réduisent à n’être rien ? Tout cet argent dépensé pour aller sur des cailloux qui ne peuvent rien nous promettre me font penser à tout cet argent dépensé pour barder le monde de technologies dont les promesses sont très éloignées de leurs réalisations concrètes. Qu’on s’entende néanmoins, je ne dis pas qu’il ne faut pas de technologies, mais pourrions nous garder en tête que leur développement devrait être limité et contraint, circonscrit à des réalités plus qu’à des fantasmes ? L’IA et la tech partout nous renvoient au même délire que cette conquête spatiale absolutiste. Il n’y a pas d’enjeu à envoyer des humains sur Mars, pas plus qu’il n’y a d’enjeux à développer une infrastructure numérique totale et omniprésente. Quand est-ce que les fantasmes cesseront d’alimenter notre développement technologique pour mieux prendre en compte ses limites ? 

Hubert Guillaud

A propos du livre d’Irénée Régnauld et Arnaud Saint-Martin, Une histoire de la conquête spatiale : des fusées nazies aux astrocapitalistes du New Space, La Fabrique, 2024, 288p., 20 euros.

Le code contre le texte

✇Hubert Guillaud
Par : Hubert Guillaud
20 février 2024 à 12:21
Couverture du livre de Nathalie Azoulai, Python.

Ce récit d’une écrivaine à la découverte du code a la fraîcheur du béotien qui va à la rencontre d’un monde qu’il ne comprend pas où qu’il prétend ne pas saisir. Dans Python (P.O.L., 2024), la romancière Nathalie Azoulai s’interroge sur cette langue vivante “qui pourtant ne se parle pas”, sur cette révolution graphique et la fascination qu’elle provoque. Que ce soit pour ces jeunes codeurs, absorbés dans leur monde, comme de la puissance de la science sur les lettres. Azoulai multiplie les saillies, les réflexions que lui inspirent ce monde et ces gens. Souvent avec une belle pertinence, comme quand elle pointe que le langage humain semble être devenu secondaire… Cette défaite des lettres sur la science, semble être aussi pour Azoulai, la défaite d’une génération sur une autre. Le code incarne à la fois la jeunesse et le futur. Une autre forme d’art qui ne parle plus qu’aux machines ou un nouveau pouvoir sur le monde, capable de le façonner, de l’exécuter, sans qu’on sache si c’est pour le transformer ou pour le terminer. Coder, c’est comme le contraire de la littérature, puisque c’est tenter d’enlever son ambiguïté au monde, en réduire le sens pour mieux le dominer.

Le livre de Nathalie Azoulai n’est pourtant pas sec comme une page de code, au contraire. L’écrivaine va à la rencontre des jeunes humains de ce monde, tente de les entendre, même si la “daronmancière” semble plus fascinée par la portée érotique de leur jeunesse que par ce qu’ils produisent. C’est peut-être la limite de l’exercice : Azoulai ne parvient pas entrer dans le vide que construit ce monde, que ce soit le flow du codeur, mais plus encore, à regarder la pauvreté de ce que les data assemblent. Leur puissance en reste au niveau du fantasme romantique… Et celui-ci, faute d’avoir percé le code, ne parvient pas à sortir d’une fascination déçue, à l’image de la convocation finale de ChatGPT, bien trop convenue.

Avec sa naïveté feinte à la Xavier de la Porte, elle nous embarque pourtant. Azoulai regarde avec désir le monde qui vient, comme pour assouvir ou retrouver un instant la puissance perdue des lettres. Elle oublie (tout en ne cessant de le montrer) que cette puissance n’est que jeunesse. Qu’elle est aussi feinte que l’a été la puissance des lettres. De la figure du poète à celle du codeur, nous sommes confrontés à un même héroïsme feint, celle d’une puissance à dire le monde, à le réduire, à l’instrumentaliser plus qu’à le libérer.

Hubert Guillaud

A propos du roman de Nathalie Azoulai, Python, P.O.L., 2024.

Améliorer la démocratie

✇Hubert Guillaud
Par : Hubert Guillaud
6 février 2024 à 16:28

Dans Pour en finir avec la démocratie participative (Textuel, 2024), les consultants Manon Loisel et Nicolas Rio, cofondateurs du cabinet Partie Prenante, dressent un diagnostic pertinent et passionnant sur nos impasses démocratiques actuelles. Ils expliquent que la démocratie participative s’est imposée comme le remède à la crise de notre démocratie représentative, mais sans que cette médecine ne réussisse à produire un remède efficace ni aux défaillances de la démocratie représentative ni à donner de la force à la participation. Grand débat et Convention citoyenne pour le Climat ont surtout démontré leur impuissance à transformer le système politique. Loisel et Rio nous proposent donc d’arrêter avec la participation et de nous concentrer plutôt à réformer la démocratie représentative. L’enjeu n’est pas tant d’améliorer la participation que de démocratiser l’action publique. 

Couverture du livre de Manon Loisel et Nicolas Rio.

Ce constat rappelle beaucoup celui que dressait récemment Thomas Perroud dans son livre Services publics et communs qui invitait déjà à un élargissement démocratique capable de dépasser la fausse participation. La force du petit livre de Manon Loisel et Nicolas Rio est d’être particulièrement concret, puisqu’ils accompagnent depuis longtemps des collectivités dans la mise en place de processus participatifs.

De l’impuissance 

Leur livre est une réaction à l’impuissance que produisent ces dispositifs. La participation ne parvient pas à rendre l’action publique plus démocratique. Au contraire, elle relève bien souvent de la diversion, à l’image du Grand Débat, cette réponse pour reléguer la crise des gilets jaunes, et faire s’exprimer d’autres catégories sociales que celles qui manifestaient leur colère en décembre 2018. La Convention citoyenne pour le climat, malgré la qualité du processus mis en place, n’a pas produit plus que le Grand Débat. Les autres dispositifs de participation (réunion publique, enquête publique, conseils de quartier, budgets participatifs, panels citoyens…) ne produisent ni plus ni mieux. Partout, les formats l’emportent sur les effets. La participation devient une politique comme une autre dont le cadre et les règles du jeu sont strictement délimités pour justement ne produire aucun effet. La standardisation des dispositifs permet justement à l’acteur public d’être en contrôle afin que rien ne déborde. 

Cette impuissance des dispositifs accentue la crise démocratique que la démocratie participative est censée résoudre, estiment les auteurs. Elle ne produit rien d’autre que de la désillusion. “L’exercice jupitérien du pouvoir et la participation des citoyens appartiennent d’un même processus”, puisque l’un comme l’autre relèguent dans les marges la société civile organisée et légitiment leur contournement. Les dispositifs participatifs ne produisent aucun contre-pouvoir… et ces dispositifs ne disposent d’aucun mandat pour contrôler que leurs propositions se traduisent en actions. Ils permettent surtout de faire croire que les institutions sont à l’écoute des citoyens. 

Modifier les publics, redistribuer le pouvoir

Pour Manon Loisel et Nicolas Rio, l’enjeu n’est pas tant de faire participer que “d’atténuer les asymétries qui existent entre les citoyens dans leur capacité à faire entendre leur voix et faire valoir leurs droits”. Le grand problème des dispositifs participatifs, malgré tous leurs efforts pour aller vers tous les citoyens, c’est qu’ils mobilisent “toujours les mêmes”, c’est-à-dire finalement des gens déjà très insérés dans la vie démocratique. La participation ne parvient pas à faire ce qu’on lui prête, c’est-à-dire à modifier les publics. Pire, elle invisibilise bien souvent qui parle et au final permet d’invisibiliser la sélectivité sociale à l’œuvre. Elle renforce une écoute des institutions et des élus déjà sélective, alors qu’elle devrait d’abord permettre de redistribuer l’attention des institutions vers les publics les moins représentés. La démocratie participative devrait être un moyen de donner de l’audience aux inaudibles pour qu’ils soient réintégrés à l’intérêt général et à la production de l’action publique. Elle devrait permettre d’aller chercher les publics que la démocratie représentative n’arrive pas à représenter, à sortir voire à atténuer les mécanismes de domination, à permettre de prendre en compte les absents et notamment les abstentionnistes, notamment parce que plus les publics sont silencieux moins les politiques leurs sont destinées.

Loisel et Rio plaident également non seulement pour un empowerment des acteurs affaiblis, mais également pour un “disempowerment des acteurs établis”. Pour eux, les dispositifs devraient être là pour redistribuer le pouvoir. “La participation n’est démocratique que lorsqu’elle parvient à donner de la voix aux absents et à élargir le spectre des points de vue en présence”, à redonner une place à ceux qui ne sont pas écoutés et qui n’ont pas de strapontin à la table des négociations. Les institutions n’ont pas besoin d’entendre des centaines de citoyens ni de recueillir des millions de doléances, que d’écouter ceux qui ne participent pas. Et faire de manière à ce qu’ils disent soit entendu, agisse sur l’action publique. 

Déni d’opposition

“L’avènement de la démocratie administrée s’accompagne d’une répression croissante des autres formes d’expression citoyenne”. Les citoyens doivent de plus en plus parler là où on leur dit de faire et nulle part ailleurs. C’est comme si la démocratie participative laminait toutes autres formes d’expressions démocratiques, et notamment le droit de manifester, si mis à mal ces dernières années que ce soit par la multiplication des interdictions de manifester comme par leur répression. La protestation est désormais considérée comme “un trouble à l’ordre public”, et il n’est pas loin que le simple désaccord le devienne également. Les mouvements sociaux sont de plus en plus criminalisés, comme le montrait le sociologue Julien Talpin dans Bâillonner les quartiers, pointant la dérive autoritaire de nos démocraties. Fermeture de locaux, chantages aux subventions, refus d’agréments… Les autorités ont renforcé le déni de leur contestation, à l’image du contrat d’engagement républicain des associations très largement critiqué. C’est comme si nous étions entrés dans un déni d’opposition. Tous ceux qui ont un discours trop frontal sont écartés des tables de discussion, les poussant à se radicaliser plus encore. Ceux qui ne sont pas d’accord sont partout considérés comme des Ayatollahs. Leurs arguments, quels qu’ils soient, sont écartés par principe. En rendant l’opposition impossible, c’est la discussion qui le devient. 

“La crise démocratique est une crise de l’écoute”, expliquent-ils parfaitement. Mais également une crise de réponse à cette écoute, à l’image de metoo qui a libéré la parole des victimes de violences sexistes sans que nous ne modifions le fonctionnement de nos institutions collectives pour y répondre, renvoyant celles qui osent parler à leur seule responsabilité individuelle. C’est également une crise du déni, où la démocratie n’est plus vue comme le lieu d’un compromis entre ses parties prenantes, mais comme la lutte d’un clan contre un autre, à l’image du refus de discussion sur la réforme des retraites, les bassines, etc. A force de déni et de dévitalisation, les institutions perdent leurs interlocuteurs traditionnels, associations et corps intermédiaires… au risque de n’avoir plus personne à qui parler, autre que les lobbies, c’est-à-dire que les intérêts financiers les plus forts !

La démocratie participative permet de collecter une parole à laquelle personne ne répond. Nos institutions semblent produire de plus en plus un dialogue de sourds. C’est un peu comme si nos institutions niaient l’existence de divergences d’intérêts, ce qui se traduit par une conflictualité en hausse, par une radicalisation des positions, par une tension permanente et épuisante. L’apaisement n’est plus un mode de gouvernement. Dans le déni de l’écoute, des réponses et du compromis, les protestations mêmes légitimes ont tendance à devenir colère voire réactions violentes. “L’incapacité à écouter débouche sur une incapacité à agir”. 

Rendre l’écoute fonctionnelle

Pourtant, il existe des leviers pour rendre à nouveau l’écoute fonctionnelle, rappellent les auteurs en prenant l’exemple du Défenseur des droits (on pourrait évoquer également le rôle de la Commission d’accès aux documents administratifs voire en partie des missions de la Cnil et de quelques autres autorités administratives indépendantes, auxquelles il faudrait ajouter les médiateurs de services publics que l’on trouve désormais dans plusieurs institutions publiques). Les médiateurs se font souvent le relais institutionnel des inaudibles :  ils viennent non seulement écouter mais également accompagner les usagers en difficultés en proposant leur médiation dans les conflits. “Cette fonction de médiation à l’échelle individuelle vient alimenter une fonction d’interpellation, plus collective”, à l’image des travaux et saisines du Défenseur des droits. Les remontées de problèmes permettent de mettre en visibilité les difficultés structurelles, de passer du subjectif à l’objectif… et surtout souvent de résoudre les situations de blocage individuelles… En assurant le suivi des cas, ces médiateurs viennent refluidifier l’écoute et la réponse que nous sommes en droit d’attendre des acteurs publics. Pour Loisel et Rio, c’est ce processus de transformation du vécu subjectif à l’analyse objectivée qui manque dans la participation citoyenne, c’est le moyen d’assurer que les propositions obtiendront bien une réponse. Et la solution des autorités indépendantes permet de montrer que c’est parce qu’elles ont un pouvoir garantit et établit, opposable, qu’elles peuvent agir. Leurs fonctions n’est pas qu’une fonction de médiation, elle est bien d’abord une fonction de résolution de problèmes. Ces médiateurs ont souvent un pouvoir qu’ils utilisent pour remettre de l’asymétrie dans une relation qui ne l’est plus. Elles ont les moyens, juridiquement garantis, de remettre un dossier sur une table, de provoquer des réponses. 

Pour Loisel et Rio, ces agences, à l’écoute des citoyens, montrent que également que l’audition (et pas seulement celle des experts) est un levier pour faire remonter la parole et le vécu des citoyens dans les décisions. C’est l’addition de récits qui transforme nos sociétés, à l’image de ce qu’à produit la Commission indépendante sur les abus sexuels dans l’Eglise. Idéalement, le procès, momentum de la justice, est également une expérience d’écoute et de réponse. “Remplacer les plateformes participatives par des témoignages à la première personne permettrait de préciser ce qui est attendu des citoyens. L’objectif n’est pas d’avoir leur avis (c’est le rôle des élus) ou de prendre leurs idées (c’est le rôle de l’administration), mais de comprendre leur expérience vécue et la façon dont elle éclaire les politiques mises en place”. La confrontation des témoignages permet d’avoir une vision plus complète de la réalité, d’éclairer les angles morts de la décision, et de les porter pour que le politique en tire les conclusions

Les deux consultants plaident également, comme le juriste Thomas Perroud, pour faire entrer l’administration en démocratie, en faisant là encore entrer la contre-expertise, la diversité des points de vue, pour faire surgir les controverses là où elles sont, plutôt que de les mettre sous le tapis. Seule l’existence de contre-pouvoirs permet de rendre l’écoute opposable. Il faut donc que les témoignages comme les mobilisations permettent d’alimenter des contre-pouvoirs pour peser sur les choix d’action publique. Ils sont le moyen de rappeler l’importance du “pas pour nous sans nous” qui mobilise l’action citoyenne. Dans un monde où tout le monde ne veut voir que des solutions, il faut rappeler que celles-ci n’existent pas sans revendications. L’acteur public ne devrait pas tant chercher des solutions, que confronter les revendications. 

Négocier plutôt que gérer

“Pour rendre l’action publique plus démocratique, ce n’est pas la place des citoyens qu’il faut interroger, mais celle de leurs représentants”, expliquent Loisel et Rio. Pour eux, il y a un malentendu sur la fonction des élus. Il faut réhabiliter leur fonction délibérative, plaident-ils, en montrant que la délibération politique, c’est-à-dire le débat contradictoire qui précède la prise de décision, est quasi inexistante. Partout, les instances démocratiques deviennent de plus en plus des chambres d’enregistrement qui n’ont plus prises sur les enjeux, à l’image des tristes séances de conseils municipaux où s’égrainent une suite sans fin de délibérations. Les décisions se passent ailleurs. Dans des bureaux, dans des négociations opaques. Partout, les décisions semblent déjà prises. 

Si la proposition est forte, il me semble ici que l’on trouve l’une des rares faiblesses du livre, qui semble minimiser la politisation des élus, leurs convictions qui pèsent sur les choix auxquels ils procèdent. Les faire passer du rôle de manager, de chef de projets qui ont tout pouvoir à un rôle de diplomates, de négociateurs avec les parties prenantes est une proposition très stimulante et idéale. Ce n’est effectivement qu’en invitant les différents points de vue à s’exprimer, à dialoguer, à trouver des compromis qu’on pourra lever les blocages de nos sociétés. Mais ce n’est pas le rôle que leur confèrent nos institutions pour le moment. Loisel et Rio illustrent cela en évoquant les problématiques de l’accès à l’eau qui aujourd’hui se règle sans que les débats entre les acteurs (citoyens, industriels, agriculteurs…) ne soient organisés. Sans organiser les confrontations, les blocages l’emportent. Les objectifs restent cantonnés dans des documents stratégiques sans capacité à les atteindre. Les enjeux de mise en œuvre sont trop souvent négligés. “L’action publique est avant tout une affaire de négociation”. Sur la question de la raréfaction de l’eau, la baisse des consommations ne se décrète pas, elle se négocie, au risque sinon de ne jamais atteindre les objectifs qu’on se fixe. “Démocratiser l’action publique, c’est passer de la concertation à la négociation”.

Pour Loisel et Rio, nous devons sortir de l’obsession du consensus pour trouver les modalités concrètes des compromis. Pour cela, la démocratie doit savoir organiser la confrontation d’intérêts divergents. C’est pourtant bien par le compromis qu’on amène chacun à s’engager et donc à obtenir des engagements opposables, c’est-à-dire qui permettent d’obliger ceux qui ne les respectent pas. Dans le domaine de la gestion de l’eau, “la démocratie ne peut pas se réduire à une somme d’arrêtés préfectoraux de restrictions, appliqués à géométrie variable en fonction du poids de chaque lobby sans aucun processus de délibération”. Il nous faut sortir de la gestion de crise permanente que produit l’évitement démocratique. Le politique doit revenir à la table des négociations pour faire discuter les acteurs concernés, afin que chacun puisse préciser leurs contributions effectives. “Les institutions sont là pour organiser la confrontation publique des intérêts privés”. Ce qui n’est pas si simple quand nos institutions favorisent aussi l’accès au pouvoir de représentants de ces intérêts particuliers. 

*

Manon Loisel et Nicolas Rio signent une belle défense d’une démocratie vivante à un moment où elle semble si épuisée, depuis une analyse puissante et concrète des blocages politiques où nous sommes coincés. Les revendications que formule le livre ne sont pas simples à mettre en œuvre. Elles ne consistent pas à sortir des solutions (même s’ils en font plusieurs, par exemple d’améliorer la représentation par le tirage au sort depuis le niveau d’absentéisme pour corriger le déficit de représentativité), mais à nous interroger sur comment dépasser les blocages de nos société et le risque d’une dérive autoritaire. En cela, c’est un livre qui nous montre comment sortir de trop d’échecs démocratiques. 

L’ouvrage n’en est pas moins assez idéaliste parfois et semble minorer le fait que la politique soit d’abord des positions politiques qui s’affrontent. Le déni de certaines positions ne se résoudra pas seulement par le retour de la négociation, mais d’abord par le retour d’une affirmation de la légalité des contre-pouvoirs. Or, c’est bien ces garanties démocratiques qui sont mises à mal, notamment quand on interdit de manifester ou qu’on surcontrôle certaines manifestations plutôt que d’autres afin de rendre la contestation impossible. Loisel et Rio militent pour plus de représentation, plus de garantie et de pouvoir à ces représentations, alors que nous assistons depuis trop longtemps à l’exact inverse. La dévitalisation de notre démocratie représentative reste, quoi qu’on en dise, d’abord la conséquence d’un recul des fonctions représentatives.  

Derrière le paravent participatif, trop souvent, c’est la représentativité qui est mise à mal. Loisel et Rio ne souhaitent pas se débarrasser de la démocratie avec l’eau du bain de la démocratie participative, au contraire. Ils font le constat que le développement de la démocratie participative est un écran de fumée et que c’est la démocratie qu’il faut défendre. Pour cela, il faut renforcer les garanties, les contre-pouvoirs, la représentativité quand ce sont elles qui se délitent. Loisel et Rio nous invitent à un “réarmement” démocratique, qui me semble le réarmement dont on manque le plus. Ils nous montrent également que celui-ci ne passe pas nécessairement par de nouveaux droits, mais par la capacité à trouver les moyens de les rendre plus effectifs qu’ils ne sont. 

En regardant la liste des autorités administratives indépendantes, je me dis qu’il y a encore bien trop de secteurs qui n’en disposent pas. A l’heure où les associations, représentants professionnels et syndicats sont à la peine (ce qui ne doit pas nous dispenser de trouver les modalités pour les renforcer plutôt que les dévitaliser !), avoir des autorités indépendantes qui viennent les renforcer (voir des déclinaisons locales) est une perspective plutôt stimulante, pour autant que ces autorités soient dotées de moyens, de droits et de capacités d’action. Dans le numérique, cela permettrait en tout cas d’aller plus loin que les conseils de surveillance, les comités d’éthique et les rapports de transparence… à défaut d’avoir une vraie représentation des parties prenantes, on pourrait au moins envisager des autorités indépendantes avec des capacités d’écoutes, d’actions et de contrôle des réponses apportées.

Hubert Guillaud

A propos du livre de Manon Loisel et Nicolas Rio, Pour en finir avec la démocratie participative, Textuel, 2024, 18,9 euros, 192 pages. A compléter par leurs riches interviews chez Autrement Autrement, Acteurs Publics ou Médiapart…

Au fond du trou extractiviste

✇Hubert Guillaud
Par : Hubert Guillaud
26 janvier 2024 à 09:31

Il faut beaucoup de courage au lecteur pour descendre dans les profondeurs du livre de la journaliste Celia Izoard, La ruée minière au XXIe siècle, enquête sur les métaux à l’ère de la transition (Seuil, 2024, 342 p, 23 euros). Du courage parce que c’est un livre qui dresse des constats éprouvants pour comprendre le monde. Le livre parle très concrètement de l’extractivisme, du capitalisme, des mines, de notre voracité sans limite et de ses conséquences. 

Couverture du livre de Celia Izoard, La ruée minière au XXIe siècle.

La mine du XXIe siècle ne ressemble plus à Germinal. Plus grand monde ne descend dans des fosses. Désormais, nous arrasons les montagnes. Nous broyons les roches. Nous construisons des bassins de déchets que nous ne savons pas gérer, irréversiblement toxiques et très sensibles au changement climatique. Les accidents liés à ces bassins et digues de rétentions des déchets sont innombrables, tant et si bien qu’il faut considérer cette pollution et ces accidents comme faisant partie de l’extractivisme minier… Les ruptures, les coulées, les “liquéfactions instantanées”, les conséquences de la pollution sur les populations… sont parmi les passages les plus glaçants du livre… nous rappelant que le monde industriel propose toujours des solutions à court terme et crée des problèmes à très long terme. 

L’impératif minier crée des états d’exception pas des zones de responsabilité

Contrairement aux mythes de la dématérialisation et de la désindustrialisation, nous n’avons jamais autant extrait de métaux et nous prévoyons d’en extraire plus encore. Nous ne sommes pas dans l’après-mine, mais au contraire dans une relance minière inédite, plus vorace et extractive qu’elle n’a jamais été. Cet extractivisme sans précédent a trouvé une nouvelle justification explique la journaliste : l’extractivisme renforcé est le moyen pour assurer la transition bas carbone, qu’importe si en réalité cette transition est un leurre. Assurer la transition est la nouvelle idéologie qui succède au Salut ou au Progrès et qui justifie plus avant l’accumulation et l’artificialisation du monde. Comme les précédentes, elle fonctionne sous le régime de la promesse pour acheter le statu quo, explique-t-elle très pertinemment. Le livre de Celia Izoard est rempli de chiffres qui donnent le tournis pour nous rappeler combien notre monde extractiviste est insoutenable. Mais surtout, sa grande force est de nous amener jusque dans les mines elles-mêmes, pour nous montrer leurs fonctionnements et leurs terribles effets. Elle explique que contrairement à ce que nous font croire quelques données peu informées, nous n’allons en rien vers des mines responsables. Toutes produisent des catastrophes écologiques, à l’image du projet Montagne d’Or en Guyane qu’elle avait documenté dans un formidable numéro de la revue Z. “L’après-mine est déjà une autre planète, faite de main d’homme”. Mais c’est une planète stérile, toxique, invivable. Avant de terraformer Mars, nous stérilisons notre propre planète. La mine industrielle ne cohabite avec aucun être vivant. Elle participe au dérèglement climatique et est très sensible à celui-ci, à l’image des innombrables ruptures des barrages de résidus, ces montagnes de déchets broyés qui n’ont plus de roches pour résister à l’action du temps. Les données numériques convoquées pour la surveillance ne servent qu’à améliorer encore les rendements, qu’à diminuer encore les coûts d’exploitation, sans rapport aucun avec leur coût environnemental. Les innovations dans la mine ne la rendent pas plus responsable, elles la rendent plus efficace. Elles permettent de creuser plus et plus vite avec moins de main-d’œuvre, comme l’expliquent les dossiers de l’association SystExt. Le modèle minier se “radicalise bien plus qu’il ne se responsabilise”. Et “plus la teneur des gisements baisse, plus la mine est polluante”. 

La relocalisation des mines en Europe, au prétexte d’une souveraineté pour la transition, n’assure que d’une bien faible responsabilité réglementaire. Elle ne vise qu’à étendre encore notre voracité puisque nul ne parle de fermer ailleurs les mines qu’on réouvrirait ici. Il ne s’agit que “d’une course à la délocalisation des émissions carbones”. Pourtant, en matière de responsabilité, c’est l’inverse auquel on a assisté, explique-t-elle. La réforme des codes miniers imposés par le FMI et la Banque mondiale aux pays du Sud endettés a levé les législations protectrices à l’égard de la main-d’œuvre et de l’environnement. L’extractivisme s’est renforcé avec la dette. Les plans du FMI et de la Banque mondiale ont imposé la privatisation des mines, le gel des lois sur le travail et l’environnement… Elles ont développé la mine géante, exemptée de taxes, et ont facilité l’accès aux zones minières et les investissements étrangers. Là où les mines se sont étendues, la pauvreté n’a pas été réduite, les revenus de l’extraction n’ont pas profité aux communautés. Au contraire. Elles ont produit de nouvelles “zones de sacrifices” environnementales ! L’impératif minier crée des états d’exception pas des zones de responsabilité. 

Le pillage des ressources de l’ère coloniale a continué sous forme d’une reconquête. Cette délocalisation a permis d’éteindre les luttes ouvrières des anciens bastions miniers et de désarmer les contestations des mouvements environnementaux des pays riches. Les problèmes ont été laissés aux sous-traitants, comme le disait avec cynisme Michael Scott, PDG d’Apple. Au XXIe siècle, avec la hausse des coûts des matières, la matérialité de notre monde s’est rappelée à nous. La Chine a diminué ses exportations, la pénurie minière s’est fait sentir. Derrière la fable des métaux pour la transition, la réalité de la mine est qu’elle est bien plus au service de la Défense et du capitalisme numérique que de la transition écologique. La transition semble surtout un paravent qui ne sert qu’à “justifier l’accélération du modèle extractiviste”. 

Le régime minier : un régime de sacrifices
Izoard nous rappelle que le capitalisme est l’histoire d’une civilisation extractiviste. Nous sommes le produit d’un régime minier, d’une guerre contre la nature qui consiste à construire un monde hors-sol. La croissance industrielle est devenue l’objet même de la politique. 

La nouvelle promesse de relocaliser les mines pour assurer notre souveraineté et une meilleure responsabilité tient de la fable, tance Izoard. Les déchets et leur toxicité ne sont pas compressibles. Et à mesure que nous exploitons des gisements avec moins de teneurs en métaux nous produisons encore plus de déchets. Là où elles existent ou s’installent, les mines dévorent leur environnement, assoiffant et empoisonnant les communautés locales. Le modèle minier a toujours fonctionné sur la dépossession et le sacrifice des populations, à l’image des constats éprouvants qu’elle dresse de la mine “responsable” de Bou-Azzer au Maroc. Les labelisations de responsabilisation sont des coquilles vides produites par des ensemble de données “qui n’ont jamais vu la moindre population”. La réalité de la mine reste invisible, opaque. Nous ne connaissons même pas le nombre de mines réellement en exploitation de part le monde. Malgré une automatisation sans précédent, la mine est responsable de 8% des accidents mortels au travail, alors qu’elle n’emploie que 1% de la main-d’œuvre mondiale. 

La mine a été l’activité coloniale par excellence. Elle le reste. Elle a été la matrice du capitalisme. Longtemps exploitées par des communautés villageoises sous formes de guildes puissantes, l’augmentation de la demande à la fin du XVe siècle va nécessiter des équipements plus coûteux pour creuser plus profondément… et va conduire les organisations de mineurs à ouvrir la propriété des mines pour obtenir des capitaux. A la fin du XVe siècle, les compagnies de mineures étaient devenues des sociétés par action, bien avant la création de la Compagnie anglaise des Indes orientales en 1600. Dès le XVIe dans ces mines de Saxe, de Bohème et du Tyrol sont introduites les premières machines. Là où le capital se répand, l’intensification de la rentabilité suit… Sauf qu’elles s’épuisent également et deviennent moins rentables. On comprend alors l’appel d’air que constitua la découverte de l’Amérique, qui va devenir une mine à l’échelle du continent, une “économie minière esclavagiste”. “Un siècle après le premier voyage de Colomb, les principaux centres miniers de la planète s’étaient déplacés de l’Europe centrale à l’Amérique, où ils pouvaient se développer hors de toute contrainte sociale grâce aux régimes d’exception esclavagistes de la Conquête.” En retour, cet extractiviste va produire les capitaux pour l’essor industriel européen. Les systèmes extractifs se généralisent. Les régimes d’exceptions miniers que l’on retrouvait sur des fronts pionniers, sont intégrés au fonctionnement normal de la production. La machine à vapeur de Watt sert d’abord à évacuer l’eau des mines puis le minerai, bien avant que de faire avancer un train. La violence sociale du monde colonial va être rapatriée dans le monde minier. “La main-d’œuvre aussi est un minerai que l’on peut broyer”. Le courant industrialiste s’impose, alliance inédite entre l’Etat, la bourgeoisie et la science. La loi donne à l’Etat le droit de disposer du sous-sol. Nous passons d’un régime agraire à un monde minier… Et nos légumes désormais doivent moins à la terre “qu’à la production de pétrole et d’engrais phosphatés.” L’extractivisme est devenu notre matrice de développement, qu’importe s’il produit sur terre des conditions d’hostilité totale à la vie.

Ralentir ou Périr
Dans la dernière partie, Izoard ne se dérobe pas. Elle tente d’esquisser des solutions du tableau apocalyptique qu’elle a dressé. Le régime minier, extractiviste, est en train de se renforcer et de se radicaliser plus que de s’éloigner. Il s’étend, notamment à l’eau. Pour la journaliste, “il n’y aura pas de solution minière à la crise climatique”. 

Pour la journaliste, il nous faut trouver les moyens d’une désescalade de la consommation de métaux. Nous ne devons pas attendre de passer le pic productif. “Le spectre de la pénurie a plutôt pour effet d’encourager la spéculation et l’exploration minière”. La décroissance de l’extraction ne doit pas attendre la déplétion physique des matières : elle demeure une décision politique, un rapport de force. La perspective d’un meilleur recyclage est également compliquée, notamment du fait de la dispersion des minerais dans les produits. Pour l’instant, elle peut certes être améliorée, mais les progrès sont difficiles du fait de la dégradation des matériaux, des pertes fonctionnelles et surtout de la toxicité du recyclage. Le recyclage reviendrait à construire des mines urbaines tout aussi problématiques que les mines lointaines quant à leurs besoins en eau, en énergie et à leur production de polluants. 

Pour Izoard, la décroissance minérale est notre seule perspective. Mais elle n’est pas acquise. “Pour quiconque réfléchit à l’écologie, il est gratifiant de pouvoir proposer des remèdes, de se dire qu’on ne se contente pas d’agir en négatif en dénonçant des phénomènes destructeurs, mais qu’on est capable d’agir de façon positive en énonçant des solutions. Le problème est que dans ce domaine, les choses sont biaisées par le fonctionnement de la société”. Dans les années 70, les mouvements écologistes ont dénoncé la société fossile et nucléaire et ont défendu des techniques alternatives comme l’éolien ou le solaire. Ils combattaient la surconsommation d’énergie, mais ce n’est pas elle que nos sociétés ont retenues. Le capitalisme a adopté “les alternatives techniques en ignorant le problème politique de fond qui remettait en question la croissance industrielle”. Les éoliennes et centrales solaires à petites échelles sont devenues des projets industriels. La sobriété et la décroissance ont été oubliées. “Avant de se demander comment obtenir des métaux de façon moins destructrice, il faut se donner les moyens d’en produire et d’en consommer moins”. C’est bien notre société qu’il faut changer. Et nous n’avons pas vraiment fait de pas dans la direction de la sobriété, comme le remarquait l’historien Jean-Baptiste Fressoz, qui constate également, dans Sans transition qui paraît au même moment, que le discours sur la transition dépolitise la question climatique. 

Pour Izoard, la mine responsable est une “chimère bureaucratique”. Les règlementations et les remèdes technologiques ne rendront pas viables, responsables ou éthiques, les mines industrielles. “Les problèmes qu’elles posent ne sont pas des anomalies, mais le fruit d’un système”. Il n’est pas possible d’exploiter des gisements avec si peu de matières sans créer des problèmes insurmontables. En 2017, le Salvador a interdit l’exploitation de mines métalliques afin de préserver l’eau, dans un pays où 90% des sources sont polluées. “La meilleure stratégie pour s’opposer à la mine industrielle semble consister à obtenir des décisions démocratiques”, comme le montrent toutes les luttes du continent américain, où plusieurs pays, suite à référendums ont fait fermer des mines. Il nous faut augmenter le coût financier, moral et politique de l’extraction, plaide Izoard. La mine industrielle a une faiblesse : elle est très coûteuse en infrastructure et une fois construite, son exploitation doit être garantie et ne plus être contestée. Mining Watch Canada et le London Mining Network travaillent eux à rendre visible la prédation en allant aux AG des extracteurs pour y porter la parole des communautés locales qui subissent les effets de l’activité minière. 

Nous avons besoin d’un sevrage métallique et énergétique. Nous avons sur-minéralisé notre quotidien, à l’image de notre emblématique smartphone qui concentre plus de 50 métaux en son cœur, disséminés dans plus de 80 composants différents. Les tentatives de Fairphone de pousser le recyclage et augmenter la durée de vie de ses appareils montrent surtout combien ce rêve est impossible. On ne peut pas produire de téléphone hors de l’écosystème industriel. “Dès qu’on prend au sérieux la question des métaux, la croissance effrénée du monde connecté devient un problème central”. Et la journaliste d’inviter à produire des bilans métaux comme nous produisons des bilans carbones, afin de mieux souligner la surconsommation de métaux, trop absente du débat public, où l’on parle bien plus de reconquête industrielle et minière que de sobriété… et en explorant plus avant la distinction à produire entre émissions de luxe et émission de subsistance, comme y invite Andreas Malm dans Comment saboter un pipeline, ou encore en démultipliant les conventions citoyennes pour le climat et la décroissance…  “Tant que la décroissance n’arrivera pas à s’imposer comme mot d’ordre, urgent et impératif, le capitalisme industriel continuera d’interpréter les revendications des mouvements sociaux comme des défis techniques”. “On ne peut pas se satisfaire d’améliorer l’efficacité énergétique du stockage de données tant que le trafic internet augmente de manière exponentielle. On ne peut pas continuer de déployer en masse des satellites en se disant qu’une partie d’entre eux permettront de mieux comprendre la déforestation…” Nous devons sortir des cages dorées qui nous rendent aveugles aux finalités. “La technique doit sortir de deux siècles d’envoûtement extractiviste”. 

*

Le livre de Célia Izoard est éprouvant, mais il est aussi mobilisateur. C’est aussi un manuel pour armer les luttes contre l’extractivisme à venir. Les mines ne sauveront pas la planète. Notre difficulté consiste à nous opposer à cet extractivisme. Dans les mines modernes, l’automatisation a fait disparaître le rapport de force social qui existait, comme on le trouve dans Germinal. Ce ne sont plus les populations employées qui peuvent s’opposer au minage, mais celles qui sont sacrifiées par les impacts de la mine. Ce déplacement de la lutte sociale à la lutte environnementale, des luttes locales aux luttes lointaines, explique certainement nos difficultés à réduire leur déploiement, car elle nécessite une mobilisation plus large. Nous devrions être concernés par ce qu’il se passe à Bou-Azzer au Maroc, à Butte dans le Montana, à Rio Tinto en Andalousie… Ce n’est pas le cas. 

La ruée minière au XXIe siècle regarde le monde tel qu’il est. Et il n’est pas beau. 

Hubert Guillaud

A propos du livre de Célia Izoard, La ruée minière au XXIe siècle, enquête sur les métaux à l’ère de la transition, Seuil, “Ecocène”, 2024, 342 p, 23 euros.

Le risque fasciste de l’IA

✇Hubert Guillaud
Par : Hubert Guillaud
18 janvier 2024 à 09:12

Le propos fera certainement bondir nombre de thuriféraires de l’IA. Il mérite pourtant une écoute attentive car il souligne que la face sombre de l’IA est plus sombre qu’on le pense.  Dan McQuillan est maître de conférence au département d’informatique de l’université Goldsmiths de Londres. Il est l’auteur de Resisting AI, an anti-fascist approach to artificial intelligence (Résister à l’IA, une approche anti-fasciste de l’IA, Bristol University Press, 2022, non traduit). 

Couverture du livre de Dan McQuillan.

L’IA une prise de pouvoir par une porte dérobée
Sur son blog, il présente l’IA comme un Thatchérisme. “L’IA est utilisée comme une forme de “Stratégie du choc“, dans laquelle le sentiment d’urgence généré par une technologie censée transformer le monde est utilisé comme une opportunité pour transformer les systèmes sociaux sans débat démocratique.” Quand l’IA est convoquée pour transformer l’hôpital et l’école, c’est une diversion qui vise à nous masquer leur effondrement sous les coups d’un désinvestissement massif. Or, l’IA ne comprend ni la médecine ni l’éducation. La seule chose que les grands modèles d’IA font très bien, c’est de transférer le contrôle aux grandes entreprises, et ce alors qu’aucun autre acteur n’a les moyens ou la puissance de traiter les données qu’elles savent traiter. “La promotion de l’IA est une privatisation par une porte dérobée”, une privatisation sous stéroïde qui vient renforcer celle déjà à l’oeuvre. L’objectif n’est pas de “soutenir” les enseignants et les travailleurs de la santé par de nouveaux dispositifs, mais de combler les lacunes d’un système en défaillance grâce à l’IA plutôt qu’avec le personnel et les ressources dont les systèmes publics auraient désespérément besoin. L’IA est un “Thatchérisme informatique” qui vise “la précarisation des emplois, la privatisation et les l’effacement des relations sociales réelles”. Elle vise à renforcer la cruauté bureaucratique envers les plus vulnérables comme le montre son utilisation dans les systèmes de protection sociale à travers le monde. 

Les logiques de classement, de rationalité et de supériorité sont profondément enfouies au coeur des techniques constitutives de l’intelligence artificielle, explique McQuillan d’où l’attirance des politiques les plus réactionnaires à leur égard, puisqu’elles permettent finalement d’opacifier l’exploitation de la vulnérabilité qu’elles permettent sous la neutralité scientiste du calcul. Pour McQuillan, nous devons urgemment restreindre le champ d’application de l’IA. Il n’est pas un outil pour changer de régime technocratique comme l’annoncent certains travaillistes britanniques (la question du numérique est visiblement une ligne de fracture chez les travaillistes britanniques, expliquait Politico). Pour Dan McQuillan nous avons plutôt besoin d’un moment luddiste pour démonter ces machines. 

L’IA : une vision réactionnaire du monde
Dans l’introduction de son livre, Dan McQuillan est plus radical encore. Il explique que le développement de l’IA peut être vu comme un écho aux tendances austéritaires, autoritaires et réactionnaires du monde actuel. Pour lui, si elle prend tant d’ampleur, c’est parce qu’elle est compatible avec le capitalisme financier, mais également convergente avec le fascisme qui monte. 

L’IA n’est pas qu’un ensemble de techniques et est plus qu’un ensemble de méthodes d’apprentissage. “On ne peut pas séparer les calculs du contexte social de leurs applications”, et notamment des conceptions sur la façon dont le monde est différencié et évalué par ces systèmes. Comprendre l’IA signifie comprendre non seulement les opérations de calcul, mais également tout ce qui est charrié avec elles. Avec l’IA, les détails les plus techniques ont des implications politiques. Et la chape d’opacité et de complexité technique dont elle recouvre les décisions permet avant tout de renforcer la violence culturelle et structurelle du pouvoir. L’IA n’est pas qu’une méthode de production de la connaissance, elle est aussi un paradigme pour l’organisation sociale et politique, explique-t-il. Elle agit sur le monde de façon à affecter la distribution même du pouvoir. Elle altère notre monde commun. 

Alors que le storytelling de l’IA ne cesse de nous faire des promesses pour que nous en ayons de grandes attentes, la réalité de l’IA consiste surtout à réduire le réel. En réalité, l’IA amplifie les inégalités et les injustices d’existence, approfondie les divisions. McQuillan s’intéresse aux manipulations statistiques de l’IA. L’IA est une technologie fragile qui échoue souvent de manière inattendue, qui manque d’explicabilité… Mais surtout, elle tire son autoritarisme des méthodes scientifiques qu’elle mobilise, notamment l’abstraction et la réduction du réel. Le risque de l’IA est d’abord d’intensifier les tendances à l’œuvre dans le capitalisme financier, à savoir l’extractivisme et le colonialisme. L’IA sert à accélérer les politiques d’austérité et renforce les régimes de surveillance. Pourtant, si nous devons avoir une approche antifasciste de l’IA, ce n’est pas parce que l’IA peut être utilisée par des régimes autoritaires, mais parce que l’IA apporte des “solutions fascistes aux problèmes sociaux”.

“Je ne dis pas que l’IA est fascite”, précise-t-il, “mais que la contribution de l’IA est un moyen de normaliser des réponses fascistes aux instabilités sociales”. L’IA est particulièrement forte pour séparer et discriminer les choses et les gens ainsi que pour préserver le pouvoir existant (en renforçant les monopoles). C’est en cela qu’elle a une tendance fasciste, explique le professeur. Pour McQuillan, l’IA est une “technologie de division”, notamment dès qu’elle se propose comme une solution aux crises sociales. Pour McQuillan, l’IA agit comme une forme de métapolitique. Du fait même des opérations qu’elle propose, l’IA risque de nous conduire à une fascisation du monde. D’où la nécessité d’avoir une approche anti-fasciste pour la contrer. Pour cela, McQuillan convoque la critique féministe et décoloniale qui permettent de prioriser les perspectives marginalisées. L’une des plus toxique tendance de l’IA appliquée au social est de naturaliser et d’essentialiser des différences structurelles comme les inégalités ou le racisme. Pour contrer cette dérive fasciste de l’IA, nous devons nous extraire de l’inférence statistique pour en revenir au soin mutuel. Pour construire une IA alternative nous devons construire des organisations différentes, plus démocratiques et fondées sur la solidarité. En s’inspirant des luttes politiques contre l’injustice et l’autoritarisme et donc des techniques de mobilisation anti-fascistes. Nous devons refuser les exclusions du calcul et pour cela restructurer le monde qui a permis à l’IA d’advenir. 

“L’efficacité n’a rien à voir avec la justice”
Dans la Sociological Review, Dan McQuillan expliquait que la violence algorithmique a émergé de notre matrice sociale. Le discours autour de l’IA ressemble à un grand spectacle qui agit surtout comme un écran de fumée pour nous détourner des impacts profonds que celle-ci a déjà sur nos existences. Il n’y a rien d’intelligent dans l’IA. Elle est présentée comme une forme de cognition, alors que les concepts opérationnels de l’IA ne sont ni l’intelligence ni l’apprentissage, mais l’optimisation et l’efficacité. Et “l’efficacité n’a rien à voir avec la justice”, rappelait-il lors d’une intervention au séminaire Critique de l’intelligence artificielle. 

Comme le disait le philosophe Achille Mbembe, l’IA est d’abord traversée, de bout en bout, par sa violence. Elle accroît ce que la philosophe Hannah Arendt appelle “l’inconscience institutionnelle”, c’est-à-dire “l’incapacité de critiquer les instructions ou de réfléchir aux conséquences”, explique McQuillan. L’optimisation de l’IA augmente ainsi la violence administrative et intensifie les structures d’inégalités existantes, comme quand elle est utilisée pour faciliter les décisions concernant les patients prioritaires en matière de soins de santé ou les détenus qui risquent de récidiver.

Les avantages sociaux de l’IA sont toujours spéculatifs, toujours à venir… alors que les inconvénients eux, sont déjà là. La violence algorithmique de l’IA est “légitimée par les prétentions de l’IA de révéler un ordre statistique dans le monde”, mais c’est là une erreur logique et une bien mauvaise utilisation des statistiques, explique le profeseur. Appliquée aux contextes sociologiques de la vie quotidienne, les statistiques produisent une injustice épistémique, où la voix et l’expérience de chacun sont dévalorisées par rapport aux jugements immédiats ou prédictifs. Ce que produit d’abord l’IA, c’est de la précarité. Elle introduit de la vulnérabilité et de l’incertitude, à l’image des systèmes utilisés pour l’emploi ou pour l’aide sociale. Elle produit donc la dissolution du contrat social que nous avons construit depuis la guerre. 

Pour la philosophe féministe Karen Barad, nos exclusions sont le résultat d’arrangements spécifiques d’appareils. L’IA n’est pas une manière de représenter le monde, mais bien une intervention sur celui-ci et celui qui met en place l’IA est celui qui possède le pouvoir. Pour McQuillan, les grands modèles de langages sont des moteurs à conneries, à la fois au sens technique du terme, puisqu’ils “optimisent la génération de textes plausibles en langage naturel, basés non pas sur un modèle de relations causales et de significations réelles, mais aveuglément, sur la base de modèles statistiques préprogrammés dans un vaste corpus de langage existant”. Mais également au sens social car leurs arguments apparemment raisonnés sont en réalité complètement détachés du monde vécu. Le risque alors est que l’IA intensifie une “nécropolitique”, c’est-à-dire une politique qui a le droit de dicter nos conditions d’existence, de vie et de mort. En cela, l’IA est donc en résonance avec les politiques réactionnaires, notamment quand elle crée des états d’exceptions, des situations où les droits sont sans cesse recalculés. Deleuze et Guattari nous ont avertis que le fascisme apparaît souvent caché imperceptiblement dans notre vie quotidienne. L’IA concentre et condense ces microfascismes par la façon dont elle crée des états d’exception. “La condensation algorithmique des conditions sociales accélère les différences” au détriment des personnes racisées, des femmes, des handicapés et des plus pauvres. Comme le QI, l’IA classe les gens, et elle a vite fait de produire une forme d’eugénisme, comme le dénonçait également la chercheuse Kate Crawford, distinguant ceux qui ont droit et ceux qui n’ont pas droit. Le risque de l’IA n’est pas la super-intelligence, mais au contraire le solutionnisme populiste qui risque d’émerger de la convergence entre le capitalisme de la Silicon Valley et les politiques d’extrême droite qui montent un peu partout. 

Dans ce travail de résistance qu’il faut mener contre l’IA les perspectives les plus pertinentes viennent des personnes marginalisées dont la vie est déjà impactée par les calculs. Dan McQuillan invite à remplacer l’IA au profit de dispositifs qui ne cherchent pas à favoriser la rationalité et la normalité mais qui valorisent la relationnalité et la différence. Il nous faut lutter contre l’abstraction que produit l’IA et produire des formes socio-techniques alternatives conviviales, capables de s’équilibrer avec leur environnement plutôt que de l’optimiser. “Un système qui n’hallucine pas une vision globale de la réalité mais négocie avec respect avec le différent et l’inattendu”. 

L’IA est particulièrement top down, explique-t-il encore dans une interview pour Computer Weekly. Du fait de sa nature sociotechnique, c’est-à-dire où les composantes techniques sont informées par les processus sociaux et inversement, nous avons besoin d’un changement social pour renverser cette configuration descendante. Le fait que l’IA performe à catégoriser les gens sur des corrélations plus que sur des causalités, signifie que la technologie fonctionne de la même manière que l’idéologie d’extrême droite. “Je ne dis pas que l’IA est fasciste, mais je dis que cette technologie se prête à ce genre de solutions”, précise le professeur. “L’IA décide de ce qui entre et de ce qui sort, de qui obtient et de qui ne reçoit pas, de qui représente un risque et de qui ne représente pas un risque. Quel que soit le domaine auquel elle est appliquée, c’est ainsi que fonctionne l’IA : elle trace des limites de décision et ce qui relève ou non de types particuliers de classification ou d’identification.” Les opérations concrètes de l’IA ont des conséquences politiquement réactionnaires : elles amplifient les inégalités et les injustices et renforcent les distinctions opaques. L’IA est la conséquence et le produit de notre société et son pouvoir renforce celui des personnes qui pensent que le monde fonctionnera mieux si le pouvoir est descendant. Les démocraties libérales ne sont pas un rempart contre le facisme, rappelle-t-il en évoquant la collusion entre les industriels autrichiens et allemands libéraux et le nazisme dans son accession au pouvoir. Pour lui, la régulation étatique pour freiner les pires dérives de l’IA a peu de chance d’aboutir. McQuillan estime que l’IA est perçue de la même manière que le capitalisme, comme un système sans alternative, une fatalité… sans qu’on le remette en question. Notre façon même de concevoir l’avenir consiste souvent à prolonger des lignes déjà tracées. L’enjeu est de nous extraire de la science réactionnaire de l’IA, où tout est réduit, cartographié et contrôlé. Pour cela, nous devons résoudre les problèmes de l’IA en faisant les choses que l’IA ne fait pas, comme de collectiviser le monde plutôt que de l’individualiser. McQuillan plaide pour le développement de l’auto-organisation sur les lieux de travail et pour la constitution d’assemblées citoyennes pour freiner ou contrôler l’utilisation de l’IA dans nombres de domaines spécifiques, comme l’attribution de logements ou les services sociaux.

Reprendre la main sur les décisions qui nous sont imposées, bien sûr ! C’est la conclusion de tous les livres sur la technologie que je lis. Mais peu est fait pour que cette reprise en main démocratique progresse, advienne. 

Hubert Guillaud

La transparence est-elle en panne ?  

✇Hubert Guillaud
Par : Hubert Guillaud
16 janvier 2024 à 09:10

En 2021, je dressais un constat assez glacé sur la smart city en pointant le fait que bien souvent, avec la pandémie, les villes avaient assumé leurs dérives sécuritaires vers des Safe City voire des Dark City, c’est-à-dire une dérive vers des villes intelligentes particulièrement opaques à leurs utilisateurs. 

En 2020, les villes d’Amsterdam et d’Helsinki s’étaient distinguées en publiant les registres des algorithmes et des systèmes d’intelligence artificielle qu’elles utilisaient (un effort avait suivi au Royaume-Uni en 2022, qui a produit une standardisation du modèle). Mais ces initiatives sont restées peu suivies d’effets. A Amsterdam, seuls 4 projets sont disponibles dans le registre (un de plus qu’en 2020, si je fais confiance à mon décompte de l’époque). Au Royaume-Uni, aucun nouveau projet n’a été documenté depuis 2022. Seule la ville d’Helsinki est parvenu à documenter de nouveaux projets, mais le registre n’en compte que 9 ! En France, Etalab avait également normalisé un modèle d’information pour réaliser l’inventaire des algorithmes. La ville de Nantes n’a publié que 2 registres. La ville de Paris, 5. Parmi les administrations françaises, il semble que ce soit Pôle emploi qui tienne le décompte le plus complet des algorithmes que l’agence utilise (même si rien n’assure de sa complétude). 

Un constat d’évolution bien décevant. Il faudrait interroger plus avant pourquoi cette transparence ne progresse pas. 

La carte des capteurs d’Amsterdam.

Pourtant, si la ville d’Amsterdam n’a pas mis à jour son répertoire d’algorithmes, je découvre qu’elle n’en est pas restée là. Elle a prolongé cette volonté de transparence, en déployant depuis 2021, sous forme de carte, un registre public des capteurs déployés sur l’espace public par les entreprises privées et les organismes publics. Les informations, collectées via une carte en ligne, donnent des informations sur les capteurs utilisés (caméras bien sûr, mais également capteurs de trafic ou de qualité de l’air, compteurs Wi-Fi, panneaux d’affichages intelligents…), leur propriétaire, les données collectées et le traitement des données personnelles réalisé. Ce registre des capteurs sur l’espace public et l’obligation de déclaration (les titulaires de capteurs sur l’espace public sont passibles d’une amende voir d’un démantèlement s’ils ne procèdent pas à leur enregistrement) font partie de la stratégie de données de la ville qui repose sur 2 grands principes : renforcer le contrôle des utilisateurs sur leurs données (la ville travaille d’ailleurs à une procédure permettant aux administrés de faire effacer simplement leurs données des administrations qui les collectent) et le fait que les données collectées sur l’espace public doivent être accessibles à la ville, aux habitants et aux administrations dans le respect de la vie privée. En 2021, rapportait Cities Today, la ville a collaboré avec l’agence Tapp et la coopérative d’ingénieurs Life Electronic pour mettre au point un système de comptage du public respectueux de la vie privée, Public Eye, qui a été publié en open source – la ville a également publié en open source un système de floutage des personnes ou des plaques d’immatriculation captées par les caméras. Le système de comptage avait pour objectif de surveiller la surfréquentation de certaines zones afin de pouvoir disperser la foule ou éviter des embouteillages. 

Avec le Responsible Sensing Lab (RSL) qu’elle a installé depuis 2021, la ville a développé d’autres projets, comme des caméras avec des obturateurs visibles afin que la surveillance ne fonctionne pas en continu ! Le RSL a produit d’autres projets pour améliorer la responsabilité des villes quant à leur collecte de données, en affichant plus clairement cette collecte plutôt qu’en l’invisibilisant. C’est le cas par exemple de caméras capteurs de foule qui affichent le comptage qu’elles réalisent en temps réel. 

Certes, ces projets semblent anecdotiques et n’ont été déployés que très ponctuellement. Mais le fait qu’une ville se soucie de la surveillance qu’elle génère est suffisamment inédit pour être remarquée. Derrière ces démonstrateurs, la ville explique vouloir améliorer la confiance dans la collecte, re-symétriser l’information, informer les gens sur les données collectées… Pour Boen Groothoff, chef de projet mobilité intelligente à la ville d’Amsterdam, le contrôle sur l’éthique et la confidentialité ne peut pas être garanti si vous ne savez pas comment fonctionne la technologie. Et c’est en la développant soi-même les technologies qu’on acquiert le plus de contrôle, explique-t-il pour justifier ces développements. L’intérêt du RSL consiste à intégrer des valeurs sociales dans les systèmes de collectes de données publics. Il a depuis été complété par un laboratoire pluridisciplinaire, Decode, qui travaille notamment sur l’inclusivité et la gouvernance démocratique des données. Résultats à suivre ! 

Hubert Guillaud

​PS : Dans un billet de blog, Hubert Beroche de Urban AI évoque également le travail réalisé par Helpful Places, qui a mis en place un standard de communication pour indiquer la présence de capteurs dans l’espace public, la nature des données collectées et le type d’organisation qui les récupère, avec toute une signalétique dédiée.

La transparence est-elle en panne ?  

✇Hubert Guillaud
Par : Hubert Guillaud
16 janvier 2024 à 09:10

En 2021, je dressais un constat assez glacé sur la smart city en pointant le fait que bien souvent, avec la pandémie, les villes avaient assumé leurs dérives sécuritaires vers des Safe City voire des Dark City, c’est-à-dire une dérive vers des villes intelligentes particulièrement opaques à leurs utilisateurs. 

En 2020, les villes d’Amsterdam et d’Helsinki s’étaient distinguées en publiant les registres des algorithmes et des systèmes d’intelligence artificielle qu’elles utilisaient (un effort avait suivi au Royaume-Uni en 2022, qui a produit une standardisation du modèle). Mais ces initiatives sont restées peu suivies d’effets. A Amsterdam, seuls 4 projets sont disponibles dans le registre (un de plus qu’en 2020, si je fais confiance à mon décompte de l’époque). Au Royaume-Uni, aucun nouveau projet n’a été documenté depuis 2022. Seule la ville d’Helsinki est parvenu à documenter de nouveaux projets, mais le registre n’en compte que 9 ! En France, Etalab avait également normalisé un modèle d’information pour réaliser l’inventaire des algorithmes. La ville de Nantes n’a publié que 2 registres. La ville de Paris, 5. Parmi les administrations françaises, il semble que ce soit Pôle emploi qui tienne le décompte le plus complet des algorithmes que l’agence utilise (même si rien n’assure de sa complétude). 

Un constat d’évolution bien décevant. Il faudrait interroger plus avant pourquoi cette transparence ne progresse pas. 

La carte des capteurs d’Amsterdam.

Pourtant, si la ville d’Amsterdam n’a pas mis à jour son répertoire d’algorithmes, je découvre qu’elle n’en est pas restée là. Elle a prolongé cette volonté de transparence, en déployant depuis 2021, sous forme de carte, un registre public des capteurs déployés sur l’espace public par les entreprises privées et les organismes publics. Les informations, collectées via une carte en ligne, donnent des informations sur les capteurs utilisés (caméras bien sûr, mais également capteurs de trafic ou de qualité de l’air, compteurs Wi-Fi, panneaux d’affichages intelligents…), leur propriétaire, les données collectées et le traitement des données personnelles réalisé. Ce registre des capteurs sur l’espace public et l’obligation de déclaration (les titulaires de capteurs sur l’espace public sont passibles d’une amende voir d’un démantèlement s’ils ne procèdent pas à leur enregistrement) font partie de la stratégie de données de la ville qui repose sur 2 grands principes : renforcer le contrôle des utilisateurs sur leurs données (la ville travaille d’ailleurs à une procédure permettant aux administrés de faire effacer simplement leurs données des administrations qui les collectent) et le fait que les données collectées sur l’espace public doivent être accessibles à la ville, aux habitants et aux administrations dans le respect de la vie privée. En 2021, rapportait Cities Today, la ville a collaboré avec l’agence Tapp et la coopérative d’ingénieurs Life Electronic pour mettre au point un système de comptage du public respectueux de la vie privée, Public Eye, qui a été publié en open source – la ville a également publié en open source un système de floutage des personnes ou des plaques d’immatriculation captées par les caméras. Le système de comptage avait pour objectif de surveiller la surfréquentation de certaines zones afin de pouvoir disperser la foule ou éviter des embouteillages. 

Avec le Responsible Sensing Lab (RSL) qu’elle a installé depuis 2021, la ville a développé d’autres projets, comme des caméras avec des obturateurs visibles afin que la surveillance ne fonctionne pas en continu ! Le RSL a produit d’autres projets pour améliorer la responsabilité des villes quant à leur collecte de données, en affichant plus clairement cette collecte plutôt qu’en l’invisibilisant. C’est le cas par exemple de caméras capteurs de foule qui affichent le comptage qu’elles réalisent en temps réel. 

Certes, ces projets semblent anecdotiques et n’ont été déployés que très ponctuellement. Mais le fait qu’une ville se soucie de la surveillance qu’elle génère est suffisamment inédit pour être remarquée. Derrière ces démonstrateurs, la ville explique vouloir améliorer la confiance dans la collecte, re-symétriser l’information, informer les gens sur les données collectées… Pour Boen Groothoff, chef de projet mobilité intelligente à la ville d’Amsterdam, le contrôle sur l’éthique et la confidentialité ne peut pas être garanti si vous ne savez pas comment fonctionne la technologie. Et c’est en la développant soi-même les technologies qu’on acquiert le plus de contrôle, explique-t-il pour justifier ces développements. L’intérêt du RSL consiste à intégrer des valeurs sociales dans les systèmes de collectes de données publics. Il a depuis été complété par un laboratoire pluridisciplinaire, Decode, qui travaille notamment sur l’inclusivité et la gouvernance démocratique des données. Résultats à suivre ! 

Hubert Guillaud

​PS : Dans un billet de blog, Hubert Beroche de Urban AI évoque également le travail réalisé par Helpful Places, qui a mis en place un standard de communication pour indiquer la présence de capteurs dans l’espace public, la nature des données collectées et le type d’organisation qui les récupère, avec toute une signalétique dédiée.

L’effondrement de l’information ?

✇Hubert Guillaud
Par : Hubert Guillaud
11 janvier 2024 à 07:45

Depuis Cambridge Analytica, Trump, le Brexit et le Covid, l’information est devenue un problème pour les réseaux sociaux… Sommés par les autorités d’arbitrer la vérité, la plupart d’entre eux semblent désormais se réfugier en-dehors de l’information, pour devenir des lieux d’accomplissement de soi rétifs à la politique. C’est certainement ce qui explique le recul de l’information dans les flux des utilisateurs, analyse pertinemment Charlie Warzel pour The Atlantic. Comme le déclarait récemment le New York Times : « Les principales plateformes en ligne sont en train de rompre avec l’information ». 

Les plateformes de réseaux sociaux ont longtemps influencé la distribution de l’information, par exemple, en poussant les médias à se tourner vers la vidéo, comme l’a fait Facebook en 2015, en surestimant volontairement le temps moyen que les utilisateurs passaient à regarder des vidéos pour pousser les médias à basculer vers la production de contenus vidéos. Aujourd’hui, elles se détournent de l’information pour le divertissement et la publicité. Mais il n’y a pas qu’elles, les lecteurs eux-mêmes semblent atteindre un plafond informationnel, qui les pousse à se détourner de l’info, rapporte le Pew Research Center. La consommation d’information, particulièrement anxiogène, a plongé depuis 2020. Beaucoup se sont tournés vers des contenus plus faciles, comme ceux produits par les influenceurs. “La confiance des consommateurs ne repose pas nécessairement sur la qualité du reportage ou sur le prestige et l’histoire de la marque, mais sur des relations parasociales fortes”, constate Warzel. En 2014 – l’époque faste de l’actualité sociale – 75 % des adultes américains interrogés par le Pew déclaraient qu’Internet et les médias sociaux les avaient aidés à se sentir plus informés. Ce n’est plus le cas. 

Avec l’accélération algorithmique de l’information dans les réseaux sociaux, les cycles d’actualité sont devenus plus rapides : Twitter est ainsi devenu le rédacteur en chef des sujets les plus chauds que les médias devaient traiter, dans une boucle de renforcement des sujets populaires, à l’image des tweets de Donald Trump que tous les médias commentaient. De 2013 à 2017, l’actualité est devenue l’essence faisant tourner les réseaux sociaux, transformant peu à peu l’information en champ de bataille… Beaucoup d’utilisateurs s’en sont alors détournés. De nouveaux réseaux sociaux ont explosé, à l’image de TikTok et les plus anciens réseaux se sont adaptés, Facebook notamment… Une récente enquête de Morning Consult a montré que « les gens aimaient davantage Facebook maintenant qu’il y avait moins d’actualité ». 

Les commentaires sur l’actualité comme l’information ne vont pas entièrement disparaître, estime Warzel, mais les médias viennent de perdre de leur influence culturelle. Pour John Herrman dans le New Yorker, la campagne présidentielle de 2024 aux Etats-Unis risque d’être la première sans médias pour façonner les grands récits politiques. “Les réseaux sociaux ont fait ressortir le pire dans le secteur de l’information, et les informations, à leur tour, ont fait ressortir le pire dans de nombreux réseaux sociaux”. L’alliance entre réseaux sociaux et information a vécu. Reste à savoir ce que le monde de l’influence va produire… dans un monde où la force de l’écrit et la structuration de l’information semblent s’estomper du fait de machines à recommandation qui ne sont plus bâties pour eux. 

La fin d’un monde commun
Dans un second article, Warzel revient sur cette disparition de l’information… Pour lui, l’internet est désormais fragmenté par les recommandations sociales qui font que nous ne partageons pas grand-chose de ce que les autres consomment. “La notion même de popularité est sujette à débat” : plus personne ne sait vraiment si telle tendance est aussi virale qu’affichée. Difficultés à comparer les métriques, recommandations opaques, fermeture des sites d’information par les paywalls, chute de la pertinence des informations sur les médias sociaux et envahissement publicitaire… Nous ne comprenons plus ce qu’il se passe en ligne. Vous n’avez probablement jamais vu les vidéos les plus populaires de TikTok de l’année, pas plus que les contenus les plus vus de Facebook ! Et pas grand monde n’avait parlé de l’émission la plus populaire de Netflix, The Night Agent ! D’un côté, les contenus populaires sont plus viraux que jamais, de l’autre ces popularités sont plus cloisonnées que jamais ! Les comparaisons d’audience entre contenus et plateformes deviennent particulièrement complexes à décoder. Par exemple, la polémique récente sur le succès d’audience auprès de jeunes américains d’un discours de Ben Laden n’a pas été aussi virale que beaucoup l’ont dit, comme l’ont démontré le Washington Post ou Ryan Broderick. Un peu comme si nous étions entrés dans un moment de grande confusion sur la viralité, avec des métriques de vues que l’on compare d’une plateforme l’autre, alors que leurs publics et principes d’auto-renforcement sont très différents. Le fait que les plateformes ferment l’accès à leurs métriques et à la recherche n’aide pas à y voir clair, bien sûr. Sans échelle de comparaison, sans moyens pour voir ce qui circule et comment, nous devenons aveugles à tous les phénomènes. Et notamment à l’un d’entre eux : la manipulation de l’information par des puissances étrangères… 

Ces transformations ne sont pas encore achevées ni digérées qu’une autre se profile, estimait James Vincent pour The Verge : “l’ancien web est en train de mourir et le nouveau web a du mal à naître”. La production de textes, d’images, de vidéos et de sons synthétiques vient parasiter cet écosystème en recomposition. Accessibles directement depuis les moteurs de recherches, les productions de l’IA viennent remplacer le trafic qui menait jusqu’à l’information. “L’IA vise à produire du contenu bon marché depuis le travail d’autrui”. Bing AI ou Bard de Google pourraient finalement venir tuer l’écosystème qui a fait la valeur des moteurs de recherche, en proposant eux-même leur propre “abondance artificielle”. Certes, ce ne sera pas la première fois que l’écosystème de l’information se modifie : Wikipédia a bien tué l’Encyclopédie Britannica. Mais, pour James Vincent, si depuis l’origine le web structure la grande bataille de l’information en modifiant les producteurs, les modalités d’accès et les modèles économiques… cette nouvelle configuration qui s’annonce ne garantit pas que le système qui arrive soit meilleur que celui que nous avions. 

“L’internet n’est plus amusant”, déplorait Kyle Chayka pour le New Yorker. A force d’ajustements algorithmiques, les réseaux sociaux sont devenus parfaitement chiants !, expliquait Marie Turcan de Numérama, dénonçant le web de l’ennui ! L’invisibilisation des liens externes et plus encore de l’écrit par rapport à la vidéo, semble achever ce qu’il restait de qualité, comme le rapporte David-Julien Rahmil pour l’ADN. Dans un autre article, Rahmil rappelle que les échanges directs ont pris le pas sur les échanges publics : “La publicité omniprésente, l’exacerbation des tensions politiques, la culture du clash perpétuel et la sensation de burn-out informationnel ont sans doute précipité la chute des grandes plateformes sociales.” Désormais, chaque plateforme ne travaille plus que pour elle-même. Dans une internet plus fragmenté que jamais, chaque plateforme va faire émerger ses propres professionnels, ses propres influenceurs et il est bien probable qu’ils ne se recoupent plus d’une plateforme l’autre.  

Quant aux réseaux sociaux, ils se sont dévalorisés eux-mêmes, à l’image de Twitter, qui a longtemps incarné le fil d’actualité en temps réel, le lieu central d’une conversation influente et un peu élitiste, explique Nilay Patel pour The Verge. C’est “l’effondrement du contexte qui a rendu Twitter si dangereux et si réducteur, mais c’était aussi ce qui le rendait passionnant”. La plateforme a rendu ses utilisateurs plus rapides et plus agiles, mais également trop réactifs. Les marques se sont éloignées des médias pour gérer elles-mêmes leurs présences sociales. “En prenant du recul maintenant, vous pouvez voir exactement à quel point cette situation a été destructrice pour le journalisme : les journalistes du monde entier ont fourni gratuitement à Twitter des informations et des commentaires en temps réel, apprenant de plus en plus à façonner des histoires pour l’algorithme plutôt que pour leurs véritables lecteurs. Pendant ce temps, les sociétés de médias pour lesquelles ils travaillaient étaient confrontées à un exode de leurs plus gros clients publicitaires vers des plateformes sociales offrant des produits publicitaires de meilleure qualité et plus intégrés, une connexion directe avec le public et aucune éthique éditoriale contraignante. Les informations sont devenues de plus en plus petites, même si les histoires ont pris de l’ampleur.” Tout le monde y était journaliste, alors que le secteur de l’information lui-même se tarissait. “Twitter a été fondé en 2006. Depuis cette année-là, l’emploi dans les journaux a chuté de 70% et les habitants de plus de la moitié des comtés américains ont peu ou plus d’informations locales”. Avec la pandémie, Trump, Black Live Matter, Twitter a atteint un point de bascule, s’effondrant sous son propre pouvoir. L’audience a commencé à refluer sous sa toxicité. Pour Patel, la prise de pouvoir de Musk sur la plateforme est une réaction au recul du pouvoir des célébrités et des gens de la tech. En renforçant sa viralité et sa toxicité, la plateforme ne cesse de péricliter. Les challengers (Bluesky, Threads, Mastodon…) sont à Twitter “ce que la méthadone est à l’héroïne”. L’audience est plus fragmentée que jamais. A l’image de ces utilisateurs qui courent encore d’une plateforme l’autre pour envoyer des messages à leurs relations… ou ces lecteurs désorientés de ne plus trouver quoi lire.  

Changement générationel ou enjunkification ?
L’âge de la conversation qui ouvrait le web du XXIe siècle est clos ! Et ce qu’il reste de nos conversations vont être prises en charge par des agents conversationnels… qui seront des des agents politiques et idéologiques bien plus efficaces que nos semblables, comme l’explique Olivier Ertzscheid ! A terme, c’est même une relation encore plus personnelle à l’information que dessinent les chatbots, chacun discutant avec le sien sans plus vraiment avoir de liens à des contenus communs.

Pour Max Read, dans le New York Times, peut-être faut-il lire ces changements en cours autrement. Ces transformations ont aussi des origines économiques, rappelle-t-il trop rapidement. “La fin de l’ère des taux d’intérêt bas a bouleversé l’économie des start-ups, mettant fin aux pratiques de croissance rapide comme le blitzscaling et réduisant le nombre de nouvelles entreprises Internet en lice pour attirer notre attention ; des entreprises comme Alphabet et Facebook sont désormais des entreprises matures et dominantes au lieu de nouvelles entreprises perturbatrices”…  Pourtant, plutôt que de creuser cette explication économique, c’est à une autre explication que Max Read se range. Si l’internet est en train de mourir, c’est d’abord parce que nous vieillissons. La forme et la culture d’internet ont été façonnés par les préférences des générations qui y ont pris part. L’internet d’aujourd’hui n’est plus celui des médias sociaux (2000-2010), ni celui des réseaux sociaux (2010-2020). “Selon le cabinet d’études de consommation GWI, le temps passé devant un écran par les millennials est en baisse constante depuis des années. Seuls 42 % des 30 à 49 ans déclarent être en ligne « presque constamment », contre 49 % des 18 à 29 ans. Nous ne sommes même plus les premiers à l’adopter : les 18 à 29 ans sont plus susceptibles d’avoir utilisé ChatGPT que les 30 à 49 ans – mais peut-être uniquement parce que nous n’avons plus de devoirs à faire.” 

“Le public américain le plus engagé sur Internet ne sont plus les millennials mais nos successeurs de la génération Z. Si Internet n’est plus amusant pour les millennials, c’est peut-être simplement parce que ce n’est plus notre Internet. Il appartient désormais aux zoomers.” 

Les formats, les célébrités, le langage lui-même de cette génération est totalement différent, explique Read. “Les zoomers et les adolescents de la génération Alpha qui mordillent leurs talons générationnels semblent toujours s’amuser en ligne. Même si je trouve tout cela impénétrable et un peu irritant, l’expression créative et la socialité exubérante qui ont rendu Internet si amusant pour moi il y a dix ans sont en plein essor parmi les jeunes de 20 ans sur TikTok, Instagram, Discord, Twitch et même X. Skibidi Toilet, Taxe Fanum, le rizzler – je ne me rabaisserai pas en prétendant savoir ce que sont ces mèmes, ou quel est leur attrait, mais je sais que les zoomers semblent les aimer. Ou, en tout cas, je peux vérifier qu’ils adorent les utiliser pour confondre et aliéner les millennials d’âge moyen comme moi.” 

Certes, ils sont récupérés et exploités par une petite poignée de plateformes puissantes, mais d’autres avant elles ont cherché à arbitrer et à marchandiser notre activité en ligne… “Les plateformes axées sur l’engagement ont toujours cultivé les influenceurs, les abus et la désinformation. Lorsque vous approfondissez, ce qui semble avoir changé sur le Web au cours des dernières années, ce n’est pas la dynamique structurelle mais les signifiants culturels”.

“En d’autres termes, l’enjunkification a toujours eu lieu sur le web commercial, dont le modèle économique largement basé sur la publicité semble imposer une course toujours mouvante vers le bas. Peut-être que ce que les internautes frustrés, aliénés et vieillissants comme moi vivent ici, ce ne sont pas seulement les fruits d’un Internet enjunkifié, mais aussi la perte de l’élasticité cognitive, du sens de l’humour et de l’abondance de temps libre nécessaire pour naviguer avec agilité et gaieté dans tous ces déchets déroutants.”

Mais c’est là une vision très pessimiste des transformations actuelles. Pour Rolling Stone, Anil Dash s’enthousiasme. Avec sa fragmentation, l’internet est en train de redevenir bizarre, comme il l’était à l’origine ! La disparition d’applications centrales (même si ce n’est pas vraiment tout à fait le cas), promet un retour de services étranges et de propositions inattendues à l’image de l’école de la programmation poétique de Neta Bomani… ou celles du constructeur de bots Stephan Bohacek, ou encore celles du designer Elan Kiderman Ullendorff qui s’amuse à faire des propositions pour “échapper aux algorithmes“… ou encore les petites subversions de l’artiste et programmeur Darius Kazemi qui proposait aux gens de créer leurs micro-réseaux sociaux autonomes sur Mastodon…

Pas sûr que ces subversions n’aient jamais cessé. Elles ont surtout été invisibilisées par les grandes plateformes sociales. Pas sûr que l’audience d’influence et que l’audience synthétique qui s’annoncent ne leur apporte plus d’espaces qu’ils n’en avaient hier. Reste qu’Anil Dash a raison : la seule chose certaine, c’est que les contenus les plus étranges vont continuer de tenter de parvenir jusqu’à nous. A l’image des vidéos qui venaient coloniser les flux des plus jeunes depuis quelques mots clefs, que dénonçait James Bridle dans son excellent livre, Un nouvel âge des ténèbres. Elan Kiderman Ullendorff s’est amusé à créer un compte tiktok des vidéos les plus repoussantes qui lui étaient proposées en passant toutes celles qui l’intéressaient et en ne retenant que le pire. Des vidéos qui semblent composer un portrait de Dorian Gray de chacun d’entre nous. Le web addictif est le miroir du web répulsif, le web qu’on déteste le miroir du web de nos rêves. Seule certitude, oui : le web de demain risque d’être bien plus étrange et dérangeant qu’il n’est ! Les ajustements algorithmiques ayant sabré le plus intéressant, il est probable que nous soyons plus que jamais confrontés au pire !

Hubert Guillaud

L’effondrement de l’information ?

✇Hubert Guillaud
Par : Hubert Guillaud
11 janvier 2024 à 07:45

Depuis Cambridge Analytica, Trump, le Brexit et le Covid, l’information est devenue un problème pour les réseaux sociaux… Sommés par les autorités d’arbitrer la vérité, la plupart d’entre eux semblent désormais se réfugier en-dehors de l’information, pour devenir des lieux d’accomplissement de soi rétifs à la politique. C’est certainement ce qui explique le recul de l’information dans les flux des utilisateurs, analyse pertinemment Charlie Warzel pour The Atlantic. Comme le déclarait récemment le New York Times : « Les principales plateformes en ligne sont en train de rompre avec l’information ». 

Les plateformes de réseaux sociaux ont longtemps influencé la distribution de l’information, par exemple, en poussant les médias à se tourner vers la vidéo, comme l’a fait Facebook en 2015, en surestimant volontairement le temps moyen que les utilisateurs passaient à regarder des vidéos pour pousser les médias à basculer vers la production de contenus vidéos. Aujourd’hui, elles se détournent de l’information pour le divertissement et la publicité. Mais il n’y a pas qu’elles, les lecteurs eux-mêmes semblent atteindre un plafond informationnel, qui les pousse à se détourner de l’info, rapporte le Pew Research Center. La consommation d’information, particulièrement anxiogène, a plongé depuis 2020. Beaucoup se sont tournés vers des contenus plus faciles, comme ceux produits par les influenceurs. “La confiance des consommateurs ne repose pas nécessairement sur la qualité du reportage ou sur le prestige et l’histoire de la marque, mais sur des relations parasociales fortes”, constate Warzel. En 2014 – l’époque faste de l’actualité sociale – 75 % des adultes américains interrogés par le Pew déclaraient qu’Internet et les médias sociaux les avaient aidés à se sentir plus informés. Ce n’est plus le cas. 

Avec l’accélération algorithmique de l’information dans les réseaux sociaux, les cycles d’actualité sont devenus plus rapides : Twitter est ainsi devenu le rédacteur en chef des sujets les plus chauds que les médias devaient traiter, dans une boucle de renforcement des sujets populaires, à l’image des tweets de Donald Trump que tous les médias commentaient. De 2013 à 2017, l’actualité est devenue l’essence faisant tourner les réseaux sociaux, transformant peu à peu l’information en champ de bataille… Beaucoup d’utilisateurs s’en sont alors détournés. De nouveaux réseaux sociaux ont explosé, à l’image de TikTok et les plus anciens réseaux se sont adaptés, Facebook notamment… Une récente enquête de Morning Consult a montré que « les gens aimaient davantage Facebook maintenant qu’il y avait moins d’actualité ». 

Les commentaires sur l’actualité comme l’information ne vont pas entièrement disparaître, estime Warzel, mais les médias viennent de perdre de leur influence culturelle. Pour John Herrman dans le New Yorker, la campagne présidentielle de 2024 aux Etats-Unis risque d’être la première sans médias pour façonner les grands récits politiques. “Les réseaux sociaux ont fait ressortir le pire dans le secteur de l’information, et les informations, à leur tour, ont fait ressortir le pire dans de nombreux réseaux sociaux”. L’alliance entre réseaux sociaux et information a vécu. Reste à savoir ce que le monde de l’influence va produire… dans un monde où la force de l’écrit et la structuration de l’information semblent s’estomper du fait de machines à recommandation qui ne sont plus bâties pour eux. 

La fin d’un monde commun
Dans un second article, Warzel revient sur cette disparition de l’information… Pour lui, l’internet est désormais fragmenté par les recommandations sociales qui font que nous ne partageons pas grand-chose de ce que les autres consomment. “La notion même de popularité est sujette à débat” : plus personne ne sait vraiment si telle tendance est aussi virale qu’affichée. Difficultés à comparer les métriques, recommandations opaques, fermeture des sites d’information par les paywalls, chute de la pertinence des informations sur les médias sociaux et envahissement publicitaire… Nous ne comprenons plus ce qu’il se passe en ligne. Vous n’avez probablement jamais vu les vidéos les plus populaires de TikTok de l’année, pas plus que les contenus les plus vus de Facebook ! Et pas grand monde n’avait parlé de l’émission la plus populaire de Netflix, The Night Agent ! D’un côté, les contenus populaires sont plus viraux que jamais, de l’autre ces popularités sont plus cloisonnées que jamais ! Les comparaisons d’audience entre contenus et plateformes deviennent particulièrement complexes à décoder. Par exemple, la polémique récente sur le succès d’audience auprès de jeunes américains d’un discours de Ben Laden n’a pas été aussi virale que beaucoup l’ont dit, comme l’ont démontré le Washington Post ou Ryan Broderick. Un peu comme si nous étions entrés dans un moment de grande confusion sur la viralité, avec des métriques de vues que l’on compare d’une plateforme l’autre, alors que leurs publics et principes d’auto-renforcement sont très différents. Le fait que les plateformes ferment l’accès à leurs métriques et à la recherche n’aide pas à y voir clair, bien sûr. Sans échelle de comparaison, sans moyens pour voir ce qui circule et comment, nous devenons aveugles à tous les phénomènes. Et notamment à l’un d’entre eux : la manipulation de l’information par des puissances étrangères… 

Ces transformations ne sont pas encore achevées ni digérées qu’une autre se profile, estimait James Vincent pour The Verge : “l’ancien web est en train de mourir et le nouveau web a du mal à naître”. La production de textes, d’images, de vidéos et de sons synthétiques vient parasiter cet écosystème en recomposition. Accessibles directement depuis les moteurs de recherches, les productions de l’IA viennent remplacer le trafic qui menait jusqu’à l’information. “L’IA vise à produire du contenu bon marché depuis le travail d’autrui”. Bing AI ou Bard de Google pourraient finalement venir tuer l’écosystème qui a fait la valeur des moteurs de recherche, en proposant eux-même leur propre “abondance artificielle”. Certes, ce ne sera pas la première fois que l’écosystème de l’information se modifie : Wikipédia a bien tué l’Encyclopédie Britannica. Mais, pour James Vincent, si depuis l’origine le web structure la grande bataille de l’information en modifiant les producteurs, les modalités d’accès et les modèles économiques… cette nouvelle configuration qui s’annonce ne garantit pas que le système qui arrive soit meilleur que celui que nous avions. 

“L’internet n’est plus amusant”, déplorait Kyle Chayka pour le New Yorker. A force d’ajustements algorithmiques, les réseaux sociaux sont devenus parfaitement chiants !, expliquait Marie Turcan de Numérama, dénonçant le web de l’ennui ! L’invisibilisation des liens externes et plus encore de l’écrit par rapport à la vidéo, semble achever ce qu’il restait de qualité, comme le rapporte David-Julien Rahmil pour l’ADN. Dans un autre article, Rahmil rappelle que les échanges directs ont pris le pas sur les échanges publics : “La publicité omniprésente, l’exacerbation des tensions politiques, la culture du clash perpétuel et la sensation de burn-out informationnel ont sans doute précipité la chute des grandes plateformes sociales.” Désormais, chaque plateforme ne travaille plus que pour elle-même. Dans une internet plus fragmenté que jamais, chaque plateforme va faire émerger ses propres professionnels, ses propres influenceurs et il est bien probable qu’ils ne se recoupent plus d’une plateforme l’autre.  

Quant aux réseaux sociaux, ils se sont dévalorisés eux-mêmes, à l’image de Twitter, qui a longtemps incarné le fil d’actualité en temps réel, le lieu central d’une conversation influente et un peu élitiste, explique Nilay Patel pour The Verge. C’est “l’effondrement du contexte qui a rendu Twitter si dangereux et si réducteur, mais c’était aussi ce qui le rendait passionnant”. La plateforme a rendu ses utilisateurs plus rapides et plus agiles, mais également trop réactifs. Les marques se sont éloignées des médias pour gérer elles-mêmes leurs présences sociales. “En prenant du recul maintenant, vous pouvez voir exactement à quel point cette situation a été destructrice pour le journalisme : les journalistes du monde entier ont fourni gratuitement à Twitter des informations et des commentaires en temps réel, apprenant de plus en plus à façonner des histoires pour l’algorithme plutôt que pour leurs véritables lecteurs. Pendant ce temps, les sociétés de médias pour lesquelles ils travaillaient étaient confrontées à un exode de leurs plus gros clients publicitaires vers des plateformes sociales offrant des produits publicitaires de meilleure qualité et plus intégrés, une connexion directe avec le public et aucune éthique éditoriale contraignante. Les informations sont devenues de plus en plus petites, même si les histoires ont pris de l’ampleur.” Tout le monde y était journaliste, alors que le secteur de l’information lui-même se tarissait. “Twitter a été fondé en 2006. Depuis cette année-là, l’emploi dans les journaux a chuté de 70% et les habitants de plus de la moitié des comtés américains ont peu ou plus d’informations locales”. Avec la pandémie, Trump, Black Live Matter, Twitter a atteint un point de bascule, s’effondrant sous son propre pouvoir. L’audience a commencé à refluer sous sa toxicité. Pour Patel, la prise de pouvoir de Musk sur la plateforme est une réaction au recul du pouvoir des célébrités et des gens de la tech. En renforçant sa viralité et sa toxicité, la plateforme ne cesse de péricliter. Les challengers (Bluesky, Threads, Mastodon…) sont à Twitter “ce que la méthadone est à l’héroïne”. L’audience est plus fragmentée que jamais. A l’image de ces utilisateurs qui courent encore d’une plateforme l’autre pour envoyer des messages à leurs relations… ou ces lecteurs désorientés de ne plus trouver quoi lire.  

Changement générationel ou enjunkification ?
L’âge de la conversation qui ouvrait le web du XXIe siècle est clos ! Et ce qu’il reste de nos conversations vont être prises en charge par des agents conversationnels… qui seront des des agents politiques et idéologiques bien plus efficaces que nos semblables, comme l’explique Olivier Ertzscheid ! A terme, c’est même une relation encore plus personnelle à l’information que dessinent les chatbots, chacun discutant avec le sien sans plus vraiment avoir de liens à des contenus communs.

Pour Max Read, dans le New York Times, peut-être faut-il lire ces changements en cours autrement. Ces transformations ont aussi des origines économiques, rappelle-t-il trop rapidement. “La fin de l’ère des taux d’intérêt bas a bouleversé l’économie des start-ups, mettant fin aux pratiques de croissance rapide comme le blitzscaling et réduisant le nombre de nouvelles entreprises Internet en lice pour attirer notre attention ; des entreprises comme Alphabet et Facebook sont désormais des entreprises matures et dominantes au lieu de nouvelles entreprises perturbatrices”…  Pourtant, plutôt que de creuser cette explication économique, c’est à une autre explication que Max Read se range. Si l’internet est en train de mourir, c’est d’abord parce que nous vieillissons. La forme et la culture d’internet ont été façonnés par les préférences des générations qui y ont pris part. L’internet d’aujourd’hui n’est plus celui des médias sociaux (2000-2010), ni celui des réseaux sociaux (2010-2020). “Selon le cabinet d’études de consommation GWI, le temps passé devant un écran par les millennials est en baisse constante depuis des années. Seuls 42 % des 30 à 49 ans déclarent être en ligne « presque constamment », contre 49 % des 18 à 29 ans. Nous ne sommes même plus les premiers à l’adopter : les 18 à 29 ans sont plus susceptibles d’avoir utilisé ChatGPT que les 30 à 49 ans – mais peut-être uniquement parce que nous n’avons plus de devoirs à faire.” 

“Le public américain le plus engagé sur Internet ne sont plus les millennials mais nos successeurs de la génération Z. Si Internet n’est plus amusant pour les millennials, c’est peut-être simplement parce que ce n’est plus notre Internet. Il appartient désormais aux zoomers.” 

Les formats, les célébrités, le langage lui-même de cette génération est totalement différent, explique Read. “Les zoomers et les adolescents de la génération Alpha qui mordillent leurs talons générationnels semblent toujours s’amuser en ligne. Même si je trouve tout cela impénétrable et un peu irritant, l’expression créative et la socialité exubérante qui ont rendu Internet si amusant pour moi il y a dix ans sont en plein essor parmi les jeunes de 20 ans sur TikTok, Instagram, Discord, Twitch et même X. Skibidi Toilet, Taxe Fanum, le rizzler – je ne me rabaisserai pas en prétendant savoir ce que sont ces mèmes, ou quel est leur attrait, mais je sais que les zoomers semblent les aimer. Ou, en tout cas, je peux vérifier qu’ils adorent les utiliser pour confondre et aliéner les millennials d’âge moyen comme moi.” 

Certes, ils sont récupérés et exploités par une petite poignée de plateformes puissantes, mais d’autres avant elles ont cherché à arbitrer et à marchandiser notre activité en ligne… “Les plateformes axées sur l’engagement ont toujours cultivé les influenceurs, les abus et la désinformation. Lorsque vous approfondissez, ce qui semble avoir changé sur le Web au cours des dernières années, ce n’est pas la dynamique structurelle mais les signifiants culturels”.

“En d’autres termes, l’enjunkification a toujours eu lieu sur le web commercial, dont le modèle économique largement basé sur la publicité semble imposer une course toujours mouvante vers le bas. Peut-être que ce que les internautes frustrés, aliénés et vieillissants comme moi vivent ici, ce ne sont pas seulement les fruits d’un Internet enjunkifié, mais aussi la perte de l’élasticité cognitive, du sens de l’humour et de l’abondance de temps libre nécessaire pour naviguer avec agilité et gaieté dans tous ces déchets déroutants.”

Mais c’est là une vision très pessimiste des transformations actuelles. Pour Rolling Stone, Anil Dash s’enthousiasme. Avec sa fragmentation, l’internet est en train de redevenir bizarre, comme il l’était à l’origine ! La disparition d’applications centrales (même si ce n’est pas vraiment tout à fait le cas), promet un retour de services étranges et de propositions inattendues à l’image de l’école de la programmation poétique de Neta Bomani… ou celles du constructeur de bots Stephan Bohacek, ou encore celles du designer Elan Kiderman Ullendorff qui s’amuse à faire des propositions pour “échapper aux algorithmes“… ou encore les petites subversions de l’artiste et programmeur Darius Kazemi qui proposait aux gens de créer leurs micro-réseaux sociaux autonomes sur Mastodon…

Pas sûr que ces subversions n’aient jamais cessé. Elles ont surtout été invisibilisées par les grandes plateformes sociales. Pas sûr que l’audience d’influence et que l’audience synthétique qui s’annoncent ne leur apporte plus d’espaces qu’ils n’en avaient hier. Reste qu’Anil Dash a raison : la seule chose certaine, c’est que les contenus les plus étranges vont continuer de tenter de parvenir jusqu’à nous. A l’image des vidéos qui venaient coloniser les flux des plus jeunes depuis quelques mots clefs, que dénonçait James Bridle dans son excellent livre, Un nouvel âge des ténèbres. Elan Kiderman Ullendorff s’est amusé à créer un compte tiktok des vidéos les plus repoussantes qui lui étaient proposées en passant toutes celles qui l’intéressaient et en ne retenant que le pire. Des vidéos qui semblent composer un portrait de Dorian Gray de chacun d’entre nous. Le web addictif est le miroir du web répulsif, le web qu’on déteste le miroir du web de nos rêves. Seule certitude, oui : le web de demain risque d’être bien plus étrange et dérangeant qu’il n’est ! Les ajustements algorithmiques ayant sabré le plus intéressant, il est probable que nous soyons plus que jamais confrontés au pire !

Hubert Guillaud

Internet, outil de déstabilisation massive

✇Hubert Guillaud
Par : Hubert Guillaud
9 janvier 2024 à 10:39

La guerre de l’information est un livre profondément anxiogène qui peut vous rendre assez paranoïaque. Sa force est pourtant de nous rappeler que la désinformation n’est pas un jeu anodin qui abuserait de la crédulité de certains esprits faibles virant complotistes. La désinformation n’est pas que la conséquence d’algorithmes peu responsables ou d’un marketing peu scrupuleux. L’historien David Colon nous rappelle que la désinformation et la manipulation de l’information sont la continuation de la guerre par d’autres moyens. On l’a vu très récemment quand des étoiles de David ont été taguées sur des murs dans les rues de Paris. Quelques images sur Twitter ont donné lieu à un déferlement de commentaires… même après qu’on ait appris que ces images avaient clairement été postées par des agents russes dans un but de déstabilisation politique qui semble avoir parfaitement fonctionné. 

Couverture du livre de David Colon, La guerre de l’information.

Colon rappelle que des entités mal intentionnées s’immiscent dans les algorithmes défaillants, dans le commentariat permanent. La fin de la guerre froide et les promesses d’un accès universel à l’information via le numérique nous ont fait croire que les conflits seraient derrière nous et que l’information deviendrait le bien commun de tous. Il n’en est rien. “L’information qui a toujours été une source de pouvoir est devenue un pouvoir en soi”, explique Colon. Elle s’est militarisée sans qu’on le voit. Elle est devenue un moyen d’ingérence, de déstabilisation, une arme permettant de se substituer à d’autres conflits. “A l’équilibre de la guerre froide a succédé le déséquilibre de la guerre de l’information”. De l’élection de Trump au Brexit, on se rend compte que la désinformation est une arme qui fonctionne. Et elle fonctionne d’autant plus que les changements qu’ont introduit les réseaux sociaux et qu’ont connu les médias de masse rendent ces manœuvres de déstabilisation encore plus faciles, accessibles à des acteurs sans grands moyens. Le livre de Colon, comme il l’explique lui-même raconte l’histoire de “cette guerre à laquelle nous n’étions pas préparés, qui s’est déroulée pour l’essentiel sans que nous en soyons conscients, et qui constitue pour nos démocraties une menace mortelle”. 

Colon revient en détail sur nombre de tentatives de désinformation qui ont plus ou moins marché, à l’image des tentatives de déstabilisation de l’élection présidentielle de 2017 aux Gilets jaunes, en passant par la contestation de la présence militaire française en Afrique. Ici, comme ailleurs, à chaque fois, derrière ce qui pourrait sembler tenir de simples luttes politiques, on retrouve des agents de la déstabilisation, des individus, des mouvances qui oeuvrent à l’ingérence pilotée non pas seulement par des opposants politiques, mais manoeuvrés par des puissances étrangères, comme la Russie. Nous avons pris en compte tardivement ces effets et ces menaces et savons encore bien mal y répondre… Et ce d’autant que tout le monde désormais, entreprises comme partis politiques, arme ses bots, ses trolls et hordes de militants ou de soutiens pour partout semer le doute. L’information est devenue un champ de mine, où transmettre vous rend complice et répondre suspect. Certes, nous commençons à prendre la mesure du problème, à l’image de la création depuis juillet 2021 d’une agence dédiée à la vigilance et à la protection contre les ingérences numériques (Viginum) dotée d’outils d’analyse des menaces, mais qui n’a pas pour mission d’informer le grand public ni de contrer les manoeuvres de déstabilisation continues.

Colon revient également longuement sur Cambridge Analytica, c’est-à-dire, comme il le résume très bien, la possibilité de transformer Facebook (et les réseaux sociaux) en armes, via notamment le microciblage qui permet d’adresser des messages spécifiques à des segments de population sur la base des caractéristiques psychologiques déduites de leurs profils. Cela explique qu’on puisse rester très préservés des théories du complot qui pullulent sur les réseaux parce que notre profil n’offre pas de prises pour qu’elles s’y engouffrent, contrairement à d’autres. L’enjeu consiste notamment à cibler certains types de profils, socialement aversifs, psychologiquement fragiles (machiavélique, narcissiques, insensibles, impulsifs, agressifs…) ou des gens avec des centres d’intérêts prédictifs de comportements déviants (le fait d’aimer les armes à feu, la drogue ou les soucoupes volantes… par exemple). Encourager la colère permet de diminuer le besoin d’explications rationnelles et rend les gens plus facilement manipulables. Ces profils sont exploités au service “de la fracturation des sociétés occidentales et de l’affaiblissement de la frontière entre le vrai et le faux”. Les théories du complot explosent alors, se diffusant par capillarité, exploitant les failles du ciblage et de la viralité des réseaux sociaux, à l’image des théories complètement barrées de QAnon certainement encouragées par l’activisme russe. L’exposition aux innombrables complots de Q a tendance à produire une radicalisation extrême en un temps particulièrement court, pour ceux qui s’y engouffrent, jusqu’à avoir réussi à contaminer nombre de Républicains américains. “L’extrêmisme de QAnon n’est pas tant idéologique que psychologique”, soutient très justement David Colon. Les opérations de désinformation les plus réussies sont celles qui s’entretiennent elles-mêmes, disait un dirigeant du KGB de la grande époque. A l’heure du numérique, les théories du complot sont d’abord des psychovirus très efficaces. 

La guerre de l’information est à la fois une doctrine mise en place par des officines de conseil en communication privées, comme par des Etats totalitaires, notamment la Russie et la Chine. Mais elle n’est pas forcément bien plus vertueuse que les programmes de renseignements de la NSA américaine, comme nous l’a montré Snowden. A la différence de l’Occident, le régime chinois rend les médias sociaux chinois responsables des contenus “subversifs”, pour que la coercition soit mieux appliquée dans une surveillance distribuée et très encadrée. A l’extérieur, elle utilise les mêmes techniques que la Russie pour répandre désinformation et déstabilisation. Et cette guerre de l’information se prolonge d’une confrontation technologique. David Colon termine son livre sur l’addictif et subversif TikTok… ce nouvel opium que la Chine exporte – sans l’utiliser dans les mêmes conditions chez elle. Une application ou la viralité et la désinformation fonctionnent particulièrement bien et de concert, comme toujours. Quant aux assurances de TikTok à combattre la désinformation, elles ressemblent beaucoup à celles des médias sociaux américains : pour les uns comme pour les autres, la désinformation est leur modèle économique !

La psychologie et la cognition sont désormais des champs de bataille : “le cerveau humain constitue le champ de bataille de la guerre du futur”. Pour Colon, c’est guerre de l’information ressemble à une guerre entre régimes autoritaires et régimes démocratiques. Le numérique fait “disparaître les frontières qui, jusque-là, permettaient de distinguer l’état de guerre de l’état de paix, le vrai du faux, le civil du militaire, le politique de l’économique”. Dans les années 90, les démocraties pensaient venir à bout des régimes autoritaires en recourant à la diffusion libre de l’information via le numérique. La perspective s’est inversée : ce sont les régimes autoritaires qui cherchent à faire s’effondrer les démocraties par l’arme informationnelle, analyse très pertinemment David Colon. “Ils ont retourné les forces et les outils de la démocratie contre la démocratie elle-même”. Et les démocraties sont fragiles, parce que par nature, elles sont ouvertes à la contradiction, rappelle l’historien. 

Pour Colon, nous ne répondons pas à la hauteur de l’agression et de la menace, explique-t-il en en appelant à un “état d’urgence informationnel”. Il invite les démocraties à riposter. A créer des structures dédiées pour rapporter, analyser et rendre public les ingérences à l’œuvre. A améliorer la coopération entre démocraties. A mieux informer dès que des attaques sont repérées, à l’image des contre-campagnes imaginées par Audrey Tang à Taïwan. Colon souhaite également qu’on envisage l’interdiction et la non-prolifération des armes informationnelles. L’Europe s’est dotée d’une commission spéciale sur l’ingérence étrangère et Colon milite pour la création d’un registre des actions d’influences comparable au registre des actions étrangères américain qui permet de connaître le montant des dépenses étrangères aux Etats-Unis, notamment en relations publiques et achats publicitaires… afin de mieux encadrer le lobbying. Il invite à créer un “Observatoire de défense informationnel”, doté d’un tableau de bord sur le modèle d’Hamilton 2.0, le projet de l’Alliance for Securing Democracy. Colon invite également à mieux responsabiliser les acteurs du numérique par exemple en renforçant leurs responsabilités d’éditeurs, à les obliger à communiquer sur les opérations d’influences qu’elles détectent, à indiquer et à tenir registre des publicités qu’elles diffusent, à sanctionner pénalement ceux qui diffusent de la désinformation et à introduire la notion d’ingérence informationnelle. Mais surtout, il invite à brider la viralité notamment parce qu’elle émane d’abord et avant tout, très souvent  de très peu de comptes sur les réseaux sociaux. Les démocraties doivent aussi sortir du piège de la réglementation des contenus qui risque de les mettre au même niveau que les régimes autoritaires, explique l’historien. Comme le défend Ethan Zuckerman, Colon estime que les médias de services publics sont les meilleurs remparts contre les ingérences et que nous devrions adopter des mesures pour limiter la concentration des médias privés. Il défend d’ailleurs la création de médias sociaux de services publics pour échapper aux logiques publicitaires qui les rendent si fragiles. Il rappelle que si le mensonge est omniprésent, l’information de qualité, elle, a tendance à se refermer derrière un mur payant : une logique dont il va falloir trouver les moyens de sortir !

Le problème de cette guerre informationnelle, c’est qu’on ne sait pas par quel bout la prendre. David Colon tente certes de dessiner quelques pistes de solutions. Toutes ne sont pas convaincantes. Les démocraties notamment, ont tendance à user des mêmes armes informationnelles que les dictatures. La communication des uns semble puiser dans les mêmes techniques que les déstabilisations des autres – c’est peut-être d’ailleurs la seule faiblesse du livre, qui charge l’ingérence étrangère sans montrer que ces techniques font aussi leurs armes dans la communication politique. En pointant le danger de l’ingérence étrangère, Colon semble minimiser l’intrication politique et idéologique des thèmes que ces ingérences activent. 

Les bots de l’ingérence trouvent et activent des terreaux fertiles. Le problème reste tout de même le ciblage publicitaire qui permet par exemple de trouver des individus soucieux de l’inflation pour leur adresser des messages qui expliquent que celle-ci est liée à la guerre en Ukraine et que donc le soutien à cette guerre la renforce. L’autre souci restant l’emballement, la capacité d’accélérer la viralité des réseaux sociaux comme de la société du commentariat.  

Le fait que l’information ne soit plus la priorité des réseaux sociaux n’est pas rassurant. D’abord, parce que cela n’élimine pas le ciblage psychologique qui n’a pas besoin d’information pour continuer ses effets. Ensuite, parce que les effets de ces ciblages risquent d’être plus compliqués à détecter demain qu’aujourd’hui, sans contre-pouvoirs informationnels. Dans cette confrontation entre les certitudes des uns et les certitudes des autres qui se déploient sans retenues, nous devrions chercher des modalités d’apaisement et donc de doutes pour combattre l’emballement partout où il se déploie. Ce n’est pas le chemin qui est pris. Et ce n’est définitivement pas une bonne nouvelle.  

Hubert Guillaud

A propos du livre de David Colon, La guerre de l’information : les Etats à la conquête de nos esprits, Taillandier, 2023, 480 pages, 23,9 euros.

Dans les paradoxes du soutien à l’innovation

✇Hubert Guillaud
Par : Hubert Guillaud
2 janvier 2024 à 11:42
La couverture du livre de Xavier Jaravel.

A l’image de son titre, c’est un étrange petit livre que ce Marie Curie habite dans le Morbihan (La République des idées, Le Seuil, 2023, 114 pages, 11,8 euros), signé de l’économiste Xavier Jaravel. L’auteur pose la question de la contribution de l’innovation aux inégalités… et répond un peu par des pirouettes, il me semble. Certes, sur le temps long, les innovations que nous avons connu depuis la révolution industrielle nous ont été bénéfiques, mais sur le temps court… c’est certainement un peu plus compliqué à évaluer ! 

On le sait, les rendements d’échelles favorisent la concentration des fortunes au détriment de l’innovation elle-même, puisque les leaders ont surtout tendance à verrouiller leurs marchés. Certes, les entreprises qui innovent et automatisent ont plutôt tendance à embaucher que le contraire – mais James Bessen nous rappelle que cette croissance par l’emploi est souvent passagère. Pour Jaravel, l’innovation semble donc avoir peu d’effet sur les inégalités car elle produit plutôt une hausse de la demande de travail, même si bien souvent, elle dégrade les conditions de travail, concède-t-il. Vive l’innovation donc !, et passez votre chemin !

Pourtant, il concède que si les technologies aggravent les inégalités, c’est peut-être plus du côte dé la consommation que de la production. “Les gains de productivité ont été plus élevés pour les produits qui ciblent les ménages aisés”. L’innovation se concentre surtout sur les produits de luxe et profite d’abord aux plus aisés : l’innovation ne concerne pas vraiment les paquets de pâtes et comparativement, le prix de la puissance de calcul a bien plus évolué à la baisse que le prix de la baguette ! En ce sens, l’innovation amplifie les inégalités car elle ne touche pas équitablement tous les produits et donc tous les publics. La raison est assez simple : l’innovation se concentre sur les marchés solvables au détriment des autres. Mais plutôt que de dire que c’est au secteur public de soutenir les marchés délaissés et d’y innover, ou d’avoir des politiques qui favorisent l’innovation là où elle n’a pas lieu, Xavier Jaravel estime que si le marché de l’innovation est biaisé, c’est à cause de la sociologie des innovateurs qui sont bien trop privilégiés. Ce n’est pas faux, bien sûr, mais le principal levier est-il là ? Oui, l’innovation se concentre dans les bons milieux : les innovateurs innovent d’abord pour des consommateurs qui leurs ressemblent, d’où nombre de discours pour favoriser la diversité dans les secteurs innovants… au risque que ce soit parfois un positionnement assez feint, qui vise plus à promouvoir une image que des responsabilités. Ceux qui ne sont pas du monde de l’innovation ont toutes les peines à trouver les réseaux et les financements pour innover justement. Reste à savoir si c’est la politique de soutien à l’innovation qu’il faut élargir pour qu’elle vienne aider d’autres formes d’innovation, et notamment celles délaissées par les entreprises, ou si au contraire, il faut améliorer la sociologie des innovateurs et encourager les “innovateurs ordinaires”, qui sont bien souvent la réalité de l’innovation. Est-ce qu’il faut améliorer d’autres formes d’innovation ou est-ce qu’il faut élargir l’assise de l’innovation technologique pour qu’elle touche d’autres publics ?

La politique d’innovation est soutenue, mais souvent peu différenciée. Le Crédit d’impôt recherche, qui est l’une des principales mesures, ne permet pas vraiment d’orienter l’innovation, puisqu’elle ne distingue pas vraiment les secteurs d’innovation et se contente d’apporter une réduction d’impôts aux entreprises qui innovent. Quant aux dispositifs fléchés vers certains secteurs (comme le plan France 2030), il reste surtout des dispositifs de l’entre-soi, qui orientent l’innovation vers des marchés solvables. “L’innovation est avant tout guidée par le marché et ses rendements d’échelle”. Et le financement de l’innovation va avant tout vers les innovations avec du potentiel de rentabilité. 

Pour améliorer l’innovation, il faudrait parvenir à s’extraire des propositions court-termistes, estime assez justement Xavier Jaravel. Il en balaye donc plusieurs qu’il réfute. Pour lui, taxer les plus riches ne fait que réduire l’innovation et n’est donc pas une solution d’autant que cela rapporterait sommes toutes assez peu. L’innovation multimillardaire n’est donc pas un problème… Ca me semble relever du tour de passe-passe, mais bon. Oubliez aussi le revenu universel qui viendrait aider les victimes collatérales des processus d’innovation (ah, donc il y a quand même des victimes des inégalités de l’innovation !) ! Quant à revenir à la planification… c’est un processus trop technocratique pour l’innovation ! Fermez le ban ! Qu’importe si un tiers de la baisse de la productivité totale de ces dernières décennies viendrait de la diminution de l’effort de recherche publique !  

Pour Jaravel, le principal levier pour améliorer l’innovation consiste à mieux former. L’enjeu de l’innovation est un enjeu éducatif ! C’est l’éducation qu’il faut améliorer, partout. A l’image du Morbihan, le département avec le plus faible taux d’enfants appelés à devenir ingénieurs, chercheurs ou thésards. Le monde de l’innovation est particulièrement mimétique : les enfants d’ingénieurs ont tendance à le devenir eux-mêmes bien plus que les autres. Pour Xavier Jaravel, il faut élargir l’accès à l’innovation. “Une parité parfaite entre femmes et hommes dans l’accès à l’innovation permettrait d’augmenter le taux de croissance annuel de la productivité du travail de 1% à 1,80%” Ce qui ne parait pas beaucoup, mais qui par effet de cascade permettrait d’augmenter le PIB de 18% en 25 ans, avec autant de recette fiscales en plus ! Faire monter les femmes et les individus issus des milieux défavorisés dans les métiers innovants permettrait de produire des innovations de produits qui cibleraient mieux les femmes et les ménages modestes. Pour Xavier Jaravel, les gains macroéconomiques seraient très élevés même si l’on ne se concentrait que sur les jeunes à très hauts potentiels – même s’il a un petit mot pour les filières techniques. Pour emmener plus d’élèves vers les carrières de l’innovation, il faut leur montrer des scientifiques et des ingénieurs femmes et de la diversité, et le mimétisme suffira ! Et l’économiste de proposer de multiplier les opérations de mentorat, de stages, les conférences… avec les associations dédiées qui doivent recevoir plus de moyens. Il faut sensibiliser aux carrières de la science et de l’innovation. Et doter d’objectifs à long terme : comme la parité et l’égalité territoriale dans l’accès aux filières scientifiques. “Démocratiser les carrières de la science et de l’innovation est la meilleure manière d’augmenter la croissance tout en réduisant les inégalités”, assène l’économiste. Certes. On ne peut pas dire qu’on en prenne le chemin, alors que notre système scolaire se délite et peine de plus en plus à produire l’élite scientifique à laquelle il aspire. La réforme du bac Blanquer a produit exactement le contraire, avec un décrochage des sciences et plus encore des jeunes femmes en sciences… Pour contrebalancer la décomposition scolaire, Xavier Jaravel met en avant des initiatives sympathiques mais tellement anecdotiques qu’on se demande s’il vit dans le même espace-temps que la plupart d’entre nous. 

On a l’impression à le lire que cette innovation éducative n’est quand même pas pour tous. Elle est pour ceux qui ont du potentiel, elle vise à améliorer l’orientation au bénéfice de certaines filières et pas d’autres, comme si l’innovation n’était qu’une question d’ingénierie et de science et qu’elle n’avait aucun intérêt ailleurs. Bref, derrière des idées qu’on pourrait largement partager, on ne se sent pas forcément très à l’aise avec l’angle des arguments que l’économiste mobilise. 

“Le déclassement éducatif mine la productivité”, qui n’est pas très bonne depuis les années 2000. Mais cette piètre productivité n’est pas à trouver dans la dégradation des rapports de travail et des conditions de travail, dans les processus de production, dans les difficultés d’accès aux financements tout tournés qu’ils sont vers des taux de rentabilité les plus hauts… Pour Xavier Jaravel, la France a un problème de capital humain liée à sa “piètre performance éducative”, notamment en mathématique. Et Jaravel de rappeler que les compétences socio-comportementales (capacité à coopérer, négocier, persévérer…) ne sont pas meilleures et que notre système est miné par la reproduction sociale et les inégalités d’accès à l’enseignement supérieur. Ici, Jaravel égratigne légèrement les réformes, comme le dédoublement des classes dont les effets sont trop faibles ou celle du bac et ses conséquences sur la baisse drastique des effectifs féminins en science. Jaravel propose là encore un lot d’action pour un secteur – l’éducation – qui je pense est surtout épuisé par des réformes incessantes, par exemple en ajoutant à tout cela des cours d’initiation à l’entrepreneuriat et à l’innovation. Pour Jaravel cependant, le problème de l’Education nationale n’est pas une question de financement, même s’il concède que des revalorisations sont nécessaires. Enfin, cette manière de ramener tous nos problèmes à des problèmes d’éducation m’énerve un peu, un peu comme s’il n’y avait qu’une seule cause à tous nos maux. 

Enfin, dans un dernier chapitre consacré à la démocratisation, Xavier Jaravel revient sur la nécessaire réduction des barrières réglementaires européennes qui rendent les marchés trop morcelés et empêchent les jeunes pousses de conquérir les marchés nationaux européens. Les startups préfèrent s’exiler aux US ou leur croissance est tout de suite plus large. L’économiste propose qu’on adopte un code du travail, du commerce et des impôts simplifiées pour les jeunes entreprises européennes – avec le risque que cela se fasse au détriment de ces 3 droits plutôt qu’au mieux disant. Il propose également de s’attaquer aux vulnérabilités des importations, celles où nous sommes extrêmement dépendants de pays extra-européens et pour lesquels nous devrions mettre en place une concertation européenne pour les lever. Enfin, il défend le développement d’organismes de délibérations en matière d’innovation. Nous ne disposons pas d’institutions adéquates alors que les citoyens doivent pouvoir orienter et façonner le changement technologique, explique-t-il en invitant à créer une enceinte citoyenne pour questionner le pluralisme algorithmique des réseaux sociaux ou la régulation de ChatGPT, mais aussi bien sûr pour décider de l’allocation de financements pour certaines innovations, notamment les moins portées par le marché. Enfin, l’économiste plaide pour une meilleure évaluation des politiques d’innovation, un soutien plus marqué au lancement et au prototypage. Mieux évaluer l’évolution des entreprises qui bénéficient de dispositifs de soutien afin de faire évoluer les dispositifs eux-mêmes, en renforçant les plus efficaces (sans que les critères de cette efficacité ne soient précisés… Parle-t-on d’une efficacité de rentabilité ? D’impact ? …). 

Il y a à boire et à manger chez Xavier Jaravel.  

Xavier Jaravel est certes nuancé et mesuré, il n’affirme jamais quelque chose sans quelques concessions. Reste qu’à le lire on a l’impression de beaucoup de pirouettes. L’économiste regarde le monde du haut d’un seul critère : l’amélioration du PIB, qui est sa vraie boussole. Les propositions sont très générales et peu ordonnées. Certes, il faut coordonner les dispositifs, mais lesquels font levier et lesquels n’en sont pas ? Même s’il a une petite phrase pour la formation professionnelle, l’angle de Jaravel semble quand même d’élargir l’accès aux formations d’excellence. Et les autres ? Et le reste ?… On ne sait pas trop. Le propos est suffisamment rond pour prêter à confusion, il part suffisamment dans des directions différentes pour être séduisant. 

Je reste pour ma part assez dubitatif. Tous nos problèmes aujourd’hui n’auraient pour seule origine que l’éducation qu’on n’a cessé de réformer et qu’on a complètement dévitalisée. Pas sûr qu’en rajouter une couche suffise pour permettre à l’innovation d’arrêter d’être fermée sur elle-même. Très surprenamment, le livre vient d’obtenir le prix du livre d’économie, qui est certainement plus la marque de l’influence de son auteur que de l’originalité de son propos. Certes, l’éducation ne peut pas rester le parent pauvre de notre système social, mais une fois qu’on a dit cela que fait-on ? Ce que nous disent les derniers chiffres de Pisa, c’est que pour améliorer notre performance éducative, nous devons nous attaquer à ce qui les mine et que les rapports dénoncent depuis longtemps : les inégalités. Depuis 2015, Pisa propose des solutions au déclassement français, à savoir améliorer la mixité des établissements et la formation des enseignants. Deux préconisations soigneusement écartées à chaque mesure post résultats Pisa, au profit d’une sélection et d’une orientation plus précoce qui renforce les inégalités scolaires, comme l’expliquait récemment Paul Devin ou le collectif Nos services publics. Xavier Jaravel dit que l’innovation passe par l’école, pourquoi pas. Mais quelle école ? Le livre n’y répond pas. 

Hubert Guillaud

Xavier Jaravel, Marie Curie habite dans le Morbihan, Démocratiser l’innovation, Le Seuil, La République des idées, 2023, 128 pages, 11,80 euros.

hubertguillaud

Renverser nos intelligences

✇Hubert Guillaud
Par : Hubert Guillaud
6 septembre 2022 à 07:50

Avec Ways of Being, Beyond Human Intelligence (Allen Lane, 2022, non traduit), James Bridle (@JamesBridle) signe un essai brillant et décalé. Il est assurément le livre d’un artiste à l’écoute du monde et de ses transformations. J’avais dit beaucoup de bien de son précédent livre, Un nouvel âge des ténèbres (Allia, 2022), lors de sa parution en anglais. J’ai toujours trouvé Bridle inspirant : que ce soit quand il nous invitait à écrire avec les machines pour composer avec elles une nouvelle esthétique, comme quand il nous alertait sur les perturbations en chaînes que produit le modèle économique de Youtube. Il sait comme nul autre mettre nos modernités en abîmes, à l’image de son fameux piège pour voiture autonome. Ce n’est pas seulement un artiste inspiré, c’est également un essayiste différent. Et cet essai, tout comme son précédent en fait une éclatante démonstration.  

Couverture du livre de James Bridle.

Ways of Being s’intéresse à un sujet très mal traité : l’intelligence. Celle des hommes, comme celle de leurs machines sont aujourd’hui dévoyées. Elles ont été mises au service de l’extractivisme et de l’efficacité. Nous sommes coincés dans un déterminisme technologique mis au services du capitalisme, dont l’IA n’est que la version la plus moderne, la plus libérale, exacerbant sa propre quête de profits. Comme le disait l’écrivain de SF, Charles Stross : “nous vivons dans un état global qui a été structuré pour le bénéfice d’entités non-humaines avec des objectifs non-humains”. Avec une IA dont le développement appartient tout entière aux entreprises, les machines n’ont plus d’autres buts que d’extraire du profit. 

Pour changer nos relations au monde, nous devons changer la façon dont nous définissons l’intelligence, estime James Bridle. Pour cela, nous devons élargir la nôtre, nous intéresser à d’autres formes d’intelligences : à des intelligences non-humaines. Pour apprendre à vivre avec le monde, plutôt que de le dominer, nous devons apprendre à vivre avec les intelligences qui le composent et construire ce qu’il appelle une “écologie de technologie”. 

L’écologie, rappelle-t-il, est l’étude des interrelations. Elle nous invite non pas à nous intéresser aux choses, mais à leurs relations. La technologie, elle, consiste à produire des choses qui ont bien souvent été aveugles à leur environnement, à leur contexte, à leurs conséquences. Pour Ursula Le Guin, la technologie est “l’interface humaine active avec le monde matériel” (comme elle le dit dans Danser au bord du monde). Dans notre monde moderne, elle est surtout le produit de notre exploitation de l’environnement. Cette technologie là n’est pas celle qui intéresse Bridle. Pour lui, nous avons besoin d’une écologie de la technologie, c’est-à-dire une technologie qui soit concernée par l’interrelation au monde, c’est-à-dire une technologie qui incorpore l’écologie dans ce qu’elle active. 

Pour y parvenir, nous devons changer notre manière même de comprendre ce qu’est l’intelligence. Nous devons arrêter de croire que l’intelligence de l’homme est unique. L’intelligence est un processus actif plus qu’une capacité, défend-il. Elle est multiple plutôt qu’unique. Pour mieux intégrer l’écologie à la technologie, nous devons nous défaire de notre intelligence, ou plutôt reconnaître qu’elle n’est pas unique, pas la seule. Nous avons besoin de mettre fin à notre volonté de nous séparer de la nature et pour cela nous devons plus que jamais comprendre que nous habitons un monde plus qu’humain. La vie résulte d’une interdépendance éminemment complexe. Pour la redécouvrir, pour repenser notre relation au monde, il nous faut changer notre manière de voir l’intelligence et la place de l’homme, tout comme changer notre rapport à la technologie que notre anthropocentrisme a créé. 

Elargir l’intelligence

Une voiture autonome est un organisme qui crée son propre umwelt, son propre environnement sensoriel. Pour Bridle, la relation entre les hommes et l’intelligence artificielle devrait relever d’une collaboration créative. Au lieu de cela, nous sommes coincés dans une forme dominante d’IA, profondément extractiviste, une intelligence artificielle d’entreprise (Kate Crawford ne disait pas autre chose). Pour Bridle, si on prend au sérieux le terme d’intelligence dans l’IA, cela devrait nous pousser à réfléchir à ce qu’elle signifie. La plus claire définition de l’intelligence selon lui, c’est “ce que les humains font”. Or, on devrait l’entendre d’une manière plus extensive, multiple et relationnelle, capable de prendre bien des formes différentes, plutôt que de toujours la juger selon nos propres standards. Pour Bridle, c’est là l’erreur de Turing, pour qui l’intelligence d’une machine a surtout consisté à être capable de nous tromper, à se faire passer pour humaine. Le problème, c’est que nous refusons d’accorder de l’intelligence à quoi que ce soit d’autre qu’humain. Bien des animaux pourtant ont montré qu’ils étaient capables de reconnaître des problèmes, de faire des plans pour les résoudre comme de manipuler des outils pour y arriver. Le test du miroir, le fait de se reconnaître dans un miroir, a longtemps été considéré comme un test d’intelligence, mais l’enfant humain ne le réussit pas avant 18 mois. Seules certaines espèces de singes le passent sans encombre, mais bien d’autres animaux y parviennent dans certaines conditions, pour autant que le test s’adapte à leur environnement et à la façon dont ils le vivent. On oublie trop souvent que le corps et ses spécificités ont des implications sur l’esprit. Voir une tâche sur son visage dans un miroir tient plus d’une compétence sociale que cognitive. Les visages n’ont pas la même importance pour toutes les espèces. Le test du miroir dit bien plus de l’obsession humaine pour le social que d’être un outil de mesure de l’intelligence. Les gorilles par exemple échouent beaucoup au test du miroir, du fait de leur aversion pour le contact visuel, considéré comme une menace… A l’inverse, des schizophrènes peinent à se reconnaître dans un miroir, cela ne signifie pas pourtant qu’ils ne soient pas humains ou intelligents. Pour Bridle, nous devons arrêter de considérer l’intelligence comme quelque chose définie par l’expérience humaine. Les intelligences non-humaines peuvent être très différentes de la nôtre, mais particulièrement retorses. Bridle documente longuement différentes sortes d’intelligences animales, allant des éléphants aux pieuvres, montrant leur diversité : comportementale, neurologique, physiologique, sociales… 

Les intelligences sont actives, génératives, et montrent que bien des espèces accordent leurs actes à leurs pensées et leurs pensées à leurs actes. “L’intelligence n’est pas quelque chose que nous devons tester, mais quelque chose que nous devons reconnaître dans les multiples formes qu’elle peut prendre”. Cela demande de nous changer nous-mêmes bien plus que d’altérer les conditions dans lesquelles on l’évalue. Pour Bridle, travailler avec une IA lui a permis de comprendre que, bien plus que d’être un outil pour exploiter la planète, elle était un moyen pour s’ouvrir à d’autres pensées, à d’autres modalités de pensées. Pour Bridle, nous devons être plus attentifs à l’écosystème dans lequel nous élevons nos IA. Pour l’instant, cet écosystème est celui de l’extraction et de la domination. “Si nous voulons qu’elle évolue différemment, nous avons besoin d’adresser différemment et d’altérer son écologie”. Le web nous a donné un outil pour comprendre le fonctionnement des réseaux. L’IA superforme nos capacités humaines par endroits. Cela devrait nous aider à ouvrir nos regards. 

Il n’y a pas que les animaux qui expriment des formes d’intelligence alternatives à la nôtre. Les plantes également, explique-t-il en enquêtant longuement sur les champignons, les arbres et les plantes, et notamment la mycorhize, cette symbiose entre plante et champignon, arbres-mères de l’écologue Suzanne Simard ou encore sur la capacité des plantes à mémoriser, et donc à apprendre et changer leur comportement face aux agressions. En fait, le terme d’intelligence est insuffisant pour décrire la diversité des modes de compréhension que les êtres vivants ont de leurs milieux, explique l’artiste-chercheur en nous invitant à franchir le fossé des différences, à nous intéresser à l’intelligence du monde avant qu’il ne s’éteigne, à un monde qui est bien plus coopératif que compétitif. Bridle s’intéresse également à notre histoire génétique, et à nos entrecroisements. Nous descendons bien moins d’un arbre, que d’entrecroisements. Nous tenons bien plus d’une symbiose que d’individus. Nous sommes ce que nous sommes à cause de tout le reste. Cette symbiose n’est pas une harmonie, mais surtout des relations et elles apportent surtout des bénéfices mutuels qu’elles ne sont antagonistes. 

Pour une autre informatique

Dans toutes ces perspectives, nos outils sont un problème, notamment parce qu’ils façonnent notre culture elle-même. Plutôt que d’utiliser la technologie pour contraindre le monde et renforcer notre perspective, nous devrions la déployer pour élargir notre vision du monde et étendre notre attention. Or, nous faisons et avons fait tout le contraire. 

Le bâton de Bambou de James Bridle.

Bridle prend l’exemple du temps. Nous l’avons harmonisé au XIXe sous le développement des technologies. Le train, la vapeur, la radio, le télégraphe ont nécessité une stricte coordination. Nous avons séparé le temps de la terre, du soleil et des saisons pour le subordonner à l’industrie afin de servir ses propres fins. Le temps aujourd’hui est imaginé et créé par nos machines qui nous poussent à le penser à leur propre vitesse. Pour Bridle, nous devons retrouver un temps qui nous aide à comprendre les changements en cours plutôt que de les accélérer. Il s’est ainsi intéressé à la vélocité du changement climatique, à quelle vitesse notre monde se transforme. Cette vélocité nous indique la vitesse à laquelle nous devrions bouger pour que les conditions dans lesquelles nous vivons restent les mêmes. Cette vitesse n’est pas la même partout. Elle est plus rapide dans les lieux humides ou les déserts. De nombreuses espèces ne pourront s’adapter au changement ni bouger suffisamment vite. La vitesse du changement climatique a été évaluée à 0,42 kilomètre par an, soit 115 centimètre par jour. C’est la taille d’un bambou peint en blanc que Bridle a posé dans son jardin (une photo est disponible dans cet article du Financial Times sur le livre de Bridle). C’est la distance que les plantes de son jardin devraient parcourir chaque jour pour pouvoir continuer à vivre dans les mêmes conditions. Fort heureusement, les plantes se déplacent : 10 à 15 km par décade ! A croire que les arbres s’adaptent au changement climatique plus vite que nous. Les plantes sont juste des animaux très lents, comme le dit le botaniste Jack Shultz. Notre mesure du temps ne nous permet pas de saisir, de penser à celle du monde. Pour cela, nous devons changer notre façon de voir. Non pas tant en distinguant les choses entre elles, comme nous l’apprend la science, mais en recherchant leurs connexions, comme nous l’apprend l’écologie. Nous avons besoin d’un macroscope plus que d’un microscope. “Nous choisissons trop souvent de regarder du mauvais côté, pas nécessairement dans la mauvaise direction, mais avec de mauvaises intentions.” Notre intention – la façon dont on choisit de regarder – informe de ce que l’on voit. 

L’internet est né de la paranoïa de la Guerre froide et de l’idéologie californienne, entre pouvoir militaire et entrepreneurial. Pas étonnant qu’ils aient produit une structure capitaliste de violence et de surveillance jusqu’au cœur même de ses fonctions et de son code. Mais nous pouvons encore le détourner, à l’image de l’utilisation de radars militaire pour l’ornithologie. Les technologies, parce qu’elles ont des capacités perceptives parfois bien supérieures à nous, peuvent nous aider à changer notre vision, à regarder le monde autrement, selon une plus grande échelle, une plus grande perspective. Bridle démultiplie les exemples de nos relations aux autres intelligences, en évoquant par exemple nos relations langagières avec d’autres espèces animales, comme notre langage est aujourd’hui contraint par celui des machines. Nous leur parlons comme nous avons toujours parlé à d’autres espèces, tentant de trouver les modalités d’une communication commune. Parler à d’autres, trouver les moyens de communiquer différents, reste un moyen d’apprendre à faire un monde plus qu’humain. Or, nos machines partagent le même langage basique, même si on les utilise souvent sans comprendre ce qu’elles font et trop souvent en acceptant sans critique le monde qu’elles nous proposent. Notre croyance dans la calculabilité est violente et destructrice, elle attribue des valeurs à ce qui peut être compté et donc décidé, oubliant tout ce que l’on ne sait pas compter. On ne produit pas de décision sur ce que l’on ne sait pas mesurer.  

Pour Bridle pourtant, l’indécidabilité n’est pas une barrière à la compréhension, mais doit être un signe, une alerte que nous touchons quelque chose. Nous pensons que tout est un problème de décision et nous traitons le monde comme quelque chose qui doit être calculé. “Nous pensons que les machines vont nous donner des réponses concrètes sur le monde, sur lequel nous allons pouvoir agir, tout en conférant à ces réponses une logique d’irréfutabilité et une impunité morale”. Au final, nous forçons le monde à se conformer à nos représentations. Les bases de données qui trient et y échouent, les marchés financiers qui se crashent et appauvrissent, les algorithmes qui surveillent et jugent… sont autant de machines de décision qui tentent de dominer le monde en en produisant des modèles pour créer des décisions basées sur ces modèles. 

Pourtant, il n’en a pas toujours été ainsi, rappelle-t-il. Le principe de la cybernétique consistait bien plus à s’adapter au monde qu’à l’anticiper et le contrôler, tout comme le cerveau n’est pas tant une machine à penser, mais une machine à agir. La cybernétique cherchait bien plus à être adaptative qu’à être pré-programmée. Nous avons produit des outils complexes qui accumulent d’incroyables quantités de connaissances sans nous permettre de résoudre le monde, au contraire. Dans nos tentatives d’assurer l’ordre et d’établir des vérités sur l’excessive complexité du monde, nos incertitudes se sont plus développées que nos certitudes, nous laissant plus paralysés, plus apeurés, plus en colère que jamais et plus démunis face à des systèmes opaques d’oppression et de contrôle. Nous devons retrouver la voie vers des machines qui nous permettent de négocier avec l’inconnu, qui se reconfigurent avec les changements sans nécessairement nous amener à comprendre la nature de ces changements, qui nous permettent de mieux nous adapter au monde plutôt que de mieux le comprendre, à l’image des propriétés de certains champignons capable de résoudre le problème du voyageur de commerce mieux que nos ordinateurs ou des formes robotiques douces, capables de s’adapter aux contraintes du monde, ou des formes d’informatiques liquides, comme ces maquettes géantes pour reproduire le Mississippi… explique Bridle depuis des exemples toujours variés et étranges. Pour lui, l’enjeu n’est pas que l’informatique rende le monde connaissable, mais qu’elle permette de mieux le partager plutôt que de mieux se l’approprier, de faire que les systèmes demeurent lisibles par tous plutôt que seulement par quelques-uns, à l’image du Moniac, un ordinateur hydraulique imaginé pour faire comprendre l’économie. “Tous les ordinateurs sont des simulateurs. Ils intègrent des modèles abstraits de certains aspects du monde que nous mettons en route – en oubliant immédiatement qu’ils sont des modèles. Nous les prenons pour le monde lui-même. On peut faire le même constat avec notre propre conscience, notre propre umwelt. Nous nous trompons sur nos perceptions immédiates comme si elles étaient le monde tel qu’il est – alors que notre attention consciente est un modèle sur le moment (…). Notre modèle interne du monde, notre conscience, façonne le monde de la même façon et de façon aussi puissante que le fait un ordinateur. Nous essayons de faire que le modèle ressemble au monde et que le monde ressemble au modèle (…). D’abord nous modélisons le monde puis nous tentons de remplacer le monde par le modèle. Nos esprits aussi, sont des machines de simulation qui deviennent des machines à décider (…). La bonne question à se poser alter est plutôt quelles sont les caractéristiques des modèles – et donc des machines – qui rendent le monde meilleur ?” En fait, éclaire-t-il très justement, nous produisons tout le temps des modèles que nous éprouvons jusqu’à leur limite, jusqu’à ce qu’un autre produise un autre modèle, plus éclairant… Comme si par nature, dans ces modèles, notre compréhension du monde était toujours imparfaite.

Leviers pour une écologie des technologies

Pour y parvenir, Bridle nous invite donc à construire nos machines autrement, selon d’autres principes et pour d’autres objectifs. Bridle plaide pour des machines non-binaires, décentralisées et sans-savoirs (unknowing). Non-binaires, c’est-à-dire qui ne puissent jamais être capables de couper le monde en deux catégories, qui ne produisent jamais de simplifications trop excessives pour mieux nous aider à penser la complexité. Décentralisées, c’est-à-dire qui ne puissent être centralisées, et donc être toujours scrutées et critiquées, comme l’open source, c’est-à-dire capables de changer la topographie même des relations de pouvoir. Enfin, sans-savoirs signifie reconnaître les limitations de ce que nous pouvons connaître et le traiter avec respect plutôt que de chercher à l’ignorer ou l’effacer, c’est-à-dire produire des machines capables de se réviser et de se réécrire depuis leurs propres erreurs ou capables de gérer des formes d’incertitudes, à l’image du Roachbot du designer Garnet Hertz, où un cafard contrôle un petit robot mobile (entraîné à le faire, mais pas dominé pour le faire). 

Pour Bridle, ces nouvelles machineries auxquelles il aspire visent à démanteler les formes extractivistes et de domination de nos machinations actuelles : de créer des machines qui ne visent pas à prendre le dessus sur d’autres, de favoriser des formes coopératives, de libération et d’empuissantement mutuelles. Mettre fin à nos tentatives à dominer le monde, comme nous l’avons fait avec nos machines, en brisant le monde en composants que nous avons rassemblés dans des machines pour assouvir cette domination. En nous demandant comment tout fonctionne, nous tentons de subordonner ce tout à nos seules fins et nous avons utilisé la connaissance pour oppresser et supprimer l’agentivité des autres, de tous les autres… sans voir qu’à terme, c’est notre propre autonomie que nous rendons impossible. 

James Bridle mobilise encore d’autres leviers pour cette nouvelle écologie des technologies : l’aléatoire, la solidarité et l’interconnexion. 

Il y a une chose que nos machines savent très mal faire, c’est de produire de l’aléatoire. C’est pourtant ce que nous savons très bien faire, à l’image du klérotèrion, cette machine à tirage au sort de la démocratie athénienne, qui nous rappelle que l’aléatoire, le tirage au sort, sont à la racine même de l’égalité radicale. Incapables de produire de l’aléatoire, nos machines sont donc incapables d’être de réels agents d’égalité. Pour nos ordinateurs, l’aléatoire est généré par des programmes qui le simulent. Bridle rappelle longuement l’histoire de ces simulations. En fait, les ordinateurs ne sont pas capables de produire de l’aléatoire sans aide extérieure. Pour y parvenir, on les connecte à diverses sources d’incertitudes, comme la mesure des fluctuations de l’atmosphère. Pour Bridle, l’importance de l’aléatoire a toujours été sous-évaluée. Darwin lui-même a surévalué le rôle de la sélection naturelle alors que sans production de modifications aléatoires des gènes, cette sélection n’aurait pas lieu. Dans la nature, les mutations sont la règle plus que l’exception. L’essentiel de nos outils technologiques visent pourtant à réduire voire à nier l’aléatoire. Ils cherchent bien plus à réduire le hasard qu’à l’étendre. Nos outils, du GPS aux systèmes de prévision météo visent avant tout à limiter le hasard et l’incertitude. Pour Bridle, l’aléatoire et le hasard sont de bons leviers pour réintégrer l’incalculable, tout comme le tirage au sort en politique permet d’élargir les points de vues et les expériences pour produire de meilleures réponses à la complexité. 

L’aléatoire n’est pas la seule piste que nous devrions utiliser. La solidarité est également un levier. D’abord parce qu’elle est une activité politique première : à l’image de l’entraide qu’évoquait Kropotkine, elle est un lien entre la coopération et la réciprocité. La solidarité et la sociabilité sont parmi les plus forts moteurs de nos actions et nous montrent que nous partageons un monde commun. La cohésion sociale montre combien elle est critique pour assurer la survie collective. En ce sens, elle est une forme de politique en pratique que pratiquent même les animaux (là, Bridle explique et pointe vers des études passionnantes sur comment les abeilles, les pigeons ou les bisons prennent des décisions en commun !). La solidarité avec le vivant, sa défense et la reconnaissance de ses droits, sont autant de moyens de renforcer nos liens avec le monde, de l’inclure plus que de le dominer. Même chose pour les machines. “La bonne action ne dépend pas tant de la pré-existence de la bonne connaissance – une carte des rues ou une hiérarchies des vertues ) que de prévenance et d’attention”, explique-t-il en parlant des voitures autonomes. C’est le même problème qu’on trouve dans le dilemme du Trolley, rappelle-t-il. En nous focalisant sur le résultat, le problème ignore les décisions qui y mènent, c’est-à-dire la culture qui nous y conduit. Il nous rappelle que nous ne pouvons pas contrôler toutes les conséquences, mais qu’on peut travailler à changer notre culture. Pour le dire autrement : les processus technologiques comme l’intelligence artificielle ne construiront pas un monde meilleur par eux-mêmes. Ce à quoi ils doivent nous aider, c’est à mettre à nu le fonctionnement moral d’un monde plus qu’humain auquel nous aspirons. L’attention sur les dilemmes éthiques cache toujours des problèmes plus larges : plus politiques que ce à quoi ils sont réduits. Mettre la solidarité au cœur de notre relation avec la technologie permet là encore de modifier nos attitudes, et notamment de combattre l’opacité et la centralisation qui sont au centre de leurs développements actuels. C’est la raison d’être d’une écologie des technologies. Pour y parvenir, nous devons élargir notre regard, nous invite à nouveau Bridle, comme si c’était là le mantra principal de l’artiste. Il termine son livre en nous racontant comment s’est développé un internet des animaux, qui n’est pas un internet pour les animaux, mais comment les technologies ont été adaptées pour élargir notre compréhension des animaux. Il évoque l’histoire de la surveillance radio des animaux sauvages, comme les loups, qui ont changé notre compréhension de ce que nous pensions être leur territoire et de leurs interconnexions avec d’autres communautés de leurs semblables. Des découvertes qui ont changé notre approche de la préservation animale, à l’image du programme Y2Y d’extension du parc de Yellowstone, né d’une coopération entre loups, chercheurs et satellites. L’attention à la vie plus qu’humaine exige que nous pensions au-delà de nos sens et sensibilités, pour tenter d’imaginer l’umwelt des autres êtres vivants. Pour cela, nous devons travailler de concert. L’internet plus qu’humain doit nous mener à co-créer le futur au-delà de nous-mêmes. Nous devons écouter le monde plutôt que le disséquer. Nous ne saurons pas tout pour autant. Les animaux et le monde que nous devons mieux écouter ont également un droit à être laissé tranquille, comme nous nous attribuons à nous même le droit à l’oubli. Pour Bridle, l’ennemi n’est pas la technologie, mais les inégalités et la centralisation de pouvoir et de connaissance qu’elle produit. “Il y a d’autres moyens pour faire de la technologie, comme il y a d’autres moyens pour faire de l’intelligence et de la politique. La technologie, après tout, est seulement ce que nous pouvons apprendre à faire”. 

On pourrait presque conclure ici, l’étonnant livre de James Bridle. Pourtant, dans sa conclusion, Bridle nous retourne à nouveau le cerveau en évoquant les fermes à métal. Les fermes à métal consistent à cultiver certaines variétés de plantes (les plantes hyperaccumulatrices) capables de pousser dans des sols riches en métaux, pollués, qui utilisent ces métaux pour pousser et le stockent dans leurs feuilles ou leurs racines. Non seulement elles nettoient les sols, mais ce métal peut également être récolté, avec une concentration qui est parfois plus riche que la concentration de métaux qu’on trouve dans la terre elle-même. On parle désormais d’Agromining ! Bien sûr, reconnait Bridle, cette production ne suffira jamais à combler nos besoins : elle est peu efficace et très lente. Mais pour Bridle, il y a là un exemple de plus à porter à sa thèse. La géo-ingénierie traditionnelle qui consiste à démultiplier un comportement prédateur devrait pouvoir imaginer sa propre refondation. Notre futur commun nécessite bien moins de superpuissance industrielle et bien plus de coopération avec le monde tel qu’il existe… Encore faut-il que nous nous y intéressions avant qu’il ne disparaisse. C’est ce à quoi nous invite le regard décalé de Bridle. 

Si le livre de Bridle prend parfois des accents de gourou, son livre agite des rencontres improbables, nous invite à dépasser nos idées et nos expériences… A certains, le livre de Bridle paraîtra anecdotique, déconnecté des réalités. Et il l’est en partie. Comment croire une seconde que l’avenir de l’informatique doit suivre l’exemple de robots-cafards, doit s’ouvrir à l’incertain ? Mais de l’autre, la voix qu’il fait entendre et la voie qu’il trace nous rappellent un problème de fond : le déploiement d’un modèle informatique unique est une impasse profonde. Prenons au moins l’appel de Bridle pour ce qu’il est ! Celui d’appeler à une plus grande diversité de l’informatique comme un projet nécessaire, essentiel… qui mériterait plus d’intérêt en tout cas qu’un simple déni. Aux autres, plongez dans l’étonnement, vous ne le regretterez pas !

Hubert Guillaud

A propos du livre de James Bridle, Ways of Being, Beyond Human Intelligence (Allen Lane, 2022, non traduit). 

MAJ d’octobre 2023 : Le livre de James Bridle a depuis été traduit sous le titre, Toutes les intelligences du monde : animaux, plantes, machines, Le Seuil, “La couleur des idées”, 2023, 464 pages, 25 euros.

Technofantasme et technopanique sont les deux faces d’une vision d’un monde vide de sens

✇Hubert Guillaud
Par : Hubert Guillaud
5 décembre 2023 à 07:16

Vous voulez un vrai conseil ? Ne perdez pas votre temps avec le livre de Mustafa Suleyman, La déferlante ; Intelligence artificielle, pouvoir : le dilemme majeur du XXIe siècle (Fayard, 2023, 384 pages) !

Couverture de la Déferlante.

Comme Irénée a fait le job du résumé, je peux me permettre d’être plus critique. La déferlante de Mustafa Suleyman est d’un vide abyssal. On aurait pu croire que le livre du fondateur de DeepMind et de Partnership on AI serait une réflexion documentée et mesurée sur l’IA, ses enjeux, sa technique. Il n’en est rien. Le livre est un long, confus et insipide discours sur l’arrivée inéluctable de la convergence technologique, d’un monde exponentiel, proche des pires délires de Yuval Harari, de Azeem Azhar ou de Kai Fu-Lee. Non seulement on n’apprend rien mais le propos du livre est ennuyeusement répétitif puisque chaque section de chaque chapitre ânonne la même chose : à savoir que les technologies émergentes sont extrêmement dangereuses et que l’humanité ne peut pas s’en passer. Enfermé dans cette confusion et cette ambivalence, Suleyman nous explique, en soufflant le chaud et le froid en permanence, que nous n’avons pas d’autres choix que de prendre la route d’un progrès dangereux, pas d’autres choix que de surfer sur la vague d’une déferlante technologique “inéluctable”. Cette déferlante technologique ne recouvre d’ailleurs pas seulement l’IA, mais convoque toutes les technologies émergentes et convergentes (biologie de synthèse, informatique quantique, robotique…).  

A mon sens, le livre montre surtout la grande confusion qui règne dans les esprits de ce milieu des grands entrepreneurs, adeptes d’un technomessianisme qui n’a pas tant pour objet de changer le monde comme ils l’annoncent que d’accroître leurs profits et leurs pouvoirs, comme l’expliquait le sociologue Olivier Alexandre dans l’analyse qu’il faisait de ce milieu. Ici, le propos est particulièrement schizophrénique, puisque Suleyman ne cesse de décrire les conséquences des technologies à venir comme tragiques et délétères, tout en annonçant qu’il serait pire encore de s’en passer. Suleyman ne trouve aucune ligne de crête entre ces deux précipices qu’il alimente de leurs promesses et de ses inquiétudes. Pour lui, ces technologies sont trop puissantes et peuvent armer n’importe qui pour faire n’importe quoi – sans vraiment critiquer le fait qu’elles arment déjà des acteurs, notamment des entreprises trop puissantes. La puissance même de ces technologies, en concentrant leur pouvoir dans quelques mains, favorise l’autoritarisme. Elles font planer des menaces de bouleversement des conditions économiques, sociales, politiques… allant de la désinformation en passant par la fin du travail… tout en promettant d’améliorer nos vies (la santé principalement). Dans un sens, comme dans l’autre, les démonstrations peinent à convaincre. Chez Suleyman, la modification de cellules devient la modification de l’homme, un bras robotique qui fonctionne devient des bataillons de robots partout dans nos vies, cultiver des cellules de viande devient des assembleurs moléculaires capables de composer tout et n’importe quoi à la volée… La déferlante est une bouillie de technopromesses, pour lesquelles il n’y a ni limites planétaires, ni problème énergétique à terme, puisque celles-ci résoudront ceux-là. Quant aux technopaniques, le risque principal que dénonce Suleyman, est que ces technologies transfèrent du pouvoir à tous et donc à n’importe qui. Les menaces qu’il évoque sont celles d’attaques et de manipulations isolées, qu’elles soient le fait de drones robots, de chimie de synthèse ou d’IA… Le fait qu’elles transfèrent du pouvoir à certains, et notamment aux plus puissants, semble un danger bien moindre, avec lequel nous devrons composer. Les risques que portent cette déferlante technologique reposent donc sur le fait qu’elles soient capables de transférer du pouvoir à tous, sans limites, permettant de tout faire parce que polyvalents (c’est pour l’instant assez faux me semble-t-il, nous avons surtout des outils très spécialisés) et bien sûr autonomes (mais là encore, cette autonomie n’est jamais relativisée, alors que ces systèmes nécessitent beaucoup d’humains pour fonctionner et que leurs autonomies sont surtout limitées aux buts et valeurs avec lesquels ont les encode). 

A lire cette déferlante, on a pleinement l’impression d’être coincés dans une voie sans issue. La seule boussole de Suleyman sur l’avenir de l’IA est particulièrement pauvre puisqu’elle consiste à dire que son avènement vise à réaliser une nouvelle machine à profit ! L’avenir de l’IA autonome explique-t-il, consiste à créer une “intelligence artificielle capable” de gagner 1 million de dollars en lui en confiant 100 000 ! C’est très révélateur de la façon dont ce milieu perçoit l’IA et la convergence : un outil de pouvoir, un outil capitaliste de plus, une machine à produire du profit. Je ne vois pas bien ce qu’on va pouvoir endiguer avec cette vision du monde pour ma part ! C’est plutôt cette vision du monde qu’on devrait endiguer ! 

Suleyman a la pensée politique d’une huître. Il a beau se défendre de ne pas être libertarien et promouvoir des régulations, le manque d’ossature de son discours, très politique pourtant, laissera le lecteur assez consterné. Je ne sais pas s’il faut le ranger dans les optimistes ou les catastrophistes, dans les accélérationnistes ou les prêcheurs de l’altruisme effectif… Pour ma part, je ne comprends pas grand-chose aux distinguos abscons de ces courants “tescreal“, qui semblent surtout très pauvres, produire beaucoup de confusion et être le signe de beaucoup de contradictions. Comme le dit Kenan Malik dans le Guardian, “Il existe peu d’outils utiles aux humains qui ne puissent également causer du tort. Mais ils causent rarement du mal par eux-mêmes ; ils le font plutôt à travers la manière dont ils sont exploités par les humains, en particulier ceux qui détiennent le pouvoir”. Pour Suleyman, l’avenir n’est qu’un problème technique. Mais c’est là une réflexion typique de ceux qui détiennent le pouvoir, qui considèrent plus facilement que les problèmes sont techniques plutôt que sociaux, sont pour demain plutôt qu’aujourd’hui. Dans Wired, Timnit Gebru remarquait que les tenants de la philosophie de l’endiguement étaient très liés aux prophètes de l’apocalypse de l’IA qui sont les mêmes que les prophètes de son accomplissement. Technofantasme et technopanique sont les deux faces d’une vision d’un monde vide de sens… et qui ne nous en promet aucun. 

Irénée Régnauld a raison de pointer que ce qu’on entend en creux dans le discours de Suleyman, c’est un discours fataliste qui vise à rendre toute rébellion inutile : “Ce n’est pas tant la technologie qu’il s’agit de contenir, mais la violence et la remise en cause de rapports de force et d’écarts de richesses qui ne changeront pas”. Derrière son discours à la fois alarmiste et confiant, Suleyman nous invite surtout à nous habituer à la brutalité que produit la tech. Alors certes, on peut être tout à fait d’accord avec lui sur ses conclusions, c’est-à-dire promouvoir un endiguement (terme qui paraît plus acceptable que régulation), mais elles restent tellement généralistes et convenues face aux risques apocalyptiques décrits (renforcer la sécurité, auditer pour contrôler, renforcer la responsabilité sociale des entreprises, construire des alternatives, réguler, …) qu’elles semblent d’avance dévitalisées. Mais surtout, comme le disait déjà Bernadette Bensaude-Vincent, reléguer la politique à la seule régulation est finalement un moyen pour ne lui laisser qu’un strapontin dans la décision. A lire Suleyman, on a l’impression que les discours sur les cycles technologiques à venir se polarisent pour tenter de ne pas s’épuiser. J’ose espérer qu’ils produiront surtout le contraire tant ils ne mènent nulle part.

Hubert Guillaud

9782213726687-001-x

hubertguillaud

Résoudre les biais n’est pas si simple !

✇Hubert Guillaud
Par : Hubert Guillaud
28 novembre 2023 à 07:21

Pour AlgorithmWatch, le journaliste John Albert (@jaalbrt) a enquêté sur la façon dont Meta vient de proposer de résoudre un de ses biais algorithmique récurrent, à savoir le fait que la publicité ciblée désavantage certaines catégories de publics en ne proposant pas certains produits à certains publics, par exemple, des offres immobilières à certains publics de couleurs selon leur localisation, des offres d’emplois de camionneurs à des femmes… Un biais documenté depuis longtemps et qui a donné lieu à des poursuites des autorités américaines, dès 2019 par le ministère du logement américain, qui avait conduit Facebook a débrancher certaines catégories du ciblage publicitaire, comme l’âge, le genre, le sexe ou les caractéristiques éthniques ou religieuses de certains types de publicités, notamment celles consacrées au logement, à l’emploi et au crédit. En juin 2022, Facebook avait réglé ce différend en acceptant de payer une amende (115 000$) et en s’engageant à développer un système pour débiaiser les publicités immobilières. 

Car la disparition des catégories de ciblage de la population ne suffit pas : l’algorithme publicitaire de Facebook est capable de comprendre que les femmes cliquent moins sur les publicités proposant un emploi de camionneur et donc ne pas le leur proposer. Il reproduit et amplifie ainsi les biais existants en désavantageant certains publics déjà marginalisés. Or, cette discrimnation automatisée est illégale puisque le droit interdit la discrimination, notamment sur des critères protégés comme la race, l’âge ou le sexe. La difficulté, bien sûr, c’est que cette discrimination est particulièrement invisible, puisque les gens qui pourraient contester l’inéquité de la diffusion publicitaire n’y ont absolument pas eu accès, puisqu’ils ne voient même pas les pubs qu’ils auraient du voir ! 

Pour corriger les biais, il faut pouvoir les mesurer !

Suite à ce règlement, Meta a donc créé et déployé un nouvel algorithme, un “système de réduction de la variance” (VRS) pour tenter de limiter les biais de ses algorithmes d’apprentissage automatique dans son système de ciblage et de diffusion publicitaire. “Au lieu d’optimiser les clics, le VRS est conçu pour optimiser la “précision” égale de la diffusion des publicités sur les publics cibles éligibles. Une fois qu’une publicité est vue par suffisamment d’utilisateurs, le VRS mesure l’âge global, le sexe et la “répartition estimée de la race ou de l’origine ethnique” de ceux qui ont déjà vu la publicité et les compare avec le public éligible plus large qui aurait pu potentiellement voir la publicité, puis ajuste ensuite la diffusion des annonces en conséquence”. En gros, Meta corrige ses biais en regardant ses biais de diffusion. Super ! me direz-vous ! Sauf que ce n’est pas si simple car les biais de diffusion dépendent justement de la diffusion et des moyens pour la mesurer et la corriger, et cela varie beaucoup d’une catégorie d’annonce l’autre, d’un territoire où elle est diffusée l’autre. 

La Une du rapport du German Marshall Fund sur le risque d’audit-washing des systèmes.

Un rapport de conformité produit par le cabinet Guidehouse affirme que le VRS de Meta fonctionne comme prévu. Mais les lacunes du rapport rendent ces affirmations difficiles à vérifier, estime John Albert pour AlgorithmWatch. En fait, les publicités discriminatoires continuent de sévir sur Facebook dans des domaines autres que le logement, ainsi que dans d’autres pays que les Etats-Unis comme les pays européens, où il est peu probable que le VRS soit mis en œuvre, notamment parce que le système de correction n’est pas si simple à mettre en oeuvre, on va le voir. 

Pour Daniel Kahn Gillmor, défenseur de la vie privée et technologue à l’ACLU, ce rapport très technique montre que Guidehouse n’a pas eu accès aux données de Meta et n’a accompli son travail que depuis des résultats fournis par Meta. Pour le chercheur Muhammad Ali, un des auteurs de l’étude de 2019 qui avait conduit à dénoncer le problème du ciblage publicitaire discriminatoire sur Facebook, il y a un vrai effort derrière le VRS, mais la correction est particulièrement complexe et particulièrement limitée puisqu’elle ne s’appliquera qu’aux annonces de logement. Si Meta a annoncé vouloir l’appliquer aux annonces portant sur l’emploi et le crédit, il est peu probable qu’il s’étende à d’autres catégories et au-delà des Etats-Unis, car le VRS pour appliquer ses corrections sur les annonces immobilières doit mobiliser des données spécifiques, en l’occurrence les données du recensement américain afin de calculer l’origine ethnique des audiences publicitaires selon leur localisation pour les corriger ! Pour chaque correction des publics, il faut pouvoir disposer de correctifs ! Un système de ce type ne pourrait pas fonctionner en Inde par exemple, où il n’y a pas de données géolocalisées sur les castes par exemple, ou en France où l’on ne dispose pas de données ethniques. Corriger les biais nécessite donc de fournir les systèmes en données générales, par exemple des données sur l’origine ethniques des populations qui ne sont pas disponibles partout. Sans compter que ces corrections qui visent à réduire les écarts de performance entre groupes démographiques risquent surtout de produire un “égalitarisme strict par défaut”, qu’une forme d’équité.

Enfin, il y a d’innombrables autres biais dans les catégories de publics que ces systèmes produisent à la volée, par exemple quand une personne est identifiée comme s’intéressant aux jeux d’argent et de paris en ligne et qui va être sur-sollicitée sur ces questions, au risque de renforcer ses dépendances plutôt que de le protéger de ses vulnérabilités (ou d’autres vulnérabilités, comme le montrait The Markup, quand ils analysaient les catégories de la plateforme publicitaire Xandr – j’en parlais là), et l’amplification des biais risque d’être encore plus forte et plus difficile à corriger quand les publics cibles sont particulièrement spécifiques. Sans compter que finalement, c’est le but du ciblage publicitaire de produire des catégorisations et donc de la discrimination : ainsi quand on cherche à montrer une annonce à des cibles ayant tel niveau de revenu, c’est bien à l’exclusion de tous les autres (pour autant que ce ciblage fonctionne, ce qui est bien plus rarement le cas qu’énoncé, comme je l’évoquais en observant les troubles du profilage). 

Selon la loi européenne sur les services numériques, les plateformes ne sont plus autorisées à cibler des publicités en utilisant des catégories de données “sensibles”, comme la race, le sexe, la religion ou l’orientation sexuelle et doivent atténuer les risques systémiques découlant de leurs services. Reste que l’approche extrêmement fragmentaire de Meta pour atténuer les biais, tels que le propose le VRS, risque d’être difficile à appliquer partout, faute de données permettant de corriger les biais disponibles. Le débiaisage pose la question de quelles corrections appliquer, comment les rendre visibles et jusqu’où corriger ?

Plutôt que des rapports, protéger les chercheurs !

Cette analyse sur comment Meta peine à débiaiser a d’autres vertus que de nous montrer les limites intrinsèques du débiaisage. Elle permet également de constater que la réponse réglementaire n’agit pas au bon niveau. En effet, si le DSA européen prévoit que les plateformes se soumettent à des audits indépendants – à l’image de ce que vient de produire Guidehouse pour Meta en contrôlant comment les plateformes se conforment à l’obligation d’identifier et d’atténuer les risques et les discriminations -, le risque est fort que ce contrôle produise beaucoup d’audit-washing, les plateformes définissant les normes de leurs contrôles (et pour l’instant chacune le fait différemment), choisissant leurs auditeurs et produisant les données qu’elles souhaitent partager. Pour l’instant, nous sommes confrontés à des mesures d’audit mal définies qui risquent surtout d’être mal exécutées, expliquent dans un rapport sur le sujet pour le German Marshall Fund, les spécialistes Ellen Goodman et Julia Trehu en rappelant les règles de l’audit et en pointant l’exemplarité du cadre d’audit définit par la cour des comptes hollandaise lors de l’inspection de plusieurs algorithmes utilisés par les services publics. Les spécialistes insistent sur la nécessité de fournir un cadre, des normes, des critères de certification établies par un régulateur pour garantir la qualité des audits. 

La liste et les rapports de transparence des grandes plateformes compilées et rendues accessibles par TechPolicyPress.

Or, comme l’explique très pertinemment John Albert, les rapports de conformité ne remplacent pas un examen externe. A terme, nous risquons surtout d’être inondés de rapports de conformités tous plus complexes les uns que les autres, à l’image des rapports sur la transparence des plateformes que vient de recueillir la commission européenne qui ne nous apprennent pas grande chose et ne semblent pas un levier pour changer les choses (on a appris seulement le nombre de modérateurs officiels des plateformes, comme l’explique le Monde, ou encore les catégories de modérations… mais, comme le souligne TechPolicyPress, aucun rapport n’évoque d’autres questions inscrites au DSA européen, comme des informations sur comment les plateformes interdisent la publicité aux enfants, comment elles comptent faciliter la possibilité de se désinscrire des systèmes de recommandation, ou quelles solutions de partages de données avec la recherche ou les autorités comptent-elles mettre en place. Aucune non plus n’a mis en place d’audit des risques systémiques).  Comme l’explique la journaliste Gaby Miller dans un autre article de TechPolicyPress, la commission européenne devrait envisager d’expliciter les lignes directrices des informations qu’elle attend de ces rapports, afin qu’ils puissent être plus comparables entre eux.

Le caractère très limité des informations fournies par les plateformes ne suffiront pas. “La neutralité supposée des plateformes dépend de notre capacité à les surveiller”, disions-nous. Il faut pouvoir se doter d’audits contradictoires, véritablement indépendants, capables de tester les systèmes algorithmiques des plateformes, de mesurer et de réagir aux problèmes. Pour cela, il faut que ces grandes entreprises permettent aux chercheurs de chercher, de collecter des données, de recruter des utilisateurs pour produire des mesures indépendantes et ce n’est pas ce à quoi nous assistons actuellement, où les plateformes se ferment bien plus à la recherche qu’elles ne s’y ouvrent ! Pour cela, il faudrait que les autorités offrent des protections aux chercheurs, insiste John Albert : “Tant que nous n’aurons pas mis en place des protections légales pour les chercheurs d’intérêt public et que nous n’aurons pas sécurisé les voies d’accès aux données des plateformes, nous serons obligés de nous occuper des auto-évaluations et des rapports d’audit des plateformes. Un flot de ces rapports est en route. Mais ces mesures ne remplacent pas une recherche véritablement indépendante, essentielle pour tenir les plateformes responsables des risques que leurs services font peser sur la société.”

Hubert Guillaud

ai-audit-washing-and-accountability-german-marshall-fund-of-the-united-states

hubertguillaud

Résoudre les biais n’est pas si simple !

✇Hubert Guillaud
Par : Hubert Guillaud
28 novembre 2023 à 07:21

Pour AlgorithmWatch, le journaliste John Albert (@jaalbrt) a enquêté sur la façon dont Meta vient de proposer de résoudre un de ses biais algorithmique récurrent, à savoir le fait que la publicité ciblée désavantage certaines catégories de publics en ne proposant pas certains produits à certains publics, par exemple, des offres immobilières à certains publics de couleurs selon leur localisation, des offres d’emplois de camionneurs à des femmes… Un biais documenté depuis longtemps et qui a donné lieu à des poursuites des autorités américaines, dès 2019 par le ministère du logement américain, qui avait conduit Facebook a débrancher certaines catégories du ciblage publicitaire, comme l’âge, le genre, le sexe ou les caractéristiques éthniques ou religieuses de certains types de publicités, notamment celles consacrées au logement, à l’emploi et au crédit. En juin 2022, Facebook avait réglé ce différend en acceptant de payer une amende (115 000$) et en s’engageant à développer un système pour débiaiser les publicités immobilières. 

Car la disparition des catégories de ciblage de la population ne suffit pas : l’algorithme publicitaire de Facebook est capable de comprendre que les femmes cliquent moins sur les publicités proposant un emploi de camionneur et donc ne pas le leur proposer. Il reproduit et amplifie ainsi les biais existants en désavantageant certains publics déjà marginalisés. Or, cette discrimnation automatisée est illégale puisque le droit interdit la discrimination, notamment sur des critères protégés comme la race, l’âge ou le sexe. La difficulté, bien sûr, c’est que cette discrimination est particulièrement invisible, puisque les gens qui pourraient contester l’inéquité de la diffusion publicitaire n’y ont absolument pas eu accès, puisqu’ils ne voient même pas les pubs qu’ils auraient du voir ! 

Pour corriger les biais, il faut pouvoir les mesurer !

Suite à ce règlement, Meta a donc créé et déployé un nouvel algorithme, un “système de réduction de la variance” (VRS) pour tenter de limiter les biais de ses algorithmes d’apprentissage automatique dans son système de ciblage et de diffusion publicitaire. “Au lieu d’optimiser les clics, le VRS est conçu pour optimiser la “précision” égale de la diffusion des publicités sur les publics cibles éligibles. Une fois qu’une publicité est vue par suffisamment d’utilisateurs, le VRS mesure l’âge global, le sexe et la “répartition estimée de la race ou de l’origine ethnique” de ceux qui ont déjà vu la publicité et les compare avec le public éligible plus large qui aurait pu potentiellement voir la publicité, puis ajuste ensuite la diffusion des annonces en conséquence”. En gros, Meta corrige ses biais en regardant ses biais de diffusion. Super ! me direz-vous ! Sauf que ce n’est pas si simple car les biais de diffusion dépendent justement de la diffusion et des moyens pour la mesurer et la corriger, et cela varie beaucoup d’une catégorie d’annonce l’autre, d’un territoire où elle est diffusée l’autre. 

La Une du rapport du German Marshall Fund sur le risque d’audit-washing des systèmes.

Un rapport de conformité produit par le cabinet Guidehouse affirme que le VRS de Meta fonctionne comme prévu. Mais les lacunes du rapport rendent ces affirmations difficiles à vérifier, estime John Albert pour AlgorithmWatch. En fait, les publicités discriminatoires continuent de sévir sur Facebook dans des domaines autres que le logement, ainsi que dans d’autres pays que les Etats-Unis comme les pays européens, où il est peu probable que le VRS soit mis en œuvre, notamment parce que le système de correction n’est pas si simple à mettre en oeuvre, on va le voir. 

Pour Daniel Kahn Gillmor, défenseur de la vie privée et technologue à l’ACLU, ce rapport très technique montre que Guidehouse n’a pas eu accès aux données de Meta et n’a accompli son travail que depuis des résultats fournis par Meta. Pour le chercheur Muhammad Ali, un des auteurs de l’étude de 2019 qui avait conduit à dénoncer le problème du ciblage publicitaire discriminatoire sur Facebook, il y a un vrai effort derrière le VRS, mais la correction est particulièrement complexe et particulièrement limitée puisqu’elle ne s’appliquera qu’aux annonces de logement. Si Meta a annoncé vouloir l’appliquer aux annonces portant sur l’emploi et le crédit, il est peu probable qu’il s’étende à d’autres catégories et au-delà des Etats-Unis, car le VRS pour appliquer ses corrections sur les annonces immobilières doit mobiliser des données spécifiques, en l’occurrence les données du recensement américain afin de calculer l’origine ethnique des audiences publicitaires selon leur localisation pour les corriger ! Pour chaque correction des publics, il faut pouvoir disposer de correctifs ! Un système de ce type ne pourrait pas fonctionner en Inde par exemple, où il n’y a pas de données géolocalisées sur les castes par exemple, ou en France où l’on ne dispose pas de données ethniques. Corriger les biais nécessite donc de fournir les systèmes en données générales, par exemple des données sur l’origine ethniques des populations qui ne sont pas disponibles partout. Sans compter que ces corrections qui visent à réduire les écarts de performance entre groupes démographiques risquent surtout de produire un “égalitarisme strict par défaut”, qu’une forme d’équité.

Enfin, il y a d’innombrables autres biais dans les catégories de publics que ces systèmes produisent à la volée, par exemple quand une personne est identifiée comme s’intéressant aux jeux d’argent et de paris en ligne et qui va être sur-sollicitée sur ces questions, au risque de renforcer ses dépendances plutôt que de le protéger de ses vulnérabilités (ou d’autres vulnérabilités, comme le montrait The Markup, quand ils analysaient les catégories de la plateforme publicitaire Xandr – j’en parlais là), et l’amplification des biais risque d’être encore plus forte et plus difficile à corriger quand les publics cibles sont particulièrement spécifiques. Sans compter que finalement, c’est le but du ciblage publicitaire de produire des catégorisations et donc de la discrimination : ainsi quand on cherche à montrer une annonce à des cibles ayant tel niveau de revenu, c’est bien à l’exclusion de tous les autres (pour autant que ce ciblage fonctionne, ce qui est bien plus rarement le cas qu’énoncé, comme je l’évoquais en observant les troubles du profilage). 

Selon la loi européenne sur les services numériques, les plateformes ne sont plus autorisées à cibler des publicités en utilisant des catégories de données “sensibles”, comme la race, le sexe, la religion ou l’orientation sexuelle et doivent atténuer les risques systémiques découlant de leurs services. Reste que l’approche extrêmement fragmentaire de Meta pour atténuer les biais, tels que le propose le VRS, risque d’être difficile à appliquer partout, faute de données permettant de corriger les biais disponibles. Le débiaisage pose la question de quelles corrections appliquer, comment les rendre visibles et jusqu’où corriger ?

Plutôt que des rapports, protéger les chercheurs !

Cette analyse sur comment Meta peine à débiaiser a d’autres vertus que de nous montrer les limites intrinsèques du débiaisage. Elle permet également de constater que la réponse réglementaire n’agit pas au bon niveau. En effet, si le DSA européen prévoit que les plateformes se soumettent à des audits indépendants – à l’image de ce que vient de produire Guidehouse pour Meta en contrôlant comment les plateformes se conforment à l’obligation d’identifier et d’atténuer les risques et les discriminations -, le risque est fort que ce contrôle produise beaucoup d’audit-washing, les plateformes définissant les normes de leurs contrôles (et pour l’instant chacune le fait différemment), choisissant leurs auditeurs et produisant les données qu’elles souhaitent partager. Pour l’instant, nous sommes confrontés à des mesures d’audit mal définies qui risquent surtout d’être mal exécutées, expliquent dans un rapport sur le sujet pour le German Marshall Fund, les spécialistes Ellen Goodman et Julia Trehu en rappelant les règles de l’audit et en pointant l’exemplarité du cadre d’audit définit par la cour des comptes hollandaise lors de l’inspection de plusieurs algorithmes utilisés par les services publics. Les spécialistes insistent sur la nécessité de fournir un cadre, des normes, des critères de certification établies par un régulateur pour garantir la qualité des audits. 

La liste et les rapports de transparence des grandes plateformes compilées et rendues accessibles par TechPolicyPress.

Or, comme l’explique très pertinemment John Albert, les rapports de conformité ne remplacent pas un examen externe. A terme, nous risquons surtout d’être inondés de rapports de conformités tous plus complexes les uns que les autres, à l’image des rapports sur la transparence des plateformes que vient de recueillir la commission européenne qui ne nous apprennent pas grande chose et ne semblent pas un levier pour changer les choses (on a appris seulement le nombre de modérateurs officiels des plateformes, comme l’explique le Monde, ou encore les catégories de modérations… mais, comme le souligne TechPolicyPress, aucun rapport n’évoque d’autres questions inscrites au DSA européen, comme des informations sur comment les plateformes interdisent la publicité aux enfants, comment elles comptent faciliter la possibilité de se désinscrire des systèmes de recommandation, ou quelles solutions de partages de données avec la recherche ou les autorités comptent-elles mettre en place. Aucune non plus n’a mis en place d’audit des risques systémiques).  Comme l’explique la journaliste Gaby Miller dans un autre article de TechPolicyPress, la commission européenne devrait envisager d’expliciter les lignes directrices des informations qu’elle attend de ces rapports, afin qu’ils puissent être plus comparables entre eux.

Le caractère très limité des informations fournies par les plateformes ne suffiront pas. “La neutralité supposée des plateformes dépend de notre capacité à les surveiller”, disions-nous. Il faut pouvoir se doter d’audits contradictoires, véritablement indépendants, capables de tester les systèmes algorithmiques des plateformes, de mesurer et de réagir aux problèmes. Pour cela, il faut que ces grandes entreprises permettent aux chercheurs de chercher, de collecter des données, de recruter des utilisateurs pour produire des mesures indépendantes et ce n’est pas ce à quoi nous assistons actuellement, où les plateformes se ferment bien plus à la recherche qu’elles ne s’y ouvrent ! Pour cela, il faudrait que les autorités offrent des protections aux chercheurs, insiste John Albert : “Tant que nous n’aurons pas mis en place des protections légales pour les chercheurs d’intérêt public et que nous n’aurons pas sécurisé les voies d’accès aux données des plateformes, nous serons obligés de nous occuper des auto-évaluations et des rapports d’audit des plateformes. Un flot de ces rapports est en route. Mais ces mesures ne remplacent pas une recherche véritablement indépendante, essentielle pour tenir les plateformes responsables des risques que leurs services font peser sur la société.”

Hubert Guillaud

❌
❌