Egalité Numérique

Cet article a pour objectif de résumer en quelques pages un livre récent  trés dense (250 pages): « Pour une nouvelle culture de l’attention » (Stefana Broadbent, Florian Forestier, Mehdi Khamassi, Célia Zolynski) aux éditions Odile Jacob.

Voir le descriptif sur le catalogue des éditions Odile Jacob

Ce livre décrit en détail les ressorts cognitifs et psychosociaux utilisés par les algorithmes et le marketing digital pour nous cerner, nous orienter, nous soustraire des données contre notre gré… avec un cadre légal à repenser.
Quatre chercheurs croisent les apports des sciences cognitives, du design, de la philosophie et du droit pour proposer une véritable régulation de la question attentionnelle. »

Introduction
Objectif de ce document
Cet article a pour objectif de résumer en quelques pages un livre récent  trés dense (250 pages): « Pour une nouvelle culture de l’attention » (Stefana Broadbent, Florian Forestier, Mehdi Khamassi, Célia Zolynski) aux éditions Odile Jacob. 
Les phrase en « .. » sont des extraits de ce livre. Nous avons rajouté des éléments résumant le contexte. 
Présentation générale du livre  : « Notre temps de cerveau se monnaye sur Internet : à l’ère des contenus personnalisés, de la publicité ciblée et des agents conversationnels, sommes-nous devenus des biens consommables dans le marché de l’attention ?
Les plateformes peuvent-elles nous manipuler pour orienter nos décisions ? La captation de notre attention n’est pas seulement un risque personnel pour notre temps, nos enfants ou notre argent. C’est aussi une menace démocratique : les libertés et le vivre-ensemble sont compromis par des logiques sournoises qui nous épuisent, polarisent les points de vue et appauvrissent notre expérience du monde.
Ce livre décrit en détail les ressorts cognitifs et psychosociaux utilisés par les algorithmes et le marketing digital pour nous cerner, nous orienter, nous soustraire des données contre notre gré… avec un cadre légal à repenser.
Quatre chercheurs croisent les apports des sciences cognitives, du design, de la philosophie et du droit pour proposer une véritable régulation de la question attentionnelle.

Contexte actuel du numérique

En préambule rappelons 3 éléments de contexte : 

« Big data » et  « les données personnelles »

En préalable, soulignons l’existence des processus d’élaboration de « profil internet » pour chacun d’entre-nous par des systèmes complexes qui conditionnent l’action d’internet sur notre vie.  Il faut impérativement souligner que nos « données personnelles » alimentent ces systèmes complexes (utilisant les concepts de « big data » et d’algorithmes), systèmes dont l’objectif est l’obtention de revenus pour certains, et la captation de votre temps et capacité de réflexion sur le monde, pour vous faire adhérer ou agir dans le sens voulu par les bénéficiaires de ces systèmes.
Ces publicités et messages hyper ciblées peuvent être intrusives, et parfois même trompeuses pour le consommateur, et promouvoir des produits, des services, des idées qui nous éloignent de nos valeurs. Le temps que nous passons à être agressé par la publicité et divers messages ayant pour but de nous faire (ré)agir est du temps en moins pour bien vivre.  

Fonctionnement des Plateformes

 

Par plateforme, nous utilisons le concept analogue à celui de l'Europe de "plateforme contrôleur d'accès" à internet:

« Comme l’a montré le scandale des Facebook papers révélés par la lanceuse d’alerte France Haugen, les plateformes connaissent parfaitement les effets délétères de leurs pratiques : Les études internes de Facbook montraient parfaitement le mal-être induit par Instagram chez les adolescents, en lien avec une mauvais image de leur propre corps » (page 12). 
Soulignons l’environnement immersifs de ces plateformes avec des interfaces à travers lesquelles j’accède aux autres, et à toutes sortes d’interactions, et d’informations. Les caractéristiques de ces interfaces sont étudiées pour activer certaines fonctions spécifiques de notre cerveau : l’écran qui défile sans fin, les notifications, les récompenses sociales, dans certains cas la lumière bleue qui étourdit un peu… 
Deux points du contexte de l’usage des plateformes peuvent soulignés : 
1.    Côté incitatif de l’usage intensifs des plateformes car toujours à portée de main (smartphone…) et accessible 24h sur 24, apportant des services utiles très performants comme rencontrer vos amis, faire vos courses….
2.    Méconnaissance du fonctionnement réel d’un réseau par l’utilisateur : Seule la société à qui appartient le réseau sait comment il fonctionne réellement, le contenu des algorithmes qui nous proposent du contenu, qui fabrique notre profilage individuel…

L’inévitabilité de la « vague » technologique qui arrive ?

Nous faisons référence dans ce paragraphe en particulier à l’ouvrage de Mustafa Suleyman ‘The coming wave, Technology, power and the 21st century’s greatest dilemma’ (Crown, 2023), et au concept de NBIC (L’acronyme NBIC signifie : Nanotechnologie, Biotechnologie, Informatique et Cognition). 
Plusieurs spécialistes discutent du constat suivant aujourd’hui :
-    un « ensemble de technologies … surgissent au même moment, propulsé par une ou plusieurs nouvelles technologies à usage général, avec des implications sociales fortes. » (p. 26 de l’ouvrage cité ci-dessus) 
-    "l’aveuglement des élites politiques et, à certains égards, entrepreneuriales, incapables de percevoir les risques considérables que cette déferlante implique, toutes coincées qu’elles sont dans leur aversion au pessimisme".
-    les raisons qui poussent à tout automatiser, et cette « convergence NBIC » peut être interprétée comme une représentation matérielle d’un système économique qui exploite les ressources et les corps, jusqu’à plus soif pour la recherche du profit, moteur du système économique libéral.

Première partie : Problématique et enjeux de l’économie de l’attention

Théories de l’attention, fonctionnement du cerveau, et exemples de moyens pour capter notre attention
Pour bien comprendre la nature des actions des réseaux sociaux et diverses plateformes internet et reprendre le contrôle de notre attention, ci-dessous un rappel de quelques éléments théoriques sur les processus de l’attention et de fonctionnement du cerveau. (Pour aller plus loin, voir les chapitres 1, 2 et 3 du livre pour approfondir et compléter les points cités ci-dessous, points qui ne sont pas exhaustifs)
Quelques éléments théoriques sur les processus de l’attention et de fonctionnement du cerveau
« Malebranche (Philosophe du 16ème siècle) qualifie l’attention de « prière naturelle par laquelle nous obtenons que la raison nous éclaire »…. « L’attention est un effort » écrit Simone Weil.

 

Le détournement de notre "attention"

L’attention produite par notre volonté (endogène), et celle suscitée par l’extérieur (exogène)
L’attention, « d’un point de vue de la psychologie, … consiste à sélectionner le ou les éléments de notre environnement sur lesquels focaliser les traitements d’information opérés par notre cerveau… ». On fait aujourd’hui plutôt la distinction entre l’attention endogène (qui vient de l’intérieur ; produite par notre volonté), et l’attention exogène (suscité par l’extérieur, comme un élément saillant comme un pop-up à l’écran attire soudain notre attention). 
« l’attention conjointe » et la dimension sociale de l’attention
Porter à deux une même attention sur un même objet est un exercice d’attention, mais aussi d’apprentissage de la vie collective. Le chapitre 2 (page 41-47) développe ce thème.
« La capacité de se coordonner à l’attention d’autrui a été identifiée comme un constituant important de l’intersubjectivité. Cette faculté, nommée « attention conjointe », est en particulier un élément précurseur … au développement de la coopération. ».    
Citons aussi des extraits des pages 28 à 29 du livre cité en introduction.
« En effet, on apprend d’autrui à focaliser notre attention sur les bons éléments, ce qui en retour, renforce nos capacités à collaborer en affûtant notre aptitude à ce qu’on appelle l’attention conjointe. Or celle-ci permet de mieux appréhender les intentions de l’autre, de mieux comprendre lorsqu’on échange : bref, elle est un constituant majeur de la socialisation, de la transmission culturelle, donc ultimement aussi, des processus démocratiques ».

 

Les attaques de notre agentivité
L’attention, en particulier perceptive ou motrice, est intégré aux processus du « contrôle exécutif », et  au maintien de notre « agentivité »
« La focalisation de l’attention est tributaire de tout un réseau d’aires cérébrales. Celui-ci régule tout aussi bien l’attention perceptive (qui sélectionne les stimuli à traiter) que l’attention motrice (qui sélectionne un geste en préparation) …  Ces résultats … montrent que l’attention n’est pas un processus indépendant, mais bien un processus intégré, impliquant des processus de contrôle exécutif et de planification de l’action, dont le rôle s’étend bien au-delà du seul mécanisme de sélection de l’information. »
Le « contrôle exécutif » (évoqué page 36, 37 et 38) incluent diverses fonctions et capacités rassemblées sous cette appellation. Celles-ci incluent :
-    « La capacité de hiérarchiser les priorités et de mettre en séquence une série d’action… [à travers les processus] « de création et de maintien de l’information la plus pertinente pour arriver à l’objectif, de maintien de l’attention sur ce qu’on veut atteindre ».
-    « les processus d’inhibition des autres comportements plus familiers, mais inappropriés pour le contexte actuel … ».
« L’agentivité correspond à la capacité à agir sur le monde, donc à produire des effets causaux sur lui par nos propres actions… Pour que l’action volontaire puisse se produire, il faut que l’agent se sente en contrôle de ses actions et qu’il connaisse les effets probables de ses actions… 
Tout l’enjeu est donc de retrouver un sentiment d’agentivité dans nos interactions avec les interfaces numériques ».
Remarque : Par exemple, lors de recherche sur internet, nous n’avons pas beaucoup de connaissance des effets probables de nos requêtes… en particulier par la méconnaissance des algorithmes qui pilotent les moteurs de recherches, et les réseaux sociaux. Pas facile de retrouver un sentiment d’agentivité dans nos interactions avec ces interfaces numériques ! 

Fatigue de l’attention, perte de l’attention
« … nous avons besoin de réduire la quantité d’informations que notre cerveau peut traiter à chaque instant, pour être efficace dans les tâches que nous réalisons…. « L’attention […] est nécessaire à la plupart de nos activités quotidiennes » et qu’elle est « un ingrédient clef de l’efficacité humaine. La fatigue de l’attention [volontaire] est similairement un ingrédient de l’inefficacité et des erreurs humaines »  
(Extraits des pages 24 à 27 du livre cité en introduction).
« Le monde du numérique offre en effet des possibilités démultipliées de capter notre attention, de l’interrompre, de la capter. La multiplication des stimuli suscite alors de l’effort pour résister aux distracteurs… Les sollicitations incessantes des interfaces numériques (messages, vidéos, notifications, etc.), sans pause de ‘restauration de notre attention’, aggravent le phénomène de fatigue intentionnelle. Or la fatigue de notre attention dans le monde numérique a des incidences sur notre façon d’agir. ». Plusieurs impacts de la fatigue de l’attention ont été démontrés : 
•    Une baisse de l’efficacité de notre mémoire à long terme, 
•    la multiplication des fautes d’inattention, d’erreurs humaines
•    L’augmentation de la probabilité de repartager de fausses informations sur les réseaux sociaux sans en vérifier la véracité ni les sources. En effet, cette démarche de vérifier la véracité et les sources d’information est prenante (« time consuming ») et exigeante, pas dans l’esprit d’une interaction rapide avec Internet. 

Captation attentionnelle et addiction 
« Une approche qui est en train d’émerger pour appréhender la façon dont les réseaux sociaux et les applications numériques capturent notre attention, consiste à assimiler celle-ci aux stratégies des casinos, de l’industrie du tabac, en encore de l’industrie alimentaire avec les aliments sucrés ».

« Nir Eyal, un des anciens étudiants de Fogg [Brian Jeffrey Fogg, directeur du Laboratoire des technologies persuasives de Standford], qui a ensuite conçu pendant plusieurs années des publicités placées sur Facebook, est l’auteur de ‘Hooked : How to build habit-forming products’ (‘Accroché : comment construire des produits addictifs’) »
Mais attention de ne pas exagérer. Le design des interfaces avec leur façon d’influencer nos comportements et nos habitudes peut ne pas susciter automatiquement d’addiction à proprement parler. Mais il faut cependant, lors de l’analyse des réactions d’addiction et de compulsion, souligner ce rôle du design des interfaces et des systèmes dans la captation de l’attention. »

Exemples de moyens-techniques, pour capter notre attention, utilisés par les plateformes numériques

Interfaces trompeuses (« dark pattern »)

Ce paragraphe cite quelques exemples issus du livre objet de cet article, et n’est pas exhaustif.
Interfaces trompeuses (« dark pattern »)
Cette pratique « interfaces trompeuses » (procédés manipulatoires) est interdite depuis la mi-février par le règlement européen DSA : prix barrés mensongers, incitations répétitives, message mentionnant une stock limité (piège de l’urgence)… dont la pertinence est invérifiable.
Pour aller plus loin sur ce sujet d’interfaces trompeuses, voir le rapport de Que Choisir « DARK  PATTERNS DANS L’E-COMMERCE /  LES INTERFACES TROMPEUSES SUR LES PLACE DE MARCHE EN LIGNE» de juin 2024.

 Nudge et boost 

« Le nudge (« coup de coude »)  ou « coup de pouce » en français), vise à inciter des individus ou l'ensemble d'un groupe humain à changer tels comportements ou à faire certains choix sans les mettre sous contrainte, obligation ni menace de sanction. Cette méthode d’influence est qualifiée de « paternalisme libertarien » car elle permet aux individus de faire leurs choix sans coercition. Elle a été mise en lumière, en 2008, par Richard Thaler et Cass Sunstein dans leur livre Nudge : Améliorer les décisions concernant la santé, la richesse et le bonheur. » extrait wikipédia  lien : https://fr.wikipedia.org/wiki/Theorie_du_nudge  Des critiques à cette approche « nudge » dans le numérique sont apparus : 
•    « De nombreux nudges sont mis en place pour influencer de façon inconsciente et automatique nos comportements » sans apporter vraiment une aide à comprendre, « permettant à l’usager de délibérer consciemment avant de décider »,
•    « Des variantes des nudges, appelés des sludges, sont utiliser pour décourager, même dissuader les utilisateurs d’obtenir un service ou même un remboursement auquel ils ont droit »

La méthode appelé "boost" consiste en des interventions et outils cognitifs qui visent « à préserver l’autonomie décisionnelle des utilisateurs en les rendant plus réflexifs et conscients à l’égard des choix qu’ils font ».

Il apparaît donc souhaitable de « favoriser les capacités réflexives et délibératives de l’usager en privilégiant le principe du boost à celui du nudge ».

 "Friction" : disposition qui freine les actions automatiques de l'utilisateur, éléments d'interfaces qui permettent une reconnaissance facile des actions à accomplir 

« La facilité d’usage, l’ergonomie des interfaces peut avoir un effet manipulateur, car « le manque de ‘friction’ de certaines interactions, c’est-à-dire qu’il n’est rien qui freine les actions automatiques comme l’ajout en un clic d’un élément à un panier en ligne, le scrolling sur les réseaux sociaux, le défilement de vidéos, etc., permettent d’effectuer des tâches sans avoir à se focaliser sur elles… diminuent le contrôle volontaire et engendre une certaine perte de conscience sur nos actions qui peut se transformer en augmentation du temps passé sur ces activités ou même en exécution d’activités non réfléchies. »
L’élimination de toute ‘friction’ peut donc être considérée comme un risque majeur de perte d’agentivité.

Intelligence artificielle (IA) :

L’IA peut exacerber les techniques de capture et d’exploitation de notre attention par l’hyperpersonnalisation des messages et l’optimisation des mécanismes émotionnelles annulant notre agentivité. 
« Serge Tisseron résume les enjeux de ces nouvelles formes de « conversations personnalisées avec chacun d’entre nous » : « l’attention morcelée suscités aujourd’hui chez les utilisateurs du Net, va […] se substituer une relation nouvelle de l’homme à ces technologies numériques : de longue conversation suscitant un éventail d’émotions large et varié, nourri par l’illusion d’une présence réelle, attentive et chaleureuse…. Différents risques ont d’ores et déjà pu être identifiés et analysées, notamment par la CNIL (Avis sur les assistant vocaux 2021 »)

     Le marketing s’intéresse à notre attention : « emotion-driven advertising »

« …contextes dans lesquels les décisions humaines semblent « irrationnelles » (selon le paradigme dominant en économie) au sens où elles ne sont pas mues par un souci d’optimiser son utilité monétaire ». « La captation de l’attention pose donc des questions concernant notre liberté de choix, non seulement via son influence sur les automatismes et les émotions, mais sur la manière de biaiser directement nos choix… ». « Le marketing numérique est aujourd’hui un enjeu majeur dont les risques ne sont pas encore bien mesurés ». 
« En ligne, que les gens accèdent à l’information par les moteurs de recherche ou les médias sociaux, leur accès est régulé par des algorithmes et des choix de conception faits par des entreprises à la recherche du profit et avec peu de transparence ou de contrôle public ». 

L’économie de l’attention 

Le concept d’économie de l’attention (page 9 du livre et Chapitre 6 page 85 et suivantes) « désigne un pan de la théorie économique : la façon dont l’attention -à laquelle les économistes appliquent le modèle de « biens rares » - est monétisée et valorisée par la publicité, les industries culturelles » . « L’attention est le plus grand enjeu économique du XXI siècle » affirme J-P Lachaux (2015)  ans son livre ""Le cerveau funambule. Comprendre et apprivoiser son attention grâce aux neurosciences (édition Odile Jacob).

Les auteurs du livre insiste sur la nécessité d’un politique publique pour « cultiver l’intention, c’est-à-dire de préserver, protéger, soutenir les capacités individuelles et collectives à la mettre en œuvre, à l’instaurer, la maintenir, la développer ». 

Paradigme économique 
On peut rapprocher la logique des réseaux sociaux et ceux de diverses plateformes sur internet à des entreprises de captation de « temps de cerveau humain disponible », en analogie à la phrase célèbre de Patrick LE LAY en 2004 PDG de TF1 : « Ce que nous vendons à Coca-Cola, c’est du temps de cerveau humain disponible. » cité dans Philosophie et modernité (2009) d’Alain Finkielkraut.
La captation de l’attention « est constitutive d’un paradigme économique dans lequel le marché, aux prises à des biens trop nombreux, s’appuient sur ces nouveaux intermédiaires mi-entreprises, mi faiseurs de marché, que sont les grandes plateformes, Facebook (Meta) ou Amazon

 
Les conséquences néfastes de l’économie de l’attention
Les conséquences de cette "économie de l'attention" sont principalement de 4 ordres  : 
-    En matière de liberté : Les interfaces de ces systèmes « peuvent masquer nos réelles possibilités d’agir ou orientent nos décisions, et restreignent peu à peu notre autonomie »
-    En matière de santé, citons « les processus compulsifs et addictifs … en jeux »
-    En matière d’écologie, la consommation énergétique de tous les algorithmes, matériels et infrastructures numériques, et l’incitation à la surconsommation ne vont pas dans le sens du respect des principes écologiques.
-    En matière de démocratie, ces systèmes pour certains « sapent l’apprentissage du débat contradictoire au profit du clash et de la violence verbale sur Internet. En effet, ces processus de captation de l’attention… ont tendance à favoriser les contenus choquants et les fausses informations, à polariser les utilisateurs, et à réduire leur capacité à comprendre d’autres points de vue, et même à le vouloir. L’économie de l’attention atrophie notre capacité à partager des idées, des objets d’intérêt, à échanger, bref, appauvrit notre expérience du monde ».

Les concepts de sociologues et d’historiens

Le chapitre 7 aborde des aspects plus conceptuels en sociologie et histoire en abordant « deux grandes théories qui interrogent notre modernité dans son ensemble. La théorie de l’accélération d’une part ; la pensée technique de Bernard Steigler d’autre part ». Ces points ne sont pas traités dans cet article.

 

Deuxième partie : Reprendre le contrôle de notre attention 

Cette 2ème partie du livre cité en introduction propose des pistes d’actions : Nous citons ci-dessous quelques recommandations  (sans être exhaustif) :

Favoriser la réflexivité et notre capacité à prendre des décisions conformes aux objectifs que nous nous fixons. 
Citons par exemple le programme #marquonsunepause de l’ONU. Dans le cadre de l’initiative « Vérifié », l’ONU a lancé la campagne #MarquonsUnePause qui encourage les citoyens à réfléchir avant de partager une information sur les réseaux sociaux. « Vérifié »( Verified), une initiative des Nations Unies lancée en mai 2020 pour communiquer des informations sanitaires accessibles et scientifiquement fondées dans des formats convaincants et partager des histoires de solidarité mondiale autour de la COVID-19. 

Favoriser et promouvoir des pratiques d’attention conjointe
Dance ce chapitre 13, les auteurs évoquent l’intérêt pour les pouvoirs publics de soutenir des processus de collaboration, de e-gouvernement et de e-participation, la mise en commun et le développement de connaissance, avec des tentatives de plateforme d’intelligence collective comme Wikipedia et Openstreetmap. 

Promouvoir une politique publique de formation des internautes
Une telle politique publique de formation des internautes sur le management de l’attention, les techniques d’accroissement de notre réflexivité, le paramétrage des plateformes, la cyber malveillance...  est en particulier nécessaire pour « cultiver l’intention, c’est-à-dire de préserver, protéger, soutenir les capacités individuelles et collectives à la mettre en œuvre, à l’instaurer, la maintenir, la développer ». 

Donner la Possibilité de paramétrage des plateformes aux utilisateurs
Possibilité pour laisser le choix aux utilisateurs de défendre leurs intérêts en priorité à celui des plateformes  : 
•    Rendre ce paramétrage simple et ergonomique
•    Proposer un paramétrage par défaut dans l’intérêt de l’internaute 
(pas celui de la plateforme concernée)
•    Et plus généralement redonner du contrôle à l’utlisateur.

Renforcer la régulation des plateformes : 
Laisser aux plateformes la prérogative de la régulation semble illusoire lorsqu’elles ont intérêt à retarder le plus possible les régulations. Rappelons la publication en 2021 de documents internes à Facebook par la lanceuse d’alerte Frances Haugen. Facebook avait ignoré les signaux internes montrant qu’Instagram décuple le mal-être chez de nombreux adolescents qui n’ont pas une bonne image d’eux-mêmes. Il s’agit alors de penser un dispositif ne reposant pas sur la seule volonté des plateformes, mais associant étroitement la société civile, suivant des processus démocratiques, inspiré par exemple des règles régissant l’espace publique (droit d’affichage). Pour aller plus loin, voir le livre de S.Abiteboul et J.Cattan (2022) « Nous sommes les réseaux sociaux » aux édition Odile Jacob. 
Prenons un exemple : Sur le moteur de recherche d’Amazon, en tapant le mot « Covid », vous voyez lister de très nombreux ouvrages complotistes dont le titre accrocheur est de vous les faire acheter, et non pas vous informer. Amazon a pour objectif le profit, pas l’information objective. 
Pour certains états et plateformes, se réfugier derrière un « droit mou » via des chartes et code de conduite permet de défendre leur intérêt économique. 

Développer l’interopérabilité entre les systèmes donnant à l'utilisateur la possiblité d'en sortir
« L’interopérabilité est la capacité d’un système informatique à fonctionner avec d’autres produits ou systèmes d’informations existants. ». Dans le chapitre 13 du livre objet de cet article, la recommandation sous-jacente est d’offrir à l’utilisateur la possibilité de sortir d’un environnement d’un opérateur afin de rejoindre un nouvel environnement (par exemple quitter un réseau social pour en rejoindre un autre plus respectueux de se valeurs, en récupérant (téléchargeant) sous un format numérique interopérable des données, par exemple des données médicales, ou données liées à l’énergie…). Le règlement européen RGPD article 20 est une ouverture vers ces possibilités. Cette capacité serait à renforcer dans le cadre de règlement européen ou nationaux. 

 

Pour aller plus loin 
•    Lire le livre « Pour une nouvelle culture de l’attention » (Stefana Broadbent, Florian Forestier, Mehdi Khamassi, Célia Zolynski) aux éditions Odile Jacob.
•    Voir le site "dans les algorithmes" : https://danslesalgorithmes.net/2024/07/02/du-marketing-a-leconomie-numerique-une-boucle-de-predation/ 

Articles individuels