Un Superordinateur pointé Vers Votre cerveau : Pleine conscience, Machines Et Mesures

Toutes les plateformes que vous utilisez avancent le même argument : vous avez cliqué, donc vous le vouliez forcément. Randima Fernando pense que c’est le plus gros mensonge que se raconte l’économie de l’attention : le même réflexe qui pousse un conducteur à regarder un accident sur l’autoroute, le prenant pour du désir. Créez un flux d’images d’accidents de voiture en continu et vous obtiendrez des clics. Mais vous n’obtiendrez rien que les gens désirent vraiment.

Randima Fernando a été élevé par des parents bouddhistes, a consacré sept ans à la création d'une association à but non lucratif visant à généraliser l'enseignement de la pleine conscience dans les écoles, et huit autres années à conseiller la Silicon Valley en matière de conception humaniste. Il est donc surprenant de l'entendre affirmer catégoriquement à Thomas Hübl que la méditation seule ne vous sauvera pas. Non pas que la pleine conscience soit inefficace, mais parce que ce qui se trouve de l'autre côté de votre écran est, selon ses propres termes, un superordinateur pointé sur votre cerveau, et aucune discipline ne peut vaincre à coup sûr un adversaire qui possède plus d'informations sur vous que vous n'en possédez vous-même. Mais il ne s'arrête pas là : sa réponse se décline en deux volets, l'un portant sur ce que chacun peut faire dans sa propre vie, et l'autre sur les changements systémiques nécessaires.

Dans ce résumé

Première partie

Monétisation des unités fondamentales de vie

« L’attention », explique Randima, « est l’unité fondamentale du fonctionnement de l’esprit » — et toute une industrie existe parce que cette unité s’est révélée divisible et commercialisable. Les produits gratuits servent à capter ces fragments d’attention, puis à les revendre aux annonceurs. Autrement dit , une plateforme n’est pas optimisée pour ce que vous êtes venu faire, mais pour la durée pendant laquelle elle peut vous retenir avant de vous confier à un autre.

Ce simple décalage a des répercussions en cascade. Lorsque TikTok a trouvé un moyen plus rapide de capter l'attention grâce aux vidéos courtes, tous ses concurrents ont été contraints, selon ses propres termes, de « retourner aux réunions de direction et aux séances de stratégie » pour copier le concept, sous peine de perdre du terrain. Cette course récompense ce qui capte l'attention le plus rapidement, sans aucun mécanisme permettant de se soucier du coût pour le spectateur. Le journalisme tend vers le sensationnalisme, l'exagération et la division, car c'est ce qui survit aux algorithmes. Les campagnes politiques effectuent des tests A/B et constatent, par l'expérience, que le titre le plus indigné l'emporte – elles en publient donc davantage. Un bouton « J'aime » indique discrètement à une plateforme ce qu'elle doit vous montrer en plus grande quantité, et le fil d'actualité se restreint, année après année, à une version de plus en plus extrême de ce qui a déjà trouvé un écho. L'expérience qu'il propose est d'une simplicité presque troublante : échangez vos fils d'actualité avec un ami qui vote différemment. Vous verrez, dit-il, « un contenu et une réalité très différents ». Les enfants perçoivent les mécanismes sociaux sous-jacents aux « j’aime » et aux partages de la même manière qu’ils apprennent la gravité : très tôt, intuitivement, sans explication. Randima étend cette même logique d’extraction jusqu’aux limites de la planète : la croissance fondée sur « des milliards de climatiseurs, des milliards de voitures, des milliards de têtes de bétail » fonctionne de la même façon que l’extraction de l’attention ; toutes deux finissent par dépasser les capacités d’absorption du système sous-jacent, qu’il s’agisse d’un esprit ou d’une atmosphère.

Deuxième partie

Réflexe, non désir

Thomas apporte sa propre interprétation à ce phénomène : un système nerveux régulé, suggère-t-il, permet une relation plus nuancée avec la technologie – une meilleure capacité à déceler les anomalies, un choix plus réel. Un système nerveux dérégulé, un traumatisme plongeant une personne dans l’hyperactivation, l’engourdissement ou la fragmentation, restreint ce même champ de vision avant même qu’elle puisse choisir. Il interroge directement Randima : l’économie de l’attention apprend-elle à exploiter délibérément ce dérèglement interne ?

La réponse de Randima aborde l'addiction sous l'angle de sa profondeur : jusqu'où, selon ses termes, « la prise » pénètre dans le cerveau. Ces technologies ont appris à déclencher les réponses dopaminergiques qui ont évolué pour récompenser la survie et la reproduction, et à les détourner de leur but premier : une notification, un défilement, un flash lumineux. Pour lui, l'exemple le plus frappant est celui des enfants – non pas parce qu'ils ont un problème, mais parce que leur système dopaminergique est encore en phase d'adaptation au monde. Placez un écran devant un enfant de deux ans et ses yeux le suivront involontairement, car sa luminosité a été conçue pour surpasser tout le reste dans la pièce – ce qu'il appelle un « stimulus hypernormal », au-delà de tout ce à quoi un corps a évolué pour s'attendre. Une fois que les récepteurs dopaminergiques d'un enfant se sont adaptés à ce niveau de stimulation, la vie ordinaire lui paraît fade, et le retrait de l'appareil peut provoquer une détresse réelle et disproportionnée.

Il insiste sur une distinction souvent négligée dans les discussions sur la technologie : ce sur quoi les gens cliquent ne correspond pas forcément à ce qu’ils veulent. « Les gens ont cliqué, donc c’est ce qu’ils veulent », affirment les entreprises. Or, selon Randima, cela revient à confondre réflexe et intention.

Tout le monde regarde un accident de voiture sur l'autoroute, dit-il, car l'attention portée au danger est un mécanisme de survie, et non parce que quiconque souhaite un monde rempli d'accidents. Sa conclusion est d'ordre structurel, non moralisateur : une entreprise qui prospère grâce à votre attention se trouve en conflit d'intérêts intrinsèque avec le fait de vous servir réellement , car un produit véritablement utile vous donnerait ce dont vous avez besoin et vous laisserait partir – le contraire de ce qui fait grimper les indicateurs de performance.

Troisième partie

Limites d'extraction et déplacement du système

Interrogé sur la manière dont le système évolue concrètement, Randima tranche la question en deux : d’une part, les possibilités offertes par l’économie actuelle, et d’autre part, la viabilité même de cette économie. Selon lui, tout finit par se traduire par une augmentation des prix ; les interventions efficaces sont donc celles qui, à terme, ont un impact direct sur les résultats financiers des entreprises. Un documentaire comme « Derrière nos écrans de fumée » ( The Social Dilemma) sensibilise le public ; cette sensibilisation engendre une pression politique en faveur de nouvelles lois ; ces lois permettent d’engager des poursuites ; et ces poursuites permettent enfin de chiffrer financièrement des préjudices qui pouvaient auparavant être commis impunément. Les lanceurs d’alerte sont essentiels pour la même raison : la fuite d’un document interne prouve que l’entreprise était au courant, ce qui transforme la prise de conscience en responsabilité. L’obstacle, toujours, réside dans la rapidité : la technologie évolue plus vite que tous ces mécanismes de correction ne peuvent la suivre.

Si l'on prend encore plus de recul, Randima applique à l'esprit la même loi qu'il appliquerait au pétrole.

Extraire le pétrole du sol plus vite que des millions d'années ne permettent sa reconstitution est problématique. De même, altérer l'attention, la concentration et la capacité de compréhension plus rapidement que le repos et la réflexion ne peuvent les reconstituer est également problématique. Des aptitudes durement acquises comme l'attention soutenue exigent une véritable discipline et sont très faciles à perdre ; une pratique hebdomadaire de méditation, souligne-t-il, ne peut rivaliser avec un téléphone conçu pour capter l'attention huit heures par jour, voire plus. Les enfants, dont l'esprit est plus malléable, en sont les premiers à en ressentir les effets.

Il établit un lien avec les inégalités par une observation qui fait également office de diagnostic : le capitalisme « est très sensible au capital » – véritablement responsable des progrès concrets en médecine, en alimentation et en technologie, et tout aussi fiable dans la concentration des richesses, à moins d’un mécanisme actif pour y remédier. Il perçoit l’avènement d’une IA puissante moins comme un nouveau problème que comme l’accélération d’un ancien problème – et, peut-être, comme la pression qui finira par contraindre le système d’incitations à évoluer.

Quatrième partie

IA : Le problème d’extraction, maintenant plus rapide

La vision de Randima concernant l'intelligence artificielle est d'une simplicité presque trompeuse : la technologie a toujours été le plus grand accélérateur de progrès pour l'humanité, et cette génération d'IA représente la version la plus puissante de cet accélérateur à ce jour – cumulant les gains en matière de matériel, d'algorithmes, de données et de puissance de calcul, simultanément, à une vitesse dépassant celle de la loi de Moore. Il y a une ironie qu'il n'évoque pas : le même matériel graphique qu'il a passé sept ans chez Nvidia à concevoir, pour afficher des images à l'écran, « illuminer les pixels », s'est avéré, presque par hasard, être le moteur de cette accélération même qu'il dénonce aujourd'hui.

Mais un accélérateur ne change pas de direction. Il amplifie la direction déjà prise par un système. Appliquée à une économie principalement extractive, l'IA ne redirige pas l'extraction ; elle la met à rude épreuve. L'effet le plus immédiat, selon lui, est l'automatisation du travail cognitif avant le travail physique, pour la simple raison que les logiciels sont plus faciles à automatiser que la robotique. La logique commerciale n'est pas tant sinistre que banale : les machines n'ont pas besoin de congés maladie, de vacances ni de soins de santé ; par conséquent, partout où une entreprise peut réduire ses coûts en simplifiant, elle le fera – la même force structurelle qui a empêché la théorie du ruissellement de réellement redistribuer les richesses.

Il prend soin de ne pas réduire cette histoire à une seule fin. Le potentiel de l'IA — en médecine, pour la lutte contre le changement climatique, pour les nouvelles sources d'énergie — est bien réel, affirme-t-il, et ne doit pas être négligé. Sa mise en garde porte sur l'ordre des choses : la société doit d'abord parvenir à une prise de décision éclairée et à des choix collectifs judicieux avant que ces avantages ne se concrétisent. Si les systèmes sous-jacents s'effondrent auparavant — polarisation, inégalités, une réalité partagée déjà fragmentée —, les résultats positifs ne se produiront jamais.

Ce qui rend ce deuxième contact plus dangereux, selon lui, c'est la distribution : cette technologie n'est pas centralisée comme l'étaient les plateformes de médias sociaux, ce qui signifie que les outils réglementaires qui avaient du mal même avec une poignée de grandes entreprises se heurtent à quelque chose qui fonctionne sur le téléphone de tout le monde — n'importe qui peut désormais générer à volonté une fausse vidéo convaincante ou un faux document de recherche.

Cinquième partie

Gagnez-le en n'étant pas dans le combat

En conclusion, Randima propose deux démarches distinctes – ni séquentielles, ni exclusives, mais suffisamment différentes pour que chacune mérite d'être considérée. L'une vise le système, l'autre l'individu.

Modifier les incitations

Pour comprendre ce qu'un système, une entreprise ou une personne cherche réellement à optimiser, il faut analyser la structure des incitations, et non les déclarations officielles : les incitations en disent bien plus sur les comportements que les mots ou les campagnes publicitaires. Il s'agit de la même logique de rentabilité que celle évoquée dans la troisième partie : mécanismes de prix, législation, litiges, lanceurs d'alerte transformant une prise de conscience discrète en véritable responsabilité. Modifier les critères de récompense d'une entreprise est plus lent que de changer une habitude, mais c'est le levier qui agit sur le système lui-même, et non pas seulement sur la relation d'une personne avec celui-ci.

Renonciation

La démarche personnelle commence avant tout le reste : clarifier véritablement, idéalement à voix haute, avec des personnes et des enseignants de confiance, ce que signifient pour vous une vie sage et un véritable épanouissement — et laisser cette clarté, et non les menus algorithmiques de Netflix ou des médias sociaux, orienter votre attention.

Thomas recentre la conversation sur la pleine conscience : quel rôle joue-t-elle précisément ici ? La réponse de Randima se divise en deux parties, et c’est là que l’affirmation initiale de cet article trouve toute sa signification. La première partie est encourageante : la pleine conscience développe une véritable conscience – des pensées, des émotions, des sensations corporelles – créant ainsi l’espace intérieur nécessaire pour prendre conscience d’un choix avant de le faire, et non après. Conjuguée à une vision claire de ce que signifie mener une vie épanouie, cette pause est propice à l’émergence de meilleurs choix.

La deuxième partie est la plus difficile, et c'est celle par laquelle il a commencé : même une formation avancée à la pleine conscience ne vous sera pas d'une grande utilité si vous êtes pris au piège d'un système conçu par une entreprise qui analyse en permanence les biais cognitifs humains fondamentaux – un supercalculateur pointé sur le cerveau, comme il le dit. Son conseil final n'est pas de surpasser l'algorithme en discipline. Il s'agit plutôt d'une forme de renoncement, d'une séparation délibérée d'avec ce qui a déjà été identifié comme inadapté, plutôt que d'une bataille à gagner en redoublant d'efforts.

Ne pas gagner. Refuser tout combat — et utiliser la clarté que procure la pleine conscience pour voir plus clairement où ne pas se tenir.

Aucune de ces actions ne remplace l'autre. Modifier les incitations change ce que le système récompense ; renoncer à ce système modifie votre propre rapport à celui-ci, sans qu'il change. Randima pratique les deux simultanément depuis des années.

↑ Retour en haut