« L’école des vivants », cette nouvelle « zone d’expérimentation sociale terrestre et enchantée » fondée par l’écrivain Alain Damasio en compagnie d’un petit groupe, est située au bout d’une piste de graviers que de majestueux renards traversent de temps à autre. La piste part d'un petit village perché au-dessus de Sisteron et de la vallée de la Durance en contrebas.
Mais c’est à une autre vallée, bien plus connue et technologique, que le célèbre auteur de science-fiction, notamment de La Horde du Contrevent ou des Furtifs, a consacré son dernier livre, intitulé Vallée du Silicium (Albertine/Seuil).
L’idée à la fois simple et féconde était de confronter un écrivain de science-fiction à la Silicon Valley où s’invente une large partie de notre futur.
Si Alain Damasio signe ici son premier essai, on pourrait, comme il aime le faire, fusionner les mots et les concepts, et juger que le livre déplace les frontières entre la « fiction » et la « non-fiction » pour proposer ici une forme de « romanalyse » apte à sillonner un espace qui est autant un lieu réel qu’un réservoir d’imaginaire, autant un État d’Amérique qu’un « état d’esprit », ainsi qu’il l’écrit.
Le livre entre dans cet univers à travers des portes d’entrée concrètes : le siège social d’Apple, les voitures sans conducteur, la cohabitation à San Francisco entre les cadres surpayé·es de la tech et les « homeless » toxicomanes, ou encore la vie d’un homme bardé de capteurs et adepte du quantified self…
Mais l’ouvrage pratique des allers-retours constants entre ces réalités, les récits qu’ils alimentent, et les imaginaires utopiques et dystopiques qui les soutiennent. Le livre se conclut alors logiquement par une courte fiction, qui ne constitue pas une simple illustration de ce qu’on vient de lire, mais une projection, tout aussi hallucinée que matérialisée, du monde dessiné par la Silicon Valley en général et par l’intelligence artificielle en particulier.
Outre les sujets spécifiques qu’approchent les différentes chroniques réunies dans le livre, la puissance de cet essai tient à trois dimensions. D’abord la position d’Alain Damasio, qui, par son regard d’écrivain de science-fiction, nourri de prospective et d’une passion informée et lucide pour les technologies, nous permet de voir la Silicon Valley avec le recul nécessaire. Recul à la fois vis-à-vis de la fascination qu’elle exerce trop souvent ouvertement ou silencieusement. Mais recul aussi vis-à-vis d’une critique « très française » qui n’arrive à penser les machines et les technologies qu’à travers la dialectique du maître et de l’esclave, dans laquelle l’humanité serait toujours sous la menace d’être dépassée ou remplacée par ses créations devenues créatures.
Ensuite, la façon dont l’écrivain arrive, par ses formulations, à décrire à nouveau des éléments qui paraîtraient intuitifs ou déjà connus, mais dont on redécouvre sous sa plume le caractère vertigineux : l’avènement d’un « numiversel » dont les temples se trouvent en Californie, les « serf made men » qui la peuplent ou la façon dont nous avons désormais tendance à immédiatement donner notre langue au chat…
Enfin, une thèse centrale forte, qui parcourt l’ensemble du livre, à savoir la manière dont les technologies forgées dans la Silicon Valley pénètrent dans nos intimités tout en évacuant nos corps et en enrayant nos rapports aux autres, à force d’enfermer chacun dans un « technococon » le rendant incapable de déployer un rapport au monde autrement que depuis la position d’un individu solitaire médié par la technologie.
Comme Alain Damasio l’écrit, le cœur de sa technocritique est bien celle-ci : « La tech, ontologiquement, conjure l’altérité. » En effet, les « réseaux sociaux nous connectent mais ne nous lient pas », puisqu’ils nous mettent certes en relation, mais en tant que déjà – et probablement définitivement – séparés.
Entretien en partant d’un ouvrage qui caracole en tête des ventes, sans doute parce qu’il soulève, sans mélancolie, l’abysse qui s’ouvre devant nous si nous laissons le futur se bâtir sans nous.
>Mediapart : Vous écrivez que c’est une idée « courte voire stupide » que de penser qu’une technologie est neutre. Existe-t-il des critères permettant de distinguer une technologie émancipatrice et positive d’une technologie nocive ?
Alain Damasio : Oui. Le principal oppose sans doute les technologies qui nous procurent du pouvoir et celles qui nous donnent de la puissance, pour reprendre une catégorie spinoziste. Les premières augmentent nos performances et transforment notre réel. On demande ainsi aujourd’hui aux applis, aux robots, aux machines de faire ce qu’on ne veut pas faire.
Le GPS constitue un exemple emblématique. Quand on arrive dans une ville inconnue, il est parfait pour nous diriger de carrefours en ronds-points, en suivant ses instructions. Mais ce pouvoir se paye d’une perte multiple : capacité à s’orienter seul, à repérer les sites clés de la ville, à mémoriser où se trouve la mer, connaissance plus intime des modes de circulation…
Tout ce travail mental mobilise nos fonctions cognitives et nous oblige à chercher, au risque de se perdre parfois, mais en nous donnant un tout autre rapport à la ville qu’une carte qui pointe un trajet sous la dictée d’une machine.
Une technologie comme le GPS nous offre ainsi un pouvoir important qui se paie d’une puissance appauvrie. D’autres nous donnent à la fois pouvoir et puissance. Wikipédia, par exemple, me donne accès à toute une synthèse de connaissances sans limiter ma puissance de création, et même en l’augmentant.
Comme écrivain de SF, pour la nouvelle qui clôt le livre, je me suis ainsi servi de Wikipédia pour me renseigner sur les conséquences d’un blackout ou les deadbots sans avoir besoin, comme je le faisais plus jeune, d’aller à la bibliothèque de Beaubourg consulter moult Sciences & vie mal indexés et bien moins complets.
Un second critère serait le degré d’ouverture et de fermeture des techs. C’est particulièrement visible dans le jeu vidéo. Des jeux comme celui de la pastèque, 2048 ou Tetris fonctionnent sur des logiques addictives, répétitives, qui sollicitent le circuit de la dopamine, des boucles aussi simples qu’efficaces, dont il est évident qu’elles nous enferment dans leurs cycles stimuli-réactions.
D’autres jeux vidéo, comme Zelda, proposent des mondes ouverts, qui déploient un imaginaire et même une culture, nous obligent à résoudre des énigmes, à être créatifs pour avancer dans les quêtes. Ce qu’on y expérimente apporte plus que de nombreux films, car la mobilisation du corps et du cerveau y est souvent plus intense.
Les réseaux sociaux sont eux aussi plus ou moins ouverts. Par exemple, pour moi qui suis fan de foot, je vais dans le forum de So Foot pour avoir une lecture, bien plus fine que les articles, du match, de la tactique ou du capitalisme footbalistique. Alors que les commentaires sous les articles de L’Équipe vont t’enfermer, eux, immédiatement dans une logique campiste : pro-Barça ou pro-Real…
>Jusqu’à quel point ce rapport entre un outil technologique et son usager est-il lui-même constitué par l’impact plus général de ces technologies sur notre rapport au monde ?
Cela fait partie des critères plus complexes à appréhender car ils ne sont pas donnés d’emblée. La technologie de la voiture, comme l’a bien montré Ivan Illich, a eu un impact considérable : elle a « inventé » le trottoir, la station-service, nous a obligés à bâtir des kilomètres carrés de parkings, à restructurer nos villes, à extraire le pétrole… La simple création de quelques pistes cyclables exige de transformer de fond en comble un espace fait par et pour la voiture !
On peut imaginer que les effets de l’IA générative soient encore plus massifs. Non seulement l’IA va supprimer des millions d’emplois, mais elle va renforcer nos technococons et notre manière de vivre notre rapport au monde et aux autres de façon individualiste et egocentrée.
Tu ne seras plus obligé de parler à des personnes qui ne partagent pas tes goûts, ou qui ne seraient pas bienveillantes avec toi, parce que ces IA qui entrent déjà dans nos intimités le feront sur un mode cajolant.
Les Gafam ont déjà rentabilisé nos appréhensions sociales ou notre peur de manquer tel ou tel événement. La convergence de toutes les technologies déjà en place vers une IA personnelle et intime, qui compilera et agencera la totalité de tes traces sur les réseaux, tous tes messages, actes, paiements et choix – et se fera avec notre consentement – a quelque chose de captivant et d’abyssal. Ça deviendra notre premier interlocuteur face au monde.
>Est-il possible de retourner ou détourner les technologies trop enfermantes ou envahissantes ?
Ce qui est nécessaire, c’est de comprendre leur fonctionnement et d’identifier leurs points faibles. Un phénomène émergent est la « shitification » d’Internet – son devenir merdique – sur laquelle travaillent aujourd’hui déjà des entreprises de premier plan.
Aujourd’hui, la quasi-totalité de ce qui a été produit par l’humanité depuis ses débuts a été digérée par le numérique. Désormais, avec l’IA générative, ce qu’ingère Internet, c’est de plus en plus de photos, de vidéos et de textes produits par des IA.
Internet s’est nourri de siècles de savoir humain, mais désormais la digestion est de plus en plus une dégradation, dans la mesure où les prochaines générations d’IA ne vont pas travailler à partir de sources humaines, mais de reprises et simulations remixées par des IA.
Elles vont fonctionner à partir de données qui ne seront pas « fraîches », ni issues du réel. Si bien que les acteurs du secteur se demandent déjà comment réinjecter du réel, de l’originel, dans tout ce qui est généré par les IA ! Fou, non ?
De sorte que le revenu universel – une idée de gauche même si elle a pu être reprise par la droite – revient à la mode dans la Silicon Valley. Sur le mode : « Puisqu’une palanquée d’emplois tertiaires vont être remplacés par nos IA, on pourrait payer des gens à filmer leur vraie vie », pour la réinjecter dans un monde numérique en voie de merdification, afin que les datas utilisées ne soient pas trop pauvres ou recyclées. C’est aussi fascinant que terrifiant.
>Quels sont ces « arts de vivre avec les technologies » que vous prônez ? Passent-ils nécessairement par des formes de déconnexion ?
Puissance plutôt que pouvoir, et ouvert plutôt que fermé. Mais la dimension temporelle est aussi déterminante. Les algorithmes sont des allo-rithmes au sens où ils sont étrangers au fonctionnement humain. Ils fonctionnent vingt-quatre heures sur vingt-quatre et sept jours sur sept alors que nous avons besoin de repos, de pauses, de stases… Il faut donc des moments de déconnexion ou de sous-connexion.
Pour moi, la multiplication des burn-out n’est pas seulement liée aux bullshit jobs, mais aussi aux processus continus inhérents au digital. Si on ne paramètre pas les notifications et les sollicitations qui nous parviennent à un rythme qui n’a rien d’humain, il est impossible de tenir sans craquer.
Même en refusant d’avoir un smartphone, en n’ayant que le mail comme point d’entrée vers les réseaux, je perds parfois la capacité de jongler entre moments de connexion et de déconnexion tellement les sollicitations sont nombreuses et incessantes.
>Est-il encore possible de n’avoir pas de smartphone comme au moment où vous l’aviez décidé il y a quelques années, alors que toute opération bancaire exige désormais une validation ?
Ce n’est en réalité possible que parce que je ne suis pas un pigiste qui se doit d’être joignable facilement et que je peux emprunter le smartphone de ma compagne pour valider un virement !
Sans aller jusqu’à supprimer les smartphones, un art de vivre avec les techno peut demander des actes simples, comme le fait de laisser son smartphone à la maison, afin d’être disponible à la randonnée qu’on va faire, aux gens qu’on croise au café ou à la personne avec laquelle on déjeune. Il s’agit de sortir de proche en proche du technococon pour rester disponible au monde. Et à son corps.
C’est une forme de politesse sociale élémentaire, mais l’enjeu va bien au-delà : vers une nécessité de ne pas se couper des autres, de tout ce qui peut m’émanciper, me cultiver, me nourrir.
Vivre intelligemment avec les technologies implique clairement une éducation, où les différentes générations pourraient d’ailleurs s’apprendre mutuellement beaucoup de choses, même si aucune n’est vraiment formée à le faire.
En la matière, l’Éducation nationale ne joue pas du tout son rôle. Venant de l’extrême gauche, je ne place pas ma confiance dans les grandes institutions, mais il faudrait d’urgence créer un troisième pilier, avec les maths et le français, qui serait l’apprentissage de nos outils quotidiens. S’il existe des cours d’éducation civique, il faudrait des cours d’éducation numérique.
Nous devrions tous être capables de comprendre le design de la dépendance mis en place par Instagram, chercher comment piéger l’algorithme de TikTok ou savoir choisir un jeu vidéo dont le game design ne soit pas fondé sur l’addiction.
Puisque l’Éducation nationale n’est pas prête à s’emparer intelligemment de ce sujet, c’est aux parents de le faire. Avec mes propres filles, je réalise que ma femme et moi agissons sur deux choses : les films, séries et dessins animés d’un côté, et les lectures de l’autre.
C’est un bon début mais je les rendrais sans doute plus libres en intervenant avec pertinence sur les applis et plateformes qu’elles utilisent, qui offrent plein d’outils géniaux, qu’en conseillant un bon livre.
Le quotidien des adolescents se passe sur tablette ou smartphone et la seule « éducation » en la matière consiste à dire oui ou non à l’ouverture d’un compte Insta ou à imposer une limite de temps.
Alors qu’une heure sur un smartphone peut être débile ou utile selon ce qu’on vous apprend à y faire et y voir. Ce qui compte n’est pas le temps d’écran en soi, mais ce qu’on y fait.
Si je reviens au vertige de l’IA générative : c’est un outil surpuissant, un superpouvoir qui parle mieux que les ados, synthétise mieux que les ados, fait de meilleures images que les ados, au moment où eux doutent et se construisent… Comment éviter qu’ils aient envie de ce superpouvoir avant même d’avoir appris à penser ? Le piège est monstrueux.
>Votre séjour dans la Silicon Valley va-t-il modifier vos manières d’écrire vos romans de science-fiction ?
J’étais parti sur l’idée de faire mon quatrième roman autour de l’eau, à la façon dont l’air et le vent avaient structuré La Horde du Contrevent. Mais après ce que j’ai vu là-bas, il va m’être difficile de m’abstraire d’un fond dystopique.
Si je veux montrer ce que produit l’envahissement de l’IA, il va falloir écrire rapidement, tellement ça va vite. Nous avons vécu une première révolution avec l’arrivée d’Internet, puis une seconde avec le smartphone, objet nomade totalitaire qui crée une cohabitation intime et permanente avec une techno précieuse mais ultra-intrusive.
L’IA amène une troisième révolution qui va être bien plus violente et puissante, parce que ce sont des machines de langage, c’est-à-dire fondées sur ce qui lie fondamentalement les humains : le fait de s’écouter et de se parler.
L’IA va ainsi révolutionner non seulement le travail, mais notre rapport au monde et à soi. En tant qu’écrivain de SF, c’est mon boulot de rendre concret ce qui est encore potentiel et de proposer un art de vivre et d’esquiver qui nous rende agiles et libres.
Le combat se fait aussi dans la langue elle-même. Dans la nouvelle qui clôt le livre, j’ai utilisé ChatGPT pour lui demander de rédiger les questions que pose l’IA à Noam, quand elle lui demande de prouver qu’il n’est pas un père violent pour autoriser l’ouverture d’une porte derrière laquelle se trouve sa fille.
J’ai donc prompté à l’IA : « Imagine que tu es un psychologue, quelles questions poserais-tu ? » J’arrivais alors à quelque chose de très plat, parce que l’écriture des IA est probabiliste, c’est-à-dire qu’elle avance en mettant, à la suite des deux premiers mots, le troisième mot le plus probable, à partir du stock immense de textes intégrés et pondérés par les IA.
Ce type d’écriture est l’inverse de ce qu’un vrai écrivain doit faire : à savoir déjouer l’attendu, tout en construisant une phrase fluide.
Ces machines de langage nous obligent, en tant qu’écrivains exigeants, à lutter encore plus radicalement contre les clichés, les associations toutes faites, les images attendues…
Comme je voulais écrire un roman sur l’eau, j’ai fait un autre test en demandant à ChatGPT : « Imagine que tu es Alain Damasio, et que tu veuilles écrire sur l’eau, quel type de roman tu ferais ? »
L’IA a produit des pistes pas inintéressantes, mais qui correspondaient à mes propres clichés : un monde dystopique, un mouvement révolutionnaire qui affronte cette dystopie… L’IA me proposait une version de mon imaginaire pas inexacte, mais simulée et dégradée. Ça te met face à tes propres routines, ça te pousse à inventer autrement.
>Vous tentez de nommer ce que serait, a contrario, une technologie qui nous émanciperait en nous faisant grandir et découvrir davantage que ce que nous sommes sans elle, en forgeant le mot « biopunk ». Pourquoi ce terme ?
Le cyberpunk a été un mouvement dominant de la SF, portant l’idée que notre couplage avec les technologies pourrait nous rendre plus libres, plus fous, plus vastes. Mais cette idée a fait son temps et a été récupérée par les multinationales.
La promesse d’émancipation a été trahie. Ce qu’on a créé, ce sont d’abord des machines qui entretiennent notre auto-aliénation et nous rendent dépendants de designs et d’algorithmes que nous ne maîtrisons pas.
Si on veut aujourd’hui imaginer une « augmentation » de l’être humain, il me semble prioritaire de se coupler avec le vivant, avec les forces animales et végétales. L’attrait contemporain pour les drogues liées aux champignons est sans doute un petit aspect de cette dynamique.
Savoir faire pousser des légumes, cuisiner des plantes sauvages, se baigner en rivière ou connaître les chants d’oiseaux communs qui nous entourent fait partie de cette culture du vivant, qui peut s’hybrider – et s’hybride déjà – avec des technologies modernes.
Quand on parle de ce qu’on fait ici dans les Alpes, au sein de notre « École des vivants », de la nécessité de se déconnecter des réseaux, la pensée réflexe vous dit que vous voulez retourner au XIXe siècle ou au Moyen Âge. Alors que le développement des sciences du vivant, notamment de l’éthologie et de la biologie, fait que le tissage avec le vivant est infiniment plus fin aujourd’hui qu’hier.
Tout ce qu’on sait désormais sur les arbres et les oiseaux, pour prendre deux exemples simples, révolutionne les liens qu’on construit avec la forêt ou avec le sentiment de ce qu’est un territoire chanté, poreux. La précision des relations organiques qu’on tisse avec nos biotopes suscite des désirs et des rencontres, une ouverture au monde qui peut battre le capitalisme sur son terrain.