Méfiez-vous du culte rationaliste de San Francisco Ils rêvent de t'effacer

Il y a quelques semaines, après la première présentation de ma pièce sur l’intelligence artificielle à San Francisco, je me suis retrouvé à parler avec Edward (ce n’est pas son vrai nom), un programmeur agréable avec une queue de cheval qui ne faisait pas beaucoup de contact visuel mais était désireux de discuter de la performance et du monde technologique de manière plus large. « Avez-vous entendu parler de The Culture d’Iain Banks ? » demanda Edward. Je ne l’avais pas fait. The Culture, j’apprendrais plus tard, est une série de science-fiction sur une utopie post-pénurie dans un avenir lointain dirigée par des IA divines, où la mort, la souffrance et même l’économie traditionnelle sont obsolètes.

Je pouvais comprendre pourquoi Edward s’intéressait à la pièce. La communauté de l’IA, à laquelle il appartient, est animée par ce genre de visions d’avenir : une abondance utopique, quasi divine, et un contrôle sur la nature — peu importe que ce résultat soit souhaité ou que nous nous détruisions en essayant de l’atteindre. Déjà, leur capitale, San Francisco, est marquée par cette vision du monde. La technologie qui est générée à « SF » est elle-même le produit d’une eschatologie rationaliste qui voit l’humain comme un mécanisme de « bootstrap » (pour reprendre les mots d’Elon Musk) pour des formes de vie et d’intelligence supérieures.

En dessous de ce rationalisme apparent se cache une sensibilité profondément religieuse qui cherche à reconfigurer le passé humain au-delà du point de reconnaissabilité, tout cela au service de la génération d’une sorte de synthèse machine-ange. SF, alors, n’est pas seulement un lieu. C’est un état d’esprit théologique.

Dans les cercles techno-rationalistes de la ville, la réponse à la question de savoir si nous devrions vouloir vivre dans The Culture est : « Oui, si possible ». Sam Altman, le fondateur de ChatGPT, par exemple, est l’un des nombreux technologues ayant un intérêt sérieux pour l’extension de la vie (la recherche de l’extension de la durée de vie humaine), le biohacking (modifier sa biologie par divers moyens) et la fusion de la cognition humaine avec la cognition artificielle (souvent appelée interfaces cerveau-ordinateur).

Peter Thiel investit dans la parabiose, la pratique expérimentale de transfuser du sang jeune dans des corps plus âgés à la recherche de la jeunesse éternelle. Elon Musk construit des implants cérébraux. Ray Kurzweil prend des centaines de suppléments par jour. Jack Dorsey jeûne pendant des jours. Jeff Bezos et Larry Ellison financent discrètement des startups de longévité. Si, comme l’a soutenu le philosophe existentialiste Maurice Merleau-Ponty, « nous percevons le monde avec notre corps », alors les grands prêtres du culte SF construisent non seulement de nouveaux corps, mais aussi de nouvelles perceptions. De ces nouvelles visions émergeront probablement de nouvelles éthiques.

Si les membres d’une classe supérieure technologiquement optimisée voient, entendent et se déplacent différemment — comment verront-ils le reste d’entre nous, les non-optimisés ?

L’intégration accélérée avec la technologie change la façon dont vous vivez le monde. Pendant mon séjour à SF, j’ai pris des Waymos (véhicules autonomes opérés par une filiale de Google) partout, plutôt que des taxis traditionnels ou des Ubers. Il y avait un sentiment particulier lorsque les voitures passaient par des zones de misère. À Frisco (l’ancien nom de classe ouvrière de la ville), j’avais l’impression de vivre dans une expérience complètement fermée, une bulle techno-protégée. L’expérience était fluide et efficace, et cela a changé mon comportement. Comme il n’y avait pas de conducteur, je me suis senti étrangement libéré : comme si je traversais la réalité matérielle tel un dieu ou un extraterrestre observant les humains. D’une manière ou d’une autre, je croyais que la voiture pouvait et allait me protéger.

J’aimais mes trajets en Waymo vers la coopérative alimentaire, car ils m’épargnaient d’avoir à m’engager mentalement et émotionnellement avec le mauvais quartier entourant le magasin de produits de santé. Je pouvais fermer les yeux en quittant la « maison de hackers » où je séjournai — puis les ouvrir dans un immense magasin brillant offrant des aliments conçus pour optimiser mon corps. On commence à aimer la civilisation rationaliste. L’IA fait le travail de maintien de l’homéostasie. Il n’y a pas de véritable pression existentielle ; on commence à oublier que l’on vit dans un corps fragile et mortel ; on commence à sentir que l’on devrait avoir un contrôle total sur tout ce qui nous arrive.

Le futur est ici, il arrive un peu plus chaque jour, et il est concentré dans la région de la baie. Si nous voulons un aperçu de ce qui se passe lorsque le techno-futurisme devient une idéologie de classe dirigeante, si nous voulons comprendre à quoi ressemblera la culture future, il nous suffit de regarder San Francisco, rationaliste-utopique, accélérationniste, sans dieu et de plus en plus sans enfants.

La culture techno-rationaliste de la région de la baie ressemble — et, à bien des égards, est — à la renaissance des Shakers. La secte du 19ème siècle croyait également que la fin des temps était imminente, et par conséquent, elle mettait l’accent sur l’autodiscipline, la refonte radicale de l’environnement et le retrait du monde. Les techno-rationalistes sont des Shakers sans Dieu. Ou plutôt, le leur est un dieu qui n’a pas encore été construit, mais le projet avance bien.

San Francisco est presque comme si quelqu’un avait pris des morceaux de Davos et les avait placés à l’intérieur de Naples : un monde de vie élitiste, propre, efficace et minimaliste, niché à l’intérieur de la décadence sociale, elle-même nichée à l’intérieur d’une beauté naturelle à couper le souffle. La vie est absolument agréable à San Francisco, si vous vivez à l’extrémité supérieure de l’économie en forme de K. Bien sûr, toutes les villes américaines ont cette caractéristique dans une certaine mesure : les riches vivent différemment des autres, partout.

Mais à San Francisco, il y a un sentiment plus profond que cela fait simplement partie du darwinisme social impliqué dans le transhumanisme : que les pauvres et les « mauvais » disparaîtront tandis que les techno-riches vivront plus longtemps, en meilleure santé, protégés par l’IA.

Une quantité étonnante d’énergie humaine a été dépensée pour construire cet empire techno de plus en plus automatisé, et le résultat final semble être quelque chose comme la rédemption pour très peu, l’élimination et la redondance pour les nombreux.Partout où je prenais un Waymo, je voyais des panneaux publicitaires pour le travail de l’IA — remplacez vos vrais travailleurs. Bientôt, ce sera : remplacez presque tout le monde. Voici la vision : une classe sacerdotale, auto-médicante, auto-optimisante, transhumaniste qui vit une vie de loisir sur un réseau automatisé, protégée de la décadence qui l’entoure et des inconvénients de la civilisation qu’elle a construite.

San Francisco est aussi la première ville, je pense, où une portion non négligeable de la population — et certainement la portion la plus riche et puissante — prévoit, si ce n’est de vivre littéralement pour toujours, de vivre au-delà de notre durée de vie biologique, convaincue que la technologie peut construire un paradis sur Terre pour certains.

Le Golden State a toujours été un incubateur de cultes et de prophéties. Les passionnés de fusées qui ont construit Cal Tech et transformé l’État en une Mecque de la défense et de l’aérospatiale ont également cédé à des visions étranges et occultes, comme nous l’a rappelé le géographe marxiste et écrivain californien Mike Davis. Le dernier culte a remplacé les balistiques visant les Soviétiques par des projets lunaires pour la vie éternelle. Par exemple, Bryan Johnson, entrepreneur technologique connu pour son régime anti-âge extrême, a récemment tweeté : « Je construis une religion », ajoutant : « D’abord, voici ce qui va se passer : + Ne pas mourir devient l’idéologie à la croissance la plus rapide de l’histoire. + Cela sauve la race humaine. + Et inaugure une existence plus spectaculaire que nous ne pouvons imaginer. C’est inévitable. La seule question est : serez-vous un adoptant précoce ou tardif ? »

Et que se passe-t-il si vous êtes en désaccord ? Que se passe-t-il si vous ne voulez pas optimiser ? Que se passe-t-il si vous préférez encore les anciennes religions aux nouvelles ? Que se passe-t-il si vous n’avez aucun intérêt à construire une application révolutionnaire ou à suivre vos biomarqueurs chaque jour ? Pour l’instant, vous ne serez pas puni. Vous ne serez pas traité d’hérétique. Mais à mesure que ce culte s’étend — comme je crois qu’il le fera, à cause de ce qu’il promet — et que les différences de caste se creusent, les tensions vont inévitablement augmenter. Le refus commencera à ressembler à une menace. Le non-respect sera perçu comme une dysfonction.

Pour cette raison, il n’est pas difficile d’imaginer un avenir où des voitures pilotées par IA ont des robots humanoïdes sur le siège avant — non pas comme conducteurs, mais comme gardes du corps : pour protéger la classe supérieure transhumaniste des dissidents et des néo-Luddites qui ont été laissés pour compte (ou qui n’ont jamais été invités à rejoindre la révolution). Et il est également difficile d’imaginer que ces gardes du corps ne seront pas, à un moment donné, nécessaires.

---

Matthew Gasda is a playwright, author, and columnist for UnHerd, based in New York City.

FOMO_sacer