Est-ce que la grande IA va sauver le monde ? Le futurisme spéculatif nous vend un mensonge

« Le gouvernement sait que l’AGI arrive », nous dit Ezra Klein du New York Times, « et nous ne sommes pas préparés en partie parce qu’il n’est pas clair ce que cela signifierait de se préparer ». Nous avons tous entendu ces prognostics maintenant. À une extrémité du spectre se trouvent les « Doomers » qui avertissent que « le résultat le plus probable de la construction d’une IA superintelligente, dans des circonstances à peu près semblables à celles actuelles, est que littéralement tout le monde sur Terre mourra ». À l’autre extrémité se trouvent les accélérationnistes qui font confiance à l’IA pour résoudre des problèmes au-delà de la portée des intelligences humaines. Une « cure pour le vieillissement » pourrait-elle résider dans des schémas biologiques qui nous sont invisibles, mais discernables par un algorithme d’apprentissage automatique suffisamment avancé ? L’IA pourrait-elle largement surpasser les fonctionnaires civils dans l’élaboration de politiques publiques et l’administration des services gouvernementaux ?

Elon Musk et de nombreux autres promoteurs de l’industrie de l’IA veulent certainement que nous le pensions. DOGE compte sur l’IA non seulement pour identifier les « déchets » et la « fraude » supposés dans les dépenses gouvernementales, mais aussi pour remplacer des dizaines de milliers d’employés fédéraux et de contractuels. L’hypothèse est que quels que soient les services qu’ils fournissent, ils peuvent être exécutés plus efficacement par un chatbot formé sur des données gouvernementales. Un grand modèle de langage capable de surpasser les fonctionnaires civils dans n’importe quelle tâche cognitive équivaudrait à quelque chose comme l’AGI, un résultat qu’OpenAI et Sam Altman ont longtemps insisté sur le fait qu’il est atteignable simplement en alimentant plus de données et de puissance de calcul dans de grands modèles de langage.

La question pour le reste d’entre nous est comment faire des choix rationnels face à un tel battage médiatique. Les affirmations faites sur le potentiel de l’IA sont des exemples de futurisme spéculatif, une forme de prognostication de plus en plus lucrative et culturellement influente qui capitalise sur ce que nous, dans Comment penser le progrès, appelons le « biais de l’horizon » : notre propension culturelle à surestimer systématiquement la proximité des résultats technologiques. Bien que la promesse d’AGI d’Altman, tout comme les promesses encore plus anciennes de Musk concernant les véhicules autonomes, ait été à plusieurs reprises reportée, notre société obsédée par la technologie est prête à croire à de telles promesses, et les moins scrupuleux d’entre nous sont prêts à tirer profit de notre crédulité.

Si vous êtes en marche depuis longtemps et que vous pouvez voir votre destination au loin, il est naturel de supposer que votre voyage touche presque à sa fin. Mais comme l’expérience de Frodo à Mordor le montre, le dernier kilomètre peut être bien plus difficile et sinueux que vous ne l’aviez prévu. Le biais de l’horizon devient particulièrement puissant lorsque nous sommes confrontés à une séquence d’étapes apparemment claire de notre réalité actuelle à un scénario futur spéculatif. En nous disant exactement ce qu’il faudra pour passer du point A au point B, nous créons un modèle mental de changement qui inclut inévitablement des écarts avec le monde tel qu’il est.

Considérez à quel point il est facile de croire que la cure contre le cancer est imminente chaque fois qu’il y a une nouvelle avancée technologique. « Hé ChatGPT, quelle est la cure pour le cancer ? », s’est demandé le Future Today Institute (récemment rebaptisé Future Today Strategy Group), une « société de conseil spécialisée dans la prospective stratégique », dans un tweet l’année dernière. Bien que les politiciens, les scientifiques et les technologues promettent « la cure » depuis que Richard Nixon a lancé la guerre contre le cancer dans les années soixante-dix, elle ne s’est jamais matérialisée. Pourtant, nous restons impatients d’entendre la prochaine histoire sur une cure imminente parce que nous avons absorbé la mythologie moderne de nous-mêmes en tant que maîtres de la fabrication d’outils sur la nature. Pour une société qui a été sur la lune et a éradiqué de nombreuses autres maladies, une solution à la croissance cellulaire non régulée ne peut sûrement pas être loin — n’est-ce pas ?

Cependant, même dans une « renaissance de l’IA » où les machines peuvent analyser des données en oncologie de manière que les humains n’ont jamais pu, nous devrons toujours faire face aux complexes désordres de la biologie humaine. Chaque corps humain est unique (tout comme chaque tumeur). De plus, si l’IA devient capable d’entretenir des croyances sur ses propres capacités et ses futures possibilités, elle aussi sera sujette au biais de l’horizon, trébuchant sur des écarts inattendus entre le monde réel et les modèles simplifiés qui guideront ses recommandations.

Cela ne signifie pas que la vision utopique ou dystopique de l’IA soit impossible. Mais cela remet en question la valeur de l’industrie du futurisme spéculatif qui a fini par dominer nos attentes collectives. En tant que consultants d’entreprise, les futuristes professionnels gagnent bien leur vie en répondant aux craintes d’incertitude des entreprises en offrant une « prévoyance stratégique » apparemment scientifique sur tout sujet pour lequel il y a un abonné payant. Il est dans leur intérêt de présenter des anticipations sur l’avenir de manière à sembler plus proches de la connaissance que de simples opinions.

Regardez en arrière trois ans au rapport sur les tendances technologiques 2022 de l’Institut Future Today, par exemple, et vous trouverez une prédiction audacieuse selon laquelle « la biologie synthétique fera de la vieillesse une pathologie traitable ». Pourtant, comme le rapport évite prudemment d’offrir un calendrier — pour quand la vieillesse deviendra une « pathologie traitable » — il devient difficile de tester la validité ou du moins la précision de cette affirmation. Il n’est pas non plus facile d’évaluer le bilan complet de l’organisation. Lorsqu’on lui a demandé ses publications antérieures, un porte-parole a répondu : « Malheureusement, nous ne classons plus nos anciens rapports. Passez une bonne journée. »

Une telle commercialisation terne était attendue depuis longtemps. Diverses théories et méthodologies des « études futures » ont été formalisées, des cadres pour évaluer la « compétence en prévoyance » ont été introduits, et les futuristes ont de plus en plus adopté un jargon commun. Ainsi, le futuriste du milieu du 20e siècle, Bertrand de Jouvenel, nous a gratifiés du terme « futurible », signifiant tout « état futur de choses » dont la réalisation « à partir de l’état actuel des choses est plausible et imaginable ». La plupart des futuristes diraient qu’ils « ne font pas de prédictions », et pourtant cela fait évidemment partie du métier, surtout lorsqu’il y a une demande de clients payants. Si vous ne pouvez pas créer l’impression que vous êtes meilleur que les autres pour prévoir les probabilités futures, vous n’avez aucun avantage concurrentiel.

Le bibliographe du 20e siècle I.F. Clarke retrace les racines du futurisme moderne jusqu’au 13e siècle, lorsque le moine médiéval Roger Bacon prévoyait que l’approfondissement des connaissances scientifiques pourrait finalement conduire à des avions, des trains et des automobiles auto-propulsés — comme cela a effectivement été le cas, bien que pas aussi tôt qu’il l’avait espéré. Une telle pensée était novatrice pour l’époque, et elle resterait dans les cloîtres pendant encore trois siècles, lorsque les Lumières ont vu des livres comme le roman utopique de Sebastien Mercier de 1771, L’An 2440 (The year 2440).

Canalisant la foi de son époque dans le progrès technologique, Mercier décrivait un avenir de paix et d’harmonie sociale, gouverné par des philosophes-rois. Dans son 25e siècle envisagé, l’esclavage a été aboli, le système de justice pénale réformé, et la médecine soumise à la rationalité scientifique. Mais il anticipait également que le territoire de l’Amérique du Nord serait restitué à ses habitants d’origine, et il pensait que le Portugal pourrait devenir une partie du Royaume-Uni. Dans son avenir, les impôts, les armées permanentes et même le café ont tous été abolis. S’il avait été consultant d’entreprise, il n’est pas clair si ses clients auraient été mieux préparés pour divers scénarios futurs que leurs concurrents.

Avec de nombreuses éditions et traductions apparaissant dans les décennies suivant sa première publication, l’œuvre de spéculation de Mercier a connu un succès commercial fulgurant. Dès lors, chaque génération a apporté une nouvelle cohorte de ce que Clarke appelle des « observateurs d’horizon professionnels ». L’innovation technologique avait rendu les prédictions courantes, et bien que les techniques des praticiens antérieurs n’étaient pas du tout aussi sophistiquées que celles utilisées par les futuristes d’aujourd’hui, leur méthode de base était la même : en extrapolant à partir des dernières percées, ils envisageaient de nouveaux domaines de plausibilité.

Selon H.G. Wells, dans sa conférence de 1902, « La découverte de l’avenir », « en fait absolu, l’avenir est tout aussi fixe et déterminé, tout aussi établi et inévitable, tout aussi possible à connaître que le passé. » Avec l’arrivée des guerres totales que Wells avait, à son crédit, anticipées, les projets de prévision de l’avenir ont été pris au sérieux. Les bouleversements de la première moitié du 20e siècle ont créé une demande urgente de planification technocratique, donnant naissance à la « recherche opérationnelle » et, avec elle, au think tank moderne (incarné par la Rand Corporation).

En 1968, l’Institut for the Future basé à Palo Alto est apparu comme la première institution futuriste auto-identifiée de ce type. Puis, dans son best-seller de 1970 Future Shock, Alvin Toffler a proposé une « large nouvelle théorie de l’adaptation » pour une époque de changement technologique, social, politique et psychologique accéléré. Inspiré par le concept plus connu de choc culturel (l’expérience que l’on ressent en arrivant soudainement dans un environnement social étranger), Toffler a inventé son terme éponyme pour décrire la détresse psychologique qui accompagne un changement rapide et monumental. L’un des meilleurs moyens de faire face, croyait-il, était d’adopter une perspective plus orientée vers l’avenir, afin que nous ne soyons pas constamment pris au dépourvu par chaque nouvelle tendance ou développement modifiant la société.

Dans le demi-siècle qui a suivi la parution de Future Shock, le sentiment généralisé de changement constant et rapide n’a fait que s’approfondir. Mais plutôt que d’en être choqués, nous considérons désormais l’accélération comme une partie centrale de la vie moderne. Tout le monde suppose que chaque année qui passe apportera des technologies plus rapides, moins chères, plus élégantes et plus puissantes. Pas une semaine ne passe sans que des titres ne parlent de nouvelles percées en IA, en recherche biomédicale, en fusion nucléaire et d’autres perspectives prometteuses de progrès à l’horizon.

Cela peut causer de réels problèmes en pratique. Dans Imaginable: How to See the Future Coming and Feel Ready for Anything — Even Things That Seem Impossible Today, Jane McGonigal de l’Institut du Futur soutient que tout le monde devrait entraîner son esprit à penser davantage comme un futuriste. « Le but de regarder dix ans en avant n’est pas de voir que tout se produira sur cette ligne du temps », écrit-elle, « mais il y a de nombreuses preuves que presque tout pourrait se produire sur cette ligne du temps. »

En nous amenant à considérer des risques sous-estimés ou négligés qui pourraient se profiler à l’horizon, c’est un bon conseil. Et pourtant, les mêmes méthodes nous encouragent également à surestimer la probabilité de percées et de possibilités positives. Comme le concède elle-même McGonigal, un vaste corpus de recherches en psychologie montre que « imaginer un événement possible dans des détails vifs et réalistes nous convainc que l’événement est plus susceptible de se produire réellement ». La méthodologie futuriste repose sur une base de radicale ouverture d’esprit, voire de crédulité volontaire.

Selon la « Loi de Dalton » (inventée par le futuriste Jim Dator), un principe fondamental de la méthodologie futuriste d’aujourd’hui, « Toute déclaration utile sur l’avenir devrait d’abord sembler ridicule. » McGonigal nous demande donc de considérer l’énoncé : « Le soleil se lève à l’est et se couche à l’ouest chaque jour. » Cela pourrait devenir techniquement vrai si les humains voyageaient sur Mars, où les levers et couchers de soleil ne se produiraient pas « chaque jour — du moins, pas selon notre définition standard d’un “jour” sur Terre ». Comme « preuve » de cette possibilité, elle cite le fait qu’« il y a de nombreux entrepreneurs spatiaux essayant de développer la technologie pour aider les humains à s’installer sur Mars dès que possible ».

Cependant, il est certain que les affirmations faites par des entrepreneurs promettant d’envoyer des humains sur Mars ne sont pas vraiment des preuves. Musk promet ses missions vers la planète rouge depuis des années, tout en repoussant sans cesse la date cible (de 2022 à 2024 à 2026 à 2028). Lui et d’autres faisant des engagements similaires ont un intérêt financier à créer l’impression que des exploits extrêmement difficiles sont éminemment plausibles et donc investissables. Il n’est pas surprenant que la discipline futuriste et l’industrie technologique soient si étroitement liées. Tous sont dans le business de la vente d’une vision spécifique de ce qui nous attend – de capitaliser sur le FOMO qui afflige tous ceux qui n’ont pas acheté d’actions Nvidia en 2022. Rarement faisons-nous une pause pour considérer quels éléments de l’image sont destinés à être des prophéties auto-réalisatrices, ou quelles alternatives sont complètement laissées de côté.

À ce stade, l’escroquerie devrait être évidente. Si Altman croit vraiment que l’AGI rendra le capitalisme de marché tel que nous le connaissons obsolète, comme il l’a récemment suggéré, pourquoi se soucie-t-il du défi concurrentiel de DeepSeek ? Pourquoi OpenAI se précipite-t-il à sortir de nouveaux modèles de raisonnement que des observateurs experts suggèrent n’ont pas été « adéquatement testés » ?

Alors qu’un éducateur bien intentionné comme McGonigal veut que nous soyons tous « prêts à croire que presque tout peut être différent à l’avenir », il y en a beaucoup d’autres dans la Silicon Valley qui ont tout à gagner d’un public prêt à croire n’importe quoi — que ce soit des entrepreneurs douteux ou leurs compagnons de route dans le secteur du conseil d’entreprise. Le futurisme spéculatif — et notre obsession culturelle pour ses offres — est une aubaine pour ceux qui cherchent plus de financement ou de soutien pour des projets clinquants comme mettre fin au vieillissement, coloniser Mars ou créer une superintelligence. Mais chaque dollar investi dans ces poursuites douteusement réalisables est un dollar qui ne va pas soutenir l’éducation, la santé publique et d’autres besoins « ennuyeux » plus immédiats.