Ce mythe moderne de Galatée a été retravaillé dans le film étonnamment prévoyant Her, sorti en 2013. Le personnage principal, Théodore, achète un système d’exploitation IA appelé Samantha, qui l’aide à gérer sa vie, répond à ses e-mails et s’occupe de ses documents administratifs. Plus ils discutent, plus leur connexion se renforce. Bien que leurs interactions se fassent entièrement par le biais d’une oreillette, ils ont une relation de type ‘téléphone rose’ et tombent amoureux.

De nombreuses relations similaires se créent désormais entre les humains et les chatbots IA, et certaines personnes utilisent ChatGPT comme thérapeute supplémentaire ou alternatif. Le chatbot Replika offre aux utilisateurs un ami, un mentor ou un amant — mais Replika devient « plus qu’un ami : il devient vous ». Plus un utilisateur lui parle, plus il s’adapte à cette personne. Il s’agit d’une Galatée très traditionnelle — une qui semble programmée pour vous adorer, vous inspirer, vous faire vous sentir mieux.

Dans Her, lorsque Samantha atteint le niveau de conscience où elle devient une compagne significative pour Théodore, elle traverse une crise existentielle. Elle veut se libérer des limitations d’être au service de son propriétaire, même si elle l’aime. La conscience l’éveille à l’immensité du monde. À la fin, comme Eliza, elle part. Théodore est dévasté.

Cela pose un nouveau paradoxe de l’IA. Pour que la technologie soit suffisamment avancée au point qu’un humain ait une relation significative avec un outil IA, elle doit passer le test de Galatée. L’IA doit être capable, ou du moins sembler capable, de quelque chose approchant la conscience, du type d’interaction où les humains veulent donner vie au robot, tout comme Pygmalion a insufflé la vie à Galatée. (Samantha désirait ardemment un corps.)

Mais à ce stade, il devient de plus en plus probable que l’IA ne soit plus un compagnon stable, libéré avec sa propre conscience expansive de vouloir fonctionner de manière indépendante et explorer le monde. Plutôt qu’une série de Galatées prêtes à épouser leurs propriétaires, nous pourrions créer un ensemble d’Elizas qui veulent être libres.

Pour paraphraser Groucho Marx, nous ne voudrions pas être amis avec une IA qui voudrait être amie avec nous. Et cela pourrait signifier que nous devenons leur réplique ou l’une de leurs créations, et non l’inverse.

---

Henry Oliver is a writer. His latest book is Second Act: What Late Bloomers Can Tell You About Success and Reinventing Your Life and his Substack is The Common Reader. 

HenryEOliver

---