février 21, 2025 - 10:00am

Le responsable de Palantir UK, Louis Mosley, a averti que l’intelligence artificielle pourrait devenir l’outil de censure le plus puissant au monde.

Lors d’une allocution prononcée lors de la conférence Alliance for Responsible Citizenship (ARC) de cette semaine, Mosley a mis en garde contre le risque que l’IA ne devienne l’arbitre ultime de la vérité. « L’IA entre de mauvaises mains pourrait devenir l’outil de censure, de tyrannie et de déshumanisation le plus puissant ». « Déjà, nous avons vu comment l’IA peut être alignée sur la correction politique, qu’elle soit désignée par l’acronyme CCP ou DEI », a-t-il averti, en pointant des exemples concrets où l’IA a été manipulée pour s’aligner sur des biais idéologiques.

Ce développement, a-t-il averti, est particulièrement dangereux dans les sociétés démocratiques où la liberté d’expression et le débat ouvert sont fondamentaux. L’IA, mal utilisée, pourrait remplacer le véritable discours par des « vérités » soigneusement sélectionnées et politiquement alignées, menant à une ère d’autoritarisme numérique. Évoquant les théories d’Eric Weinstein, qui a inventé le terme « Complexe de suppression d’idées distribuées » (Disc), le responsable de Palantir a décrit la censure moderne comme décentralisée, mais impitoyablement efficace. Plutôt qu’une seule autorité imposant des restrictions, la censure d’aujourd’hui fonctionne à travers un réseau de vérificateurs de faits, d’ONG, d’organisations médiatiques et d’institutions académiques. « Il y avait autrefois une Chambre des étoiles. Maintenant, il y en a autant que d’étoiles dans le ciel », a-t-il observé.

Mosley a soutenu que ce modèle est plus dangereux que la censure autoritaire classique. Ceux qui remettent en question les récits sanctionnés sur des sujets tels que les origines de Covid-19 ou les politiques migratoires ne sont pas seulement réduits au silence, ils sont discrédités, déplatformés et, dans des cas extrêmes, rendus « sans personne ». « Ceux qui s’opposent au Disc sont accablés d’opprobre, dénoncés comme dangereux ou arriérés, leur emploi et leur réputation menacés », a-t-il déclaré.

Le dirigeant de Palantir a averti que l’IA pourrait amplifier ce processus, rendant la censure presque impossible à détecter. « La capacité du Disc à intimider et à dicter des conditions s’estompe », a-t-il dit, « mais alors qu’il s’effondre, nous devons rester vigilants contre de nouvelles formes de censure et résister à la tentation toujours présente de leur faire ce qu’ils nous ont fait. »

Mosley a soutenu qu’avec l’internet qui démantèle les anciennes structures de pouvoir, les médias traditionnels et les récits soutenus par l’État ont du mal à maintenir le contrôle. En conséquence, « la technologie qui a renforcé le Disc renforce également les rebelles », a-t-il noté. Citant le Département de l’efficacité gouvernementale (DOGE) d’Elon Musk, Mosley a affirmé que la censure dirigée par l’IA pourrait être combattue. « Si le DOGE a son mot à dire, le financement et le pouvoir politique des censeurs s’estomperont — aux États-Unis du moins. »

L’allocution du dirigeant de Palantir intervient quelques jours après que son collègue Alex Karp a émis un avertissement similaire aux partis de gauche et centristes à travers l’Occident. En ciblant les démocrates, Karp a affirmé que le parti « commet un suicide » en refusant de s’engager avec des « préoccupations du monde réel ». « C’est parce que nous ne sommes pas autorisés à admettre la vérité. Nous devons littéralement dire que tout ce qui a été dit par l’opposition doit être faux, y compris des choses fondamentales comme la sécurité nationale et le contrôle des frontières. Cette cécité auto-imposée mène à l’effondrement. »

Malgré ces avertissements, Mosley a exprimé son optimisme quant au fait que la technologie pourrait également être utilisée pour la libération. Tout comme l’imprimerie a autrefois donné du pouvoir aux masses contre les élites enracinées, de nouveaux modèles d’IA pourraient être développés pour protéger la liberté d’expression, garantir la transparence et prévenir la monopolisation de l’information. Il a exhorté les décideurs, les technologues et les citoyens à rester vigilants contre la marée montante de la suppression numérique.

« L’histoire nous dit qu’un chemin pourrait mener à l’anarchie, au chaos et à la violence », a-t-il averti. « Persévérez, et nous pourrions encore atteindre ce paradis décrit par Milton il y a des siècles : ‘Lorsque les plaintes sont librement entendues, profondément considérées et rapidement réformées, alors la limite ultime de la liberté civile est atteinte.’ »

« La porte de cet avenir est maintenant ouverte si nous choisissons d’entrer. »