L’idéologie TESCREAL : quand le « progrès » cache un élitisme réactionnaire dangereux

Les chercheurs Timnit Gebru et Émile P. Torres ont regroupé les idéologies auxquelles ils souscrivent pour les décrire : apparemment futuristes, elles sont en réalité un concentré de pensées conservatrices et réactionnaires. C’est pourquoi, au vu de leur influence politique réelle et de plus en plus visible, il est temps de les passer en revue pour comprendre comment ils réussissent à dépolitiser un sujet pourtant crucial : celui du numérique et des objets techniques.

TESCREAL, une humanité robotisée et virtuelle

L’acronyme commence à prendre de la notoriété à partir d’avril 2024, suite à l’article The TESCREAL bundle co-publié par la fondatrice de l’institut Distributed AI Research, Timnit Gebru et le philosophe Émile P. Torres.

TESCREAL, c’est l’acronyme regroupant une série d'idéologies que Gebru et Torres essaient de rassembler dans un cadre formel afin d'en décrire les croyances et la généalogie. Sont ainsi mis ensemble : Transhumanisme, Extropianisme, Singulitarianisme, Cosmisme, Rationalisme, Altruisme efficace et Long-termisme.

Tous ces courants de pensée sont caractéristiques de petites communautés idéologiquement soudées, qui se fondent parfois les unes dans les autres autour de la Silicon Valley. Il s’agit de chercheurs, de penseurs, d'ingénieurs, mais aussi de milliardaires qui ont une « vision » à très long terme, celle d’une humanité dépassant ses limites biologiques en se mêlant progressivement aux machines, voire au développement de méthodes permettant de reproduire les consciences dans des univers virtuels. À cela s’ajoutent des ambitions de conquête spatiale et une vision déterministe de l’évolution humaine. Le triomphe de la technique correspond alors à ce triptyque « d’augmentation » de la longévité et de l’intelligence humaine, du dépassement des humains par des intelligences artificielles et de la colonisation de nouvelles planètes.

De là découle l’idée « rationaliste » et « long-termiste » de la maximisation du bien-être : en prévision des milliards d’humains du futur, il faudrait faire les meilleurs choix possibles maintenant, non pour ce qu’il se passe maintenant, mais pour ce qu'il se produira dans plusieurs siècles. Émile P. Torres expliquait ainsi en 2022, dans un article pour Salon :

« D’après le "père du long-termisme", Nick Bostrom, il pourrait y avoir quelque chose comme 10⁵⁸ humains dans le futur, quoique la plupart d’entre eux seraient en train de « vivre heureux » dans de vastes simulations numériques générées par des systèmes nanotechnologiques conçus afin de capturer tout ou partie de l’énergie produite par les étoiles […]. D’autres long-termistes, tels Hilary Greaves et Will MacAskill, calculent qu’il pourrait y avoir 10⁴⁵ personnes heureuses dans des simulations par ordinateur rien que dans notre galaxie, la Voie lactée. »

Par conséquent, il faudrait se concentrer sur le développement de ces technologies, et en particulier les intelligences artificielles, en ignorant tout le reste, notamment leurs coûts environnementaux. Suivant cette logique, tout doit être mis en œuvre pour faire advenir ce futur de consciences virtuelles et d’artefacts technologiques incroyablement complexes flottant dans l’espace. Il faut donc que le présent soit organisé en conséquence, en privilégiant les personnes dont les compétences permettraient d’accomplir ces prouesses : l’article de Gebru et Torres cite par exemple le cas du Centre for effective altruism, qui attribuait des scores dits PELTIV (Potential Expected Long-term Instrumental Value, valeur potentielle attendue à long terme). Ils citent Carla Cremer, ancienne responsable du centre expliquant son fonctionnement :

« Un candidat avec un QI normal de 100 perdrait des points PELTIV parce qu’il n’est possible de gagner des points qu’à partir de 120 points de QI. Une valeur PELTIV basse serait attribuée aux candidats qui travaillent à réduire la pauvreté dans le monde ou limiter les effets du changement climatique, tandis que les valeurs les plus hautes seraient attribuées à ceux qui travaillent directement pour des organisations "d’altruisme efficace" ou sur l’intelligence artificielle (Cremer, 2023). »

Une croyance confidentielle à l’influence considérable

Si cet ensemble d'idéologies fait l’objet d'une recrudescence d'intérêt, c'est en raison de son influence politique et économique grandissante, sans pourtant que leur origine soit identifiée.

Il s’agit par exemple des efforts constants dans le secteur du numérique pour infléchir le débat public autour des risques liés aux intelligences artificielles. Au lieu de se focaliser sur les enjeux présents, ceux qui se reconnaissent dans ce mouvement craignent une « extinction » de l’humanité qui serait dépassée par une IA toute-puissante.

Pour se donner une idée de son influence, c’est une vision partagée par le prix Nobel de physique en 2024, Geoffrey Hinton, dont les travaux sur les réseaux neuronaux sont considérés comme pionniers pour le développement des modèles d’apprentissage machine (machine learning) en vogue aujourd’hui. Mr Hinton déclarait déjà en 2018, à propos des IA, qu’il était effrayé par leur progrès fulgurant :

« J’ai soudain changé d’avis sur l’idée que ces machines vont devenir plus intelligentes que nous […]. Je crois qu’ils en sont très proches maintenant, et qu’ils seront bien plus intelligents que nous dans le futur. Comment survit-on à cela ? »

C’est une croyance qui a essaimé très largement, notamment à travers une lettre publiée en mars 2023 par le Future of Life Institute, sorte de think tank financé entre autres par Elon Musk. Largement relayée médiatiquement et signée par un grand nombre d'ingénieurs, de scientifiques et d’entrepreneurs du numérique, cette lettre parle d’une « course hors de contrôle pour le développement et le déploiement d’esprits numériques que personne – pas même leurs créateurs – ne peut comprendre, prédire, ou contrôler avec certitude ».

C’est donc en raison de ce fantasme qu’il leur apparaît urgent de développer une « Intelligence Artificielle Générale » qui serait « correctement » orientée, c’est-à-dire à qui on aurait insufflé un ensemble de valeurs assurant qu’elle ne détruise pas l’humanité. Tout ceci exige d’adhérer à des hypothèses qui ne sont pas particulièrement solides.

La notion selon laquelle les systèmes d’IA seraient capables de raisonnement apparaît très improbable avec le fonctionnement des modèles de langage actuels. De plus en plus, la recherche contemporaine tend à montrer au contraire que les capacités réflexives dont dispose un humain sont très difficiles, voire impossibles à reproduire avec de grands modèles probabilistes. Mais cela n’empêche pas les entrepreneurs de l’intelligence artificielle de promettre qu’ils sont tout près du but.

Mais pour parvenir à produire cette « véritable » intelligence, il faut engloutir des sommes colossales. Le 2 octobre 2024, l’entreprise OpenAI, qui produit ChatGPT, annonçait avoir reçu plus de 6 milliards d'investissements supplémentaires, et être évaluée à 157 milliards de dollars.

Dans le même temps, le site The Intercept dévoilait qu’OpenAI était très loin de la rentabilité. Son déficit attendu pour 2024 est à hauteur de 5 milliards en 2024, et pourrait atteindre le triple en 2026. L’entreprise ne commencerait à devenir rentable qu’à partir de 2029, année pour laquelle elle espère atteindre les 100 milliards de chiffre d’affaires, vingt-deux fois plus que les 4 milliards atteints à l’heure actuelle.

Son PDG, Sam Altman, expliquait en février 2024 qu’il lui faudrait 5 000 à 7 000 milliards de dollars supplémentaires d’investissement pour atteindre sa « vision ». Avec cette somme, équivalente au triple du PIB de la France en 2023, Altman dit vouloir créer sa propre ligne de production de processeurs et des centres de données permettant de stocker les volumes d'information nécessaires à l'avènement de cette conscience artificielle.

Si cette démesure peut prêter à sourire, elle est pourtant prise très au sérieux. En attendant que les modèles d’IA qui existent aujourd'hui trouvent une manière efficace de générer du profit, les entreprises qui les créent sont prises dans une sorte de course folle à l’armement et se précipitent pour pouvoir affirmer être les premières à atteindre ce but ultime, celui de générer une conscience artificielle, qui serait donc capable de raisonner comme un être humain, voire mieux.

Alliance entre néo-réactionnaires et racisme classique

Mais l’enjeu n'est pas qu'économique : progressivement, il est devenu politique. Gebru et Torres affirment que l'idéologie TESCREAL prend racine dans un eugénisme, qui postule une inégalité naturelle, génétique, chez les humains, et par conséquent qu’il est nécessaire de les sélectionner, afin « d’améliorer l’espèce humaine ».

Cette notion, si elle a beaucoup inspiré le troisième Reich allemand, le précède et lui a survécu. Gebru et Torres prennent pour exemple la Société britannique sur l’Eugénisme, créée en 1909, et qui existe encore aujourd’hui sous un autre nom : le Forum Adelphi pour la Génétique. Si le modèle eugéniste original du début du XX^e siècle n’est plus revendiqué explicitement aujourd’hui, il persiste encore dans une version contemporaine.

L’idée de ces inégalités naturelles a servi de base intellectuelle à des personnages influents dans la communauté TESCREAL. Gebru et Torres rappellent que le philosophe Nick Bostrom affirmait dans les années 1990, que « les noirs sont plus idiots que les blancs ». Or, Bostrom est aujourd'hui une sommité, connue pour ses publications, affirmant que l’intelligence artificielle produisait un risque existentiel pour l'humanité. Il est conseiller du Future of life Institute et dirigeait jusqu’à récemment son propre laboratoire à Oxford, le Future of Humanity Institute.

Cette obsession pour un futur fantasmé, résultant de l’immense pouvoir attribué à des solutions techniques réelles ou imaginaires, conduit donc les penseurs du « rationalisme » et de « l’altruisme effectif » à réinterpréter à leur manière une rengaine eugéniste, celle de la valeur différenciée des êtres humains. Comme nous l’avons dit plus haut, ceux-ci sont évalués en fonction de leur intelligence, et ce, suivant des critères discriminatoires, parfois ouvertement racistes.

Il existe donc une convergence entre les mouvements réactionnaires aux États-Unis et les entreprises en pointe du numérique. Peter Thiel, PDG de Palantir, en est un exemple notoire. Ce milliardaire, soutien de Trump, appartient à la communauté des « rationalistes », et finance nombre de candidats Républicains nationalistes, chrétiens, et appartenant plus ou moins explicitement à la mouvance du suprémacisme blanc.

Ce soutien va au-delà d’une simple préférence pour une politique économique de dérégulation favorable aux milliardaires. Dans le cas de Thiel, il s’agit d'une opposition farouche à tout « contrôle étatique ». Mais aussi, et plus largement, c’est parce qu'il souscrit à une idéologie techno-solutionniste et réactionnaire qui naturalise les inégalités entre humains. C’est la même que l'on retrouve chez Donald Trump, dont les accents néonazis deviennent de plus en plus prononcés.

Dans une colonne du Guardian, Sidney Blumenthal, journaliste et ex-responsable politique de l’administration Clinton, fait remarquer que la rhétorique sur la « pureté du sang » est en train de devenir centrale dans les discours de Trump, citant plusieurs passages :

« "Vous avez de bons gènes, vous le savez, n’est-ce pas ?" dit Trump à un rassemblement presque exclusivement blanc dans un village du Minnesota pendant sa campagne de 2020, qui avait voté contre l’accueil de réfugiés. […] En avril [2024], lors d’une levée de fonds avec des donateurs à Mar-a-Lago, Trump a rappelé fièrement sa déclaration sur les "pays de merde", pour élaborer des catégories de migrants acceptables et inacceptables. "Et quand j’ai dit : pourquoi on ne peut pas accepter des gens de pays comme il faut ?, j’essaie d’être gentil. Des pays comme il faut, vous savez, comme le Danemark, la Suisse ?" […].

Quand Trump parle d’immigration, il veut dire race. Quand il dit crime, il veut dire race. Quand il dit communisme, socialisme, ou Démocrate, il veut dire race. Lorsqu’il dit que l’Amérique est en déclin, il veut dire race. Lorsqu’il dit « American First », il veut dire race. Quand il dit sang, il veut dire race. Quand il dit poison, il veut dire race. »

Le front réactionnaire

Ce qui nous amène au grand rassemblement de Pennsylvanie d’octobre 2024, où Elon Musk apparaît aux côtés de Donald Trump. Les efforts de Musk sont désormais colossaux : il a investi plus de 75 millions de dollars directement dans sa campagne électorale. Il a également instrumentalisé Twitter (ou X) progressivement, en coordonnant la suppression d’informations issues de la campagne de Donald Trump.

Le groupe d’influence politique (PAC, Political Action Committee) d’Elon Musk a récemment été identifié par les journalistes du média 404 comme étant à l'origine de messages publicitaires ciblant des communautés juives et musulmanes. Ces publicités, diamétralement opposées, mettent en scène une Kamala Harris, candidate démocrate, comme un soutien fervent soit d’Israël soit de la Palestine, en fonction de la communauté ciblée.

Car Elon Musk est le personnage le plus proéminent et désormais le plus engagé de la communauté TESCREAL. Il est explicitement transhumaniste, promouvant son processeur Neuralink, qu’il souhaite voir implanté dans des cerveaux humains après avoir expérimenté avec des singes. SpaceX, sa compagnie spatiale, est selon lui destinée à coloniser Mars et assurer la survie de l’humanité. Et s’il est un signataire de la lettre demandant de « faire une pause » dans le développement de l’IA, c’est parce qu’il pense lui aussi que l’intelligence artificielle générale est potentiellement un cataclysme ou bien une utopie. Il a à son tour lancé son propre robot conversationnel, Grok, qui ne serait pas infecté par le « virus woke ».

Et toujours selon Musk, une victoire de Kamala Harris représente un danger existentiel pour l’humanité, car elle ferait partie des personnes faisant obstacle au « nécessaire » développement des technologies qui rendent profitables ses entreprises. En somme, le racisme de plus en plus décomplexé et technophile d’Elon Musk représente le point culminant de cette union entre les réactionnaires traditionnels et ceux qui arrivent avec l’avènement de l’économie numérique.

L’idéologie TESCREAL est fondamentalement un messianisme, qui exige une croyance absolue dans un avenir présenté comme le seul possible. Par conséquent, tout ce qui y fait obstacle est un risque existentiel pour l’espèce humaine. Elon Musk croit donc, comme Donald Trump, qu’il est en train d’essayer de sauver l'humanité malgré des opposants « contre-nature ».

L’autoritarisme est donc un allant de soi : on le retrouve en amont, dans la naturalisation des hiérarchies sociales, et en aval, dans la défense d’un régime autoritaire, voire une volonté de « purge » des éléments gênants. Si Musk revendique être un génie, c’est aussi parce que, pour lui, cela légitime la position dans laquelle il se trouve : il est naturel, pour lui comme pour Trump, d’être à la place qu’il occupe. Lorsqu’Elon Musk s'attaque à la candidate démocrate, il le fait en ces termes :

« Bien que j’aie beaucoup de sujets d’inquiétude sur le potentiel régime de Kamala, ce qui m’arrête définitivement, c’est que la bureaucratie qui étrangle actuellement les États-Unis à la mort a la garantie de croître sous une administration démocrate. Cela détruirait le programme spatial pour Mars et condamnerait l’humanité. »

L’idéologie TESCREAL a donc un effet paradoxal : tout en radicalisant à l’extrême ses défenseurs, elle dépolitise entièrement les sujets dont elle s’empare. Musk considère en quelque sorte qu’il est « naturel » de s’aligner avec le parti républicain et les fondamentalistes chrétiens, car il faut nécessairement voir advenir cette vision du futur. C’est une forme d’eschatologie qui n’est pas sans rappeler ce mélange de fanatisme religieux et politique dont Trump s’est fait le porte-étendard.

Par conséquent, il n’est plus question de politique, c'est-à-dire de gouvernement, de pouvoirs et de désirs. Une sorte de destinée manifeste contemporaine obère toute pensée qui entrerait en contradiction avec cette pensée technofasciste, qui se rapproche de plus en plus d’un fascisme classique.

Photo d'ouverture : @Midjourney

Signaler une erreur

Dérives autoritaires GAFAM Ploutocratie Article Monde