« Alors que les universités réalisent des robots qui ressemblent de plus en plus aux êtres humains, non seulement pour leur intelligence éprouvée, mais maintenant aussi pour leurs capacités à exprimer et à recevoir des émotions, les habitudes consuméristes nous rendent de plus en plus semblables aux robots »
Cyborgs, 2012
Dans un temps pas trop lointain, certains livres comme celui-ci seront précédés de l’avertissement « Écrit par un être humain » et, même alors, personne ne saura s’il n’a pas été écrit par une machine. Pour confirmer l’humanité de son auteur, des systèmes seront inventés qui peuvent, au moins, prouver la date de publication. Ma génération se vantera (non sans vanité, au double sens du terme) d’avoir vécu à trois époques différentes : l’ère des livres imprimés, l’ère d’Internet et l’ère de l’intelligence artificielle. Trois mondes vertigineusement différents.
Au contraire, une augmentation des médias de propagande de masse aura produit une diminution de la foi (et de l’intérêt) dans la réalité et la vérité. Nos enfants vivront, si nous survivons en tant que civilisation, dans un monde post-capitaliste, post-humain, post-réel. En fait, les trois postes se sont déjà installés dans notre monde, du moins en tant que réalités dans leur petite enfance. Inutile de dire que l’empreinte culturelle et civilisationnelle de la future post-réalité posthumaine a été donnée par le capitalisme avant sa mort.
À l’heure actuelle, les essais de nos étudiants universitaires écrits avec l’intelligence artificielle, bien que correctement écrits et bien organisés, sont très médiocres du point de vue critique et créatif, et assez faciles à identifier par leurs structures classiques. Mais nous devons supposer que tout cela s’améliorera avec le temps. Cependant, la frontière post-humaine sera la créativité la plus radicale des humains – ou de l’humain qui y reste – et ses ennemis les plus dangereux seront ceux qui sont aujourd’hui étiquetés avec un handicap, comme les autistes et autres, pour les raisons que nous avons exposées dans « Nous avons besoin de plus de gens bizarres ».
Le célèbre biologiste Ernst Mayr avait averti en 1995 que l’intelligence humaine est une « variation mortelle », sans grand sens dans la logique de l’évolution. Il a également observé que la durée moyenne d’existence de la plupart des espèces de mammifères est de cent mille ans, plus ou moins le temps que l’apparition de l’Homo sapiens et sa migration hors d’Afrique sont estimées (voir Illusionists, 2012, ou Without Sugar, 2022, livres que nous avons publiés avec Noam Chomsky).
Actuellement, la catastrophe climatique est la principale menace pour l’espèce humaine ou, du moins, pour la civilisation qu’elle a créée. Cette catastrophe et cette approche de l’extinction humaine ne sont dues à rien d’autre qu’à leur propre intelligence. Comme si l’intelligence humaine, comme si cette « variation létale » n’était pas un danger suffisant, maintenant un autre de ses produits a été ajouté qui peut conduire l’espèce dans la même direction mais plus rapidement : l’intelligence artificielle.
Le mot peut non seulement être une référence aux probabilités qu’un événement se produise ou non, mais à sa potentialité. Un potentiel similaire à l’extinction par un conflit nucléaire. Même si nous considérons que c’est peu probable pour le moment, son plus grand danger est que cela soit possible. L’histoire humaine fournit suffisamment d’exemples pour comprendre que ce qui a été possible devient tôt ou tard probable, aussi absurde soit-il, comme la Seconde Guerre mondiale, par exemple.
La plus grande nouveauté de l’intelligence humaine qui n’a pratiquement pas évolué depuis des milliers d’années est une variation artificielle qui deviendra bientôt une nouvelle nature. L’intelligence artificielle n’est pas seulement une alarme pour les philosophes et les romanciers, mais pour les mêmes qui sont impliqués dans son activité et son développement.
À titre d’exemple, il suffit de considérer l’avertissement collectif de 350 chercheurs, ingénieurs et PDG d’OpenAI, Google Deepmind, Anthropic parmi d’autres géants technologiques qui sont à la pointe du développement de l’IA, avertissant que les futurs systèmes pourraient être aussi meurtriers que les pandémies et les armes nucléaires, représentant un véritable « risque d’extinction » de l’espèce humaine. C’est pourquoi ils comprennent que les gouvernements doivent intervenir immédiatement en réglementant les IA au fur et à mesure que le système d’armes atomiques est réglementé. Ressource post-capitaliste typique des seigneurs néo-féodaux que les néolibéraux des colonies ne semblent pas avoir encore comprise.
Les avantages de l’IA, tels que de meilleurs diagnostics médicaux, ne suffisent pas à ignorer ses dangers. La première est qu’il effectue une amplification des pathologies humaines, telles que la poursuite du pouvoir par le conflit ou la commercialisation de l’existence (humaine et naturelle) développée par trois siècles de capitalisme. Si nous observons qui s’est passé au cours des dernières décennies, non pas avec l’IA mais avec ses prédécesseurs, les robots et les algorithmes d’Internet et des réseaux sociaux, la récurrence et la fixation de l’impulsion de manipulation et de contrôle de l’opinion publique et de ses sensibilités est le plus grand capital des élites économiques et financières au pouvoir.
Comme dans le cas de la spéculation sur les marchés boursiers de Wall Street ou de Londres, les IA amélioreraient et accéléreraient la prise de décision financière et, par conséquent, les décisions politiques en faveur de ces élites, notamment par la remise en question de la réalité, la dissolution des paramètres qui décident si quelque chose est vrai, faux ou si c’est un mensonge, c’est-à-dire un mensonge à des fins de manipulation. De là au chaos, il y a un petit pas et, au-delà, il y a l’indépendance des IA qui fera de l’espèce humaine un détail non pertinent, d’abord, inconfortable et gênant plus tard.
Supposer que les IA et leurs propriétaires, les élites au pouvoir peuvent avoir une certaine limite éthique, comme Adam Smith qui croyait que les riches auraient avant les pauvres, produits du système, c’est comme croire que lorsqu’ils investissent leur fortune dans les marchés boursiers ou dans les colonies, ils le font pour créer des emplois ou réduire la pauvreté, les inégalités et les conflits de guerre dans le monde. Si nous croyons encore en une telle sottise, alors, comme le dit le nouveau dicton populaire, « nous méritons l’extinction ».