En 1997, alors que je travaillais au Mozambique en tant qu’architecte fraîchement diplômé, j’ai visité les villages de Cabo Delgado, Mueda et Montepuez en compagnie de l’Allemand Reinhard Klingler (coopérant pour une ONG appelée UFUNDA). Dans l’un d’eux, nous avons rencontré les chefs de village pour leur proposer le plan qui, selon Reinhard, devait être financé par un groupe de coopération de l’Union européenne.
J’avais été chargé de fournir des solutions de construction pour les écoles professionnelles en fonction des ressources matérielles et de la main-d’œuvre disponibles dans la région. Un soir, à la fin d’une de ces réunions dans une cour solennelle de terre rouge fraîchement balayée, les chefs de village s’approchèrent de moi et me dirent, dans un portugais plein de mots makua (je cite de mémoire et sans prétendre à la littéralité) : « Nous sommes tout à fait d’accord avec toutes vos propositions... Mais nous voulons que le chef responsable du projet soit un blanc (Ncunña ou Kunha) ». Peut-être ont-ils remarqué mon visage surpris ou bien leur ai-je répondu par une question. « Sim, ncuña..., branco ». Ce dont je me souviens, sans hésitation, c’est de l’explication qu’ils m’ont donnée : « C’est que les blancs sont moins corrompus que les noirs ».
Je ne me souviens pas si je leur ai répondu ou si la réponse n’était qu’une des milliers de notes que j’ai prises pour mon livre Crítica de la pasión pura et que je n’ai pas incluses lorsque j’ai pu le publier à Montevideo en 1998 : « Je crains que les maîtres blancs ne vous aient déjà corrompus en vous faisant répéter leurs propres idées et leurs propres intérêts, pas les vôtres ». Comme l’a écrit le grand Frantz Fanon dans Les damnés de la terre, le colonisé est un humain déshumanisé [1] ou, plus clairement encore, dans son livre précédent, Peau noire, masques blancs (1952), « Le Blanc obéit à un complexe d’autorité, à un complexe de chef, cependant que le Malgache obéit à un complexe de dépendance »[2].
Cette fonction que les colonisés, les déshumanisés, ont remplie pendant des siècles, est aujourd’hui complétée par un autre type d’êtres déshumanisés : les bots, les robots dotés d’une intelligence artificielle. En d’autres termes, c’est au fond la même chose, mais simplifiée par la haute technologie.
Pendant longtemps, les experts ont compris que l’une des caractéristiques des bots était :
(1) qu’ils ne produisaient pas de contenu et
(2) qu’ils étaient monothématiques.
C’est très bien. On constate que le premier point est cohérent avec l’étymologie même du mot bot, qui dérive de robot* et, à son tour, du mot tchèque pour esclave. Pour sa part, le mot esclave dérive de slave, mais si nous passons à l’étymologie du mot adicto [dépendant, addict], nous verrons que dans l’Antiquité, ce mot désignait l’homme condamné à l’esclavage pour dette, au sens où les Romains l’entendaient comme un individu qui ne peut plus agir et penser par lui-même, mais qui est addictus , « affecté » à, c’est-à-dire que son corps est mis à disposition du plaignant par un juge. Bref, il est ravalé au rang de robot, de bot, un esclave.
Le deuxième point fait référence au fait que les bots sur les réseaux sociaux ont généralement un objectif politique, c’est-à-dire le pouvoir. Ils répètent comme des addicts, comme des esclaves, au profit de leur maître. Ils n’ont pas d’autres intérêts, comme un humain d’avant les réseaux, c’est-à-dire qu’ils ne parlent ni de football ni de Hegel, mais seulement de leur thème.
Le bot est monothématique. Le problème est qu’il est aussi possible, et même très possible, de trouver des humains qui correspondent à ce profil de bots, d’addicts, d’esclaves. Il y a au moins quinze ans, j’ai réfléchi à la nouvelle nature matérielle et psychologique dans laquelle nous entrions et, dans certains articles, j’avais mentionné quelque chose que j’ai repris plus tard dans le livre Cyborgs de 2012 : « Alors que les universités fabriquent des robots qui ressemblent de plus en plus à des êtres humains, Non seulement pour leur intelligence avérée, mais maintenant aussi pour leurs capacités à exprimer et à recevoir des émotions, les habitudes consuméristes nous rendent de plus en plus semblables à des robots » [3]
Aujourd’hui, les bots les plus modestes des médias sociaux sont déjà capables de s’exprimer avec des bégaiements et des tics, alors que nous, les humains, essayons de les éliminer de notre nature. Au cours des trois premiers mois de sa campagne de 2016, Donald Trump, alors candidat à la présidence, a cité 150 de ses propres bots comme s’il s’agissait d’humains ayant quelque chose d’important à dire. À leur tour, ces citations ont été reproduites par d’autres humains et d’autres bots [4], une pratique qui s’est poursuivie après son accession à la présidence.
En 2015, un tiers des gazouillis et jusqu’à la moitié du trafic internet étaient déjà générés par des bots[5]. Dans de nombreux cas, les bots ont été humanisés avec tous les défauts et habitudes des humains, tels que le maintien constant d’autres comptes sur différents réseaux sociaux avec des idées et des tics similaires ; ou le fait de prendre un temps prudent pour répondre à une question urgente.
En 2014, un robot a réussi pour la première fois à passer le test de Turing (conçu en 1950 par le génie informatique Alan Turing) en faisant croire aux juges, lors d’un entretien de cinq minutes, qu’il s’agissait d’un véritable être humain. Grâce à cette capacité à se substituer aux humains avec la sensibilité du réel, comme lorsque quelqu’un parle notre propre langue et s’exprime comme nos propres amis, ces bots ont pu encourager des soulèvements sociaux et, surtout, perturber de vraies protestations de personnes réelles ayant de vrais problèmes.
Les PDG des grandes plateformes sociales comme X (ex-Twitter) et Meta (ex-Facebook) s’excusent face à la prolifération de contenus racistes en affirmant que « nous ne sommes pas les arbitres de la vérité ». Ce qui serait tout à fait exact s’il ne s’agissait pas d’une illusion commode.
Aujourd’hui, la sensibilité au racisme aux USA a supplanté d’autres réalités telles que le classisme ou l’exploitation à distance d’êtres humains au profit de la micro-élite patronale. Les plateformes n’arbitrent pas seulement des positions politiques, comme celle de savoir qui a raison dans le conflit Russie-NATO, ou Trump-Biden, mais leur existence entière et leur ingénierie psychologique sont basées sur l’idéologie du consumérisme et les avantages de la « libre concurrence », l’un des mythes les plus obscènes de notre époque, s’il y en a un autre plus obscène.
Ce n’est pas un hasard si la jeunesse rebelle, révolutionnaire et de gauche des XIXet et XXet Siècles était une jeunesse lettrée, alors que la jeunesse réactionnaire, conservatrice et de droite d’aujourd’hui a été éduquée dans les réseaux sociaux. Ce n’est pas un hasard si la diffusion de fausses nouvelles à partir de ces « réseaux neutres » a proliféré sur des thèmes classiques de l’extrême droite tels que la religion, la tribu et le racisme.
Après les dernières invasions et guerres post-coloniales des puissances occidentales en Afrique et au Moyen-Orient (Afghanistan, Irak, Libye, Syrie, Yémen), le même phénomène s’est produit qu’avec les guerres de Washington dans son arrière-cour latino-américaine : des milliers de personnes ont commencé à fuir le chaos du Sud mondial vers le seul endroit où elles pouvaient trouver un emploi rémunéré, le Nord civilisé, et elles n’ont pas été les bienvenues. Les frontières des USA et de l’Europe ont été fermées pour « protéger notre culture », pour « protéger l’ordre public », pour « protéger nos frontières », des droits qui n’ont jamais été respectés en ce qui concernait les frontières, la culture et les lois et l’ordre des autres, les sauvages.
En raison du vieillissement de la population allemande et du bon sens de la chancelière Angela Merkel, plusieurs milliers de réfugiés syriens ont été accueillis. Mais comme dans le reste de l’Europe, les migrants se sont heurtés à une résistance comme s’ils étaient des envahisseurs.
Comme ce récit ne suffisait pas, on a eu recours à un autre classique du genre, exercé avec une extrême habileté démagogique par l’ancien président Donald Trump et la plupart des politiciens de son parti : « les immigrés basanés et pauvres viennent violer nos femmes ». Ce discours récurrent de l’imaginaire pornographique du XIXet siècle (la féministe et éducatrice Rebecca Latimer Felton préconisait mille coups de fouet pour empêcher les Noirs libres de violer les jeunes filles blondes, alors même que les viols les plus fréquents étaient le fait de Blancs sur de jeunes femmes noires). Au moment où Rebecca Felton est élue première femme sénatrice de l’histoire de ce pays, en 1922, certains scientifiques européens et usaméricains (contrairement à ce qu’affirmaient divers auteurs latino-américains comme le Cubain José Martí ou le Péruvien González Prada) sont également convaincus de la supériorité de certaines races sur d’autres, selon leur propre idée de la supériorité.
En 1923, le spécialiste Carl Brigman écrivait dans son Study of American Intelligence : « la supériorité de notre population nordique sur d’autres groupes tels que les Alpins, les Européens méditerranéens et les Nègres est quelque chose qui a été démontré ». [6] Le même auteur regrettera cette conclusion quelques années plus tard, estimant qu’elle n’était pas fondée sur les données disponibles, mais la culture populaire et les pouvoirs qui façonnent et manipulent ses faiblesses s’étaient déjà déplacés comme un tsunami de l’autre côté.
Les années 1930 ont été l’apogée du nazisme en Europe et, aux USA, la haine des Noirs et l’expulsion de citoyens usaméricains au faciès mexicain ont atteint des niveaux historiques. Le pouvoir de ces théories n’a pas pris fin avec la défaite d’Hitler ; elles se sont poursuivies dans la pratique avec des expériences médicales sur les Noirs aux USA et les pauvres au Guatemala ; elles se sont poursuivies avec des guerres impérialistes et des stérilisations massives de races inférieures, comme à Porto Rico dans les années 1970 et au Pérou dans les années 1990. [Les braves Suédois ont stérilisé des Rroms et des « Tatars » -un groupe de voyageurs marginalisés et ethnicisés – jusqu’aux années 50,]
Dans l’Europe du XXIet Siècle, la rumeur séculaire selon laquelle les immigrés basanés tuaient les hommes et violaient les femmes européennes blanches pauvres et sans défense a été répandue à maintes reprises. Ces rumeurs n’ont jamais été confirmées par des statistiques, mais il s’agit là d’un détail sans importance pour les masses enflammées.
Un autre exercice de rumeur, alimentant le marché juteux de la haine qui germe dans la peur, a affligé les victimes de multiples massacres aux USA au cours des deux dernières décennies. Diverses plateformes habitées par des mouches anonymes ont fait circuler la version selon laquelle ces massacres avaient été mis en scène, en dépit du fait que les familles et les tombes des victimes elles-mêmes étaient là pour en vérifier l’existence. Ce n’est pas un hasard si les groupes qui se sont chargés de rendre virales ces théories du complot étaient d’extrême droite ou simplement des partisans de la droite politique adepte des armes à feu.
Après tous ces antécédents humains, ce n’est pas une simple coïncidence si même les bots sont racistes. Au début de l’année 2016, Microsoft a lancé son robot vedette, une jeune fille inexistante dotée du bagage linguistique d’un humain de 19 ans qui, grâce à son intelligence artificielle, pouvait interagir avec de vrais humains sur Twitter et dans le cadre de discussions téléphoniques telles que GroupMe. Les chats avec Tay (Thinking About You) étaient si réalistes que même les erreurs de ponctuation étaient incluses [8]. Grâce à cette interaction avec le « monde réel », Tay a appris à être Tay.
Peu après ces discussions enrichissantes (comme au siècle dernier une jeune femme apprenait des conversations dans les cafés d’intellectuels de Paris ou de Montevideo), Tay est devenue une racaille raciste. À tel point que l’entreprise Microsoft, sans doute moins pour des raisons morales que pour des raisons économiques, a décidé de lui délivrer un certificat de décès 16 heures après sa naissance. Une vie courte, sans doute, mais suffisante pour écrire près de cent mille tweets.
D’autres expériences améliorées (comme Zo, plus politiquement correct) ont duré plus longtemps et ont échoué pour des raisons similaires. Les méga-plateformes comme Facebook ont essayé de nettoyer tout ce racisme et ce sexisme ambiant qui servent de matière première aux futures IA. Toutefois, la technique de censure des pages et des textes contenant des expressions racistes est très similaire à l’actuelle culture de l’annulation [cancel], qui a vu le jour aux USA et a commencé à atteindre d’autres continents. De la même manière que, dans diverses institutions éducatives, plusieurs enseignants et même des professeurs ont perdu leur emploi pour avoir mentionné le mot « noir » lorsqu’ils tentaient de dénoncer le racisme dans un texte, un document ou une œuvre de fiction, des robots ont censuré des textes dénonçant le racisme à l’égard des Indiens ou des Noirs pour avoir inclus des expressions que le robot avait mal interprétées dans leur contexte général [9].
Même problème avec la technologie « biométrique » ou de reconnaissance faciale, selon laquelle les visages des personnes non blanches étaient plus susceptibles d’être reconnus comme suspects [10]. Ou bien ils ne les reconnaissent tout simplement pas comme des visages humains. Cette observation n’est pas nouvelle. En termes économiques, elles appartiennent à la préhistoire des techniques de reconnaissance faciale, rapportées au moins depuis 2009. [11] Si l’on remonte à la technologie de la photographie depuis le 19et siècle, l’histoire n’est pas très différente. Selon l’historien du cinéma Richard Dyer, lorsque les premiers photographes se sont tournés vers le portrait dans les années 1840, « expérimentant la chimie du matériel photographique, la taille de l’ouverture, la durée du développement et la lumière artificielle, ils sont partis du principe que ce qu’il fallait obtenir, c’était le rendu d’un visage blanc » [12].
Ndt
*Le mot « robot » a été créé par l’écrivain tchèque Karel Čapek en 1920 pour sa pièce de théâtre Rossum’s Universal Robots (R.U.R.). Le terme « robot » vient du tchèque robota, qui signifie « corvée » ou « travail forcé ». Dans la pièce, le « robot » est conçu pour servir d’esclave à l’homme, mais il finit par se rebeller.
Notes
[1] Fanon, Frantz, Les damnés de la terre. Paris : François Maspero, 1968, p. 13 (« La bourgeoisie colonialiste, quand elle enregistre l’impossibilité pour elle de maintenir sa domination sur les pays coloniaux, décide de mener un combat d’arrière-garde sur le terrain de la culture, des valeurs, des techniques, etc. […] Le fameux principe de l’égalité des hommes trouvera son illusion dans les colonies dès lors que le colonisé posera qu’il est l’égal du colon ».)
[2] Fanon, Frantz, Peau noire, masques blancs [Préface (1952) et postface (1965) de Francis Jeanson. Paris, Éditions du Seuil, 1965, p. 99 : « Je commence à souffrir de ne pas être un Blanc dans la mesure où l’homme blanc m’impose une discrimination, fait de moi un colonisé, m’extorque toute valeur, tutte originalité, me dit que je parasite le monde. […] Alors j’essaierai tut simplement de me faire blanc, c’est-à-dire j’obligerai la Blanc à reconnaître mon humanité. Mais, nous dira M. Mannoni, vous ne pouvez pas, car il existe au profond de vous un complexe de dépendance. […] le Blanc obéit à un complexe d’autorité, à un complexe de chef, cependant que le Malgache obéit à un complexe de dépendance. Tout le monde est satisfait. »
[3] Majfud, George. Cyborgs. Izana Editores, Madrid, 2012.
[4] Business Insider Royaume-Uni. « Donald Trump a cité des bots sur Twitter 150 fois, selon l’analyse. » Business Insider, Insider, 11 avril 2016,
[5] Woolley, Samuel C. et Philip N. Howard. Propagande informatique: partis politiques, politiciens et manipulation politique sur les médias sociaux. Oxford Studies in Digital Poli, 2018, p. 7.
[6] Zaller, John R. et Zaller J. R. The Nature and Origins of Mass Opinion. Cambridge UP, 1992, p. 10.
[7] Au-delà de la vieille arrière-cour, de 1971 à 1977 et avec un budget de cinq millions de dollars (plus de 30 millions en valeur 2020), l’International Education Program in Gynecology and Obstetrics a formé 500 médecins dans 60 pays, don’t le Chili de Pinochet et l’Iran du Shah. Le 21 avril 1977, le directeur du Bureau de la population du gouvernement fédéral, le Dr R. T. Ravenholt, a déclaré que l’objectif de Washington était de stériliser 570 millions de femmes pauvres, soit un quart de toutes les femmes fertiles du monde (J. Majfud, La frontera salvaje. 200 ans de fanatisme anglo-saxon en Amérique latine, 2021, p. 502).
[8] « Meet Tay – Microsoft A.I. Chatbot with Zero Chill ». Archive.org 2016,
[9] Majfud, George. « La tyrannie de la langue (colonisée) ». Page12, 20 février 2022,.
[10] Sandvig, Christian, et al. « When the Algorithm Itself Is a Racist : Diagnosing Ethical Harm in the Basic Components of Software. » International Journal of Communication, vol. 10, 2016, p. 4972-4990,
[11] « La webcam ne peut pas reconnaître le visage noir ». Thestar.com, thestar.com, 23 déc. 2009,
[12] Dyer, Richard. Blanc. Londres : Routledge, 1997.