Incidents associés
C'est ma chemise bleue, un cadeau de ma belle-sœur, qui m'a trahi. Elle m'a fait penser à Yakov Petrovitch Goliadkine, le modeste bureaucrate du roman « Le Double » de Fiodor Dostoïevski, une étude troublante de l'identité fragmentée au sein d'un vaste système féodal impersonnel.
Tout a commencé par un message d'un collègue estimé me félicitant pour une intervention vidéo sur un thème géopolitique. En cliquant sur le lien YouTube joint pour me remémorer mon intervention, j'ai commencé à craindre que ma mémoire ne me fasse défaut. Quand avais-je enregistré cette vidéo ? Au bout de quelques minutes, j'ai compris que quelque chose clochait. Non pas parce que je trouvais mes propos erronés, mais parce que j'ai réalisé que la vidéo me montrait assis à mon bureau à Athènes, vêtu de cette chemise bleue qui n'avait jamais quitté mon île natale. Il s'agissait, en réalité, d'une vidéo mettant en scène un double artificiel de moi, créé par une intelligence artificielle.
Depuis, des centaines de vidéos de ce genre, utilisant mon visage et synthétisant ma voix, ont proliféré sur YouTube et les réseaux sociaux. Même ce week-end, une nouvelle vague est apparue, montrant un double numérique de moi tenant des propos fictifs sur le coup d'État au Venezuela. Ces vidéos donnent des leçons, reprennent des choses que j'aurais pu dire, parfois mêlées à des propos que je ne tiendrais jamais. Elles s'emportent, elles pontifient. Certaines sont grossières, d'autres d'une persuasion troublante. Mes partisans me les envoient en me demandant : « Yanis, as-tu vraiment dit ça ? » Mes détracteurs les diffusent comme preuve de ma stupidité. Pire encore, certains prétendent que mes doubles sont plus éloquents et plus convaincants que moi. Je me retrouve donc dans la position absurde d'être le spectateur de ma propre manipulation numérique, un fantôme dans une machine technoféodale (https://guardianbookshop.com/technofeudalism-9781529926095/) dont je soutiens depuis longtemps qu'elle n'est pas seulement défaillante, mais conçue pour nous déposséder de notre pouvoir.
Ma première réaction a été d'écrire à Google, Meta et aux autres pour exiger le retrait de ces vidéos. J'ai rempli plusieurs formulaires sous le coup de la colère avant que, une semaine plus tard, certaines de ces chaînes et vidéos ne soient supprimées, pour réapparaître aussitôt sous d'autres noms. Au bout de quelques jours, j'ai abandonné : quoi que je fasse, quelles que soient les heures que je passe chaque jour à tenter ma chance pour que les géants du numérique fassent disparaître mes doubles IA, ils réapparaissaient sans cesse, tels une hydre.
Bientôt, la rage a fait place à la réflexion. N'étais-je pas, après tout, celui qui affirmait que les géants du numérique n'avaient pas seulement numérisé le capitalisme, mais qu'ils avaient en réalité été les fers de lance d'une profonde transformation, transformant les marchés en fiefs du cloud et les profits en rentes du cloud ? Mes doubles IA ne sont-ils pas la confirmation parfaite que, dans cette réalité technoféodale, l'individu libéral est bel et bien mort et enterré ?
Acceptant la perte partielle de notre autonomie, j'ai cherché du réconfort dans la rationalisation de ces deepfakes comme l'acte ultime d'accaparement féodal, la preuve que, sous le technoféodalisme, nous ne possédons rien : ni les données issues de notre travail, ni nos réseaux sociaux, et maintenant même pas notre identité audiovisuelle. Nos nouveaux maîtres nous considèrent comme des locataires de leurs terres virtuelles, des androïdes dont ils peuvent s'approprier l'image à volonté pour semer la confusion, brouiller les débats, noyer toute dissidence authentique dans une cacophonie de bruits synthétiques créés à cette fin.
Mais une pensée plus optimiste m'est venue à l'esprit, une pensée qui me ramène à la Grèce antique. Et si mes doubles IA étaient les précurseurs de l'iségorie (ἰσηγορία), un principe aussi brillant, prometteur et absent que la démocratie elle-même ? Lorsque j'ai demandé à plusieurs versions de chatbots IA de la définir, tous ont scrupuleusement dénaturé son sens, la définissant comme l'égalité de parole, le droit d'être entendu ou la liberté de s'adresser à l'assemblée. Mais ce n'est pas ainsi que les Athéniens entendaient ce mot. En réalité, pour eux, l'iségorie signifiait exactement le contraire de la « liberté d'expression » actuelle, qu'ils rejetaient comme le droit abstrait de crier dans le vide. Pour les Athéniens, il s'agissait du droit de voir ses opinions jugées sérieusement, sur le fond, indépendamment de qui l'on est ou même de la manière dont on les formule.
Les deepfakes de l'IA pourraient-ils sauver l'iségorie des griffes de notre dystopie technoféodale ? Lorsque nous réaliserons qu'il est impossible de vérifier l'identité de la personne qui parle dans une vidéo YouTube, serons-nous contraints de juger le fond du propos plutôt que son auteur ? En dévalorisant l'authenticité, les géants du numérique auraient-ils, par inadvertance, offert une chance à l'iségorie ? Ces questions ont fait naître une lueur d'espoir.
L'espoir que le spectre de la démocratie plane encore au-dessus de nos têtes, pourvu que nous trouvions la motivation de lever les yeux, de nous engager dans le travail démocratique, lent et ardu, que le flux algorithmique s'est efforcé d'anéantir : l'évaluation critique des opinions et des arguments qui nous sont présentés. Hélas, cet espoir, bien que tangible, demeure insuffisant tant que nos maîtres technoféodaux conservent deux avantages colossaux et asymétriques.
Premièrement, ils possèdent l'agora elle-même : les serveurs, les flux, les moyens de communication algorithmiques. Ils peuvent authentifier leurs propres paroles par des sceaux numériques, tout en noyant les nôtres dans un bourbier de doutes et de bruit. Le résultat ? Non pas l’isogorie, mais un droit divin numérique où la vérité est la propriété exclusive du pouvoir.
Deuxièmement, et plus sournoisement encore, ils n’ont pas besoin de deepfakes pour régner. Leur idéologie est intrinsèquement liée à la machine : le pouvoir d'extraire de la plus-value des prolétaires connectés au cloud via divers appareils numériques, la logique d'extraction de rentes cloud auprès des capitalistes vassaux sur leurs plateformes, la tyrannie de la valeur actionnariale, leur succès imminent dans la privatisation. argent.
Notre tâche n'est donc pas de supplier ces seigneurs de nous confirmer nos dires. Notre tâche est politique. Nous devons socialiser le capital numérique, cette nouvelle force toute-puissante qui transforme la société et détruit tout ce qui rend l'humanisme imaginable.
En attendant, laissons parler nos doubles numériques. Peut-être satureront-ils tellement le spectacle que nous cesserons enfin d'écouter notre voix et commencerons à juger les arguments selon leurs propres termes. C'est peut-être la lueur d'espoir la plus paradoxale dans ce labyrinthe de miroirs. Mais dans ce carnaval, nous nous accrochons à chaque fragment possible.