IHet was mijn blauwe t-shirt, een geschenk van mijn schoonzus, dat alles weggaf. Het deed me denken aan Jakov Petrovitsj Goljadkin, de bescheiden bureaucraat in Fjodor Dostojevski’s verhaal The Double, een verontrustende studie van het gefragmenteerde zelf binnen een enorm en onpersoonlijk feodaal systeem.
Het begon allemaal met een bericht van een gewaardeerde collega die mij feliciteerde met een videotoespraak over een geopolitiek onderwerp. Toen ik op de bijgevoegde YouTube-link klikte om te onthouden wat ik zei, begon ik me zorgen te maken dat mijn geheugen niet meer was wat het was. Wanneer heb ik bovenstaande video opgenomen? Na een paar minuten wist ik dat er iets mis was. Niet omdat ik fouten vond in wat ik zei, maar omdat ik besefte dat de video mij liet zien terwijl ik aan mijn bureau in mijn kantoor in Athene zat met dat blauwe T-shirt aan, terwijl ik mijn thuiseiland nog nooit had verlaten. Het bleek een video te zijn met een deepfake AI-dubbelganger van mij.
Sindsdien zijn honderden van dergelijke video’s, waarin mijn gezicht te zien is en mijn stem synthetiseert, verspreid op YouTube en sociale media. Dit weekend was er ook nog een filmpje, waarin een diep neppe ik fictieve dingen zei over de staatsgreep in Venezuela. Ze geven les, ze zeggen dingen die ik had kunnen zeggen, soms vermengd met dingen die ik nooit zou hebben gezegd. Ze woeden, ze pontificeren. Sommige zijn grof, andere ongelooflijk overtuigend. Supporters sturen ze naar mij met de vraag: “Yanis, heb je dat echt gezegd?” Tegenstanders geven ze door als bewijs van mijn idiotie. Erger nog, sommigen beweren dat mijn dubbelgangers mondiger en overtuigender zijn dan ik. En dus bevind ik me in de bizarre positie waarin ik toeschouwer ben van mijn digitale poppen, een geest in een technofeodale machine Ik heb lang betoogd dat het niet simpelweg kapot is, maar bedoeld is om macht te ontnemen.
Mijn eerste reactie was om Google, Meta en de anderen te schrijven met het verzoek deze video’s te verwijderen. Verschillende formulieren werden in woede ingevuld voordat, een week of langer later, sommige van deze kanalen en video’s werden verwijderd, om vervolgens onmiddellijk weer in verschillende vormen te verschijnen. Binnen enkele dagen had ik het opgegeven: wat ik ook deed, hoeveel uur ik ook elke dag besteedde aan het beproeven van een geweldige technologie om mijn AI-dubbelgangers te elimineren, er zouden er nog veel meer teruggroeien, zoals de Hydra.
Al snel maakte de woede plaats voor contemplatie. Ik was het tenslotte niet degene die ruzie maakte dat big tech niet alleen het kapitalisme heeft gedigitaliseerd, maar feitelijk een grote transformatie heeft teweeggebracht, waardoor markten zijn veranderd in cloud-leengoederen en winsten in cloud-huurprijzen? Mijn AI-dubbelgangers zijn niet de perfecte bevestiging dat, in deze technofeodale realiteit, de het liberale individu is dood en begraven?
Omdat ik het gedeeltelijke verlies van zelfbezit accepteerde, heb ik troost gezocht in de rationalisatie van deze deepfakes als de ultieme daad van feodale insluiting, een bewijs dat we onder het technofeodalisme niets bezitten – niet onze arbeidsgegevens, niet onze sociale grafieken, en nu zelfs niet eens onze audiovisuele identiteit. Onze nieuwe opperheren zien ons als huurders van hun wolkenlanden, androïden wier gelijkenissen zij zich naar believen kunnen toe-eigenen om verwarring te zaaien, het discours te verwarren, om echte afwijkende meningen te onderdrukken in een kakofonie van synthetisch lawaai die voor dit doel is gecreëerd.
Maar toen kwam er een zonniger gedachte bij me op, die me terugvoert naar het oude Athene. Wat als mijn AI-dubbelgangers de voorlopers waren van? isegorie (ἰσηγορία), een principe dat even briljant, veelbelovend en afwezig is als de echte democratie zelf? Toen ik verschillende versies van AI-chatbots vroeg om het te definiëren, gaven ze allemaal plichtsgetrouw een verkeerde voorstelling van de betekenis en noemden het isegorie zoals de gelijkheid van meningsuiting, het recht om gehoord te worden, of de vrijheid om de vergadering toe te spreken. Maar dit is niet wat de Atheners met dit woord bedoelden. Sterker nog, voor hen isegorie bedoelde precies het tegenovergestelde van vandaag”vrijheid van meningsuiting‘, wat ze zouden hebben afgedaan als het abstracte recht om in de leegte te schreeuwen. Voor Atheners betekende het het recht om hun meningen serieus te laten beoordelen, op hun merites, ongeacht wie je bent of hoe goed je ze uitdrukt.
Kunstmatige intelligentie kan deepfakes redden isegorie uit de klauwen van onze technofeodale dystopie? Als we ons realiseren dat het onmogelijk is om te verifiëren wie er in een YouTube-video spreekt, zouden we dan gedwongen kunnen worden om te oordelen op de merites van wat er wordt gezegd, in plaats van op wie het zegt? In het proces van het verlagen van de authenticiteit kan het zijn dat grote technologiebedrijven onbedoeld geld hebben gedoneerd isegorie een mogelijkheid? Deze vragen boden een sprankje hoop.
Het was de hoop dat het spook van de democratie nog steeds boven ons hoofd zou kunnen opdoemen als we maar de motivatie konden vinden om omhoog te kijken, om deel te nemen aan het langzame, moeilijke, democratische werk dat de algoritmische feed moest uitwissen: de kritische evaluatie van de meningen en argumenten die op ons afkomen. Helaas is deze hoop, hoewel tastbaar, onvoldoende zolang onze technofeodale opperheren twee kolossale en asymmetrische voordelen behouden.
Ten eerste zijn zij eigenaar van de Nu zelf: de servers, de feeds, de algoritmische communicatiemiddelen. Ze kunnen hun eigen spraak als authentiek zalven met digitale zegels, terwijl ze de onze verdrinken in een moeras van twijfel en lawaai. Het resultaat? Niet isegorie, maar een digitaal goddelijk recht waarin waarheid het gepatenteerde eigendom van macht is.
Ten tweede, en nog scherpzinniger, hebben ze geen deepfakes nodig om te regeren. Hun ideologie wordt opgenomen in de machine: de kracht van meerwaarde eruit halen van proletariërs die via verschillende digitale apparaten met de cloud zijn verbonden, de logica van het afpersen van cloudhuur van vazalkapitalisten op hun platforms, de tirannie van de aandeelhouderswaarde, hun naderende succes geld privatiseren.
Het is dus niet onze taak om deze heren om verificatie te vragen. Onze taak is politiek. We moeten cloudkapitaal socialiseren, de nieuwe almachtige kracht die de samenleving transformeert en alles vernietigt wat humanisme denkbaar maakt.
Laten we tot die tijd onze digitale dubbelgangers aan het woord laten. Misschien zullen ze de show zo verzadigen dat we eindelijk zullen stoppen met naar hen te luisteren onze stem en begin met het beoordelen van de onderwerpen op hun voorwaarden. Dit is misschien wel het meest paradoxale fragment van hoop in een spiegelspel. Maar in dit carnaval grijpen we elk mogelijk fragment.
