THem New Yorkse stad De burgemeestersverkiezingen mogen de geschiedenis ingaan vanwege de verbluffende overwinning van een jonge democratische socialist, maar ze werden ook gekenmerkt door iets dat waarschijnlijk in toekomstige verkiezingen zal doordringen: het gebruik van door AI gegenereerde verkiezingsvideo’s.
Andrea Cuomovan wie verloren is Zohran Mamdani bij de verkiezingen van vorige week toonde hij bijzondere belangstelling voor het delen van deepfake-video’s van zijn tegenstander, waaronder een waarin de voormalige gouverneur werd beschuldigd van racisme, in een gebied dat zich in de verkiezingssector in ontwikkeling bevindt.
Kunstmatige intelligentie is in het verleden bij campagnes gebruikt, vooral bij het gebruik van algoritmen om bepaalde kiezers te targeten en, in sommige gevallen, zelfs om beleidsvoorstellen te schrijven. Maar naarmate AI-software zich ontwikkelt, wordt deze steeds vaker gebruikt om soms misleidende foto’s en video’s te maken.
“Ik denk dat wat deze verkiezingscyclus echt ophef veroorzaakte, het gebruik van generatieve AI was om inhoud te produceren die rechtstreeks naar de kiezers gaat”, zegt Alex Bores, een vertegenwoordiger van de staat New York die voorop heeft gelopen bij de introductie van wetgeving om het gebruik van AI te reguleren.
‘Dus zowel dat als de campagne van Cuomo gebruikte ChatGPT om zijn huisvestingsplan te genererenof Cuomo en vele anderen die door AI gegenereerde videoadvertenties voor kiezers maken, ik denk dat dat heel nieuw leek in de cyclus van 2025, of zeker gewoon veel verder dan we ooit eerder hebben gezien.
Eric Adams, de zittende burgemeester die in september uit de race stapte, gebruikte kunstmatige intelligentie om automatische oproepen te maken aan New Yorkers door hem te laten spreken in het Mandarijn, Urdu en Jiddisch, en ook te produceren een video over kunstmatige intelligentie New York wordt getoond als een schijnbaar door oorlog verscheurde dystopie om Mamdani aan te vallen.
Cuomo is ondertussen na zijn campagne beschuldigd van racisme en islamofobie hij tweette een video met een fictieve versie van Mamdani die rijst eet met zijn vingers en een zwarte man die steelt. De advertentie bevatte ook een zwarte man, gekleed in een paars overhemd, stropdas en bontjas en met een zilveren wandelstok, die de sekshandel leek te steunen. Cuomo’s campagne verwijderde het later en zei dat het per ongeluk was verzonden.
Bores, die zich kandidaat stelt om New York te vertegenwoordigen in het Huis van Afgevaardigden, zei dat veel van de door AI gegenereerde advertenties in de laatste verkiezingscyclus “waarschijnlijker” zouden zijn “uit te wijken naar wat zou kunnen worden gezien als onverdraagzaam gebied.”
“Ik denk dat dit nog iets is dat we in de gaten moeten houden: komt dat doordat de algoritmen de stereotypen uit hun trainingsgegevens reproduceren, of is het zo gemakkelijk te manipuleren. Je hoeft een acteur van een bepaald ras niet te vertellen iets bepaalds te doen, je verandert het gewoon in de computer”, zegt Bores.
“Je hoeft iemand niet recht in zijn gezicht te vertellen dat hij of zij zichzelf op een bepaalde manier portretteert. Dit maakt het voor mensen gemakkelijker om inhoud te posten waarvan ik denk dat de beleefde samenleving dat eigenlijk zou moeten afkeuren.”
In de staat New York zouden campagnes AI-advertenties als zodanig moeten labelen, maar sommige – waaronder de advertentie die Cuomo liet zien en verwijderen – hebben dat niet gedaan. De verkiezingsraad van New York heeft de taak om klachten in te dienen tegen campagnes, maar Bores merkte op dat campagnes bereid kunnen zijn om elke straf te doorbreken, vooral als de straf komt nadat de campagne is afgelopen.
“Ik denk dat je altijd campagnes zult vinden die bereid zijn die afweging te accepteren. Als ze winnen en vervolgens een boete betalen, maakt het ze niets uit, en als ze verliezen, maakt het niet uit”, zei Bores. “Je wilt dus proberen een controleregime te vinden dat dingen snel vóór de verkiezingen kan elimineren, in plaats van alleen maar achteraf te straffen.”
Robert Weissman, co-voorzitter van de non-profitorganisatie Public Citizen, die betrokken is geweest bij het aannemen van veel AI-wetten in de Verenigde Staten, zei dat het proberen om mensen te misleiden nu in meer dan de helft van de staten illegaal is, met campagnes die nodig zijn om disclaimers op generatieve AI-advertenties te plaatsen waarin staat dat ze niet echt zijn. Hij zei echter dat het reguleren van het gebruik van kunstmatige intelligentie in campagnes een urgente zaak is.
“Leugens maken al sinds mensenheugenis deel uit van de politiek. Dat is anders dan leugens, en dat is iets anders dan zeggen dat je tegenstander iets heeft gezegd wat hij niet heeft gezegd”, zei Weissman.
“Als iemand een ogenschijnlijk authentieke versie te zien krijgt van iemand die iets zegt, is het erg moeilijk voor die persoon om het tegen te spreken en te zeggen: ‘Dat heb ik nooit gezegd’, omdat je mensen vraagt niet te geloven wat ze met eigen ogen hebben gezien.”
Hoewel AI nu geloofwaardige video’s kan genereren, zijn sommige campagnes er nog steeds niet in geslaagd dit voor elkaar te krijgen. A Video “Zohran Halloweenspecial”. uitgebracht door Cuomo – deze advertentie beweerde dat deze was gegenereerd door kunstmatige intelligentie – bevatte een uiterst slordige vertolking van Mamdani, compleet met niet-gesynchroniseerde audio en een onbegrijpelijk script.
Nu de tussentijdse verkiezingen naderen en de presidentsverkiezingen van 2028 in aantocht zijn, zullen door AI gegenereerde politieke video’s waarschijnlijk in omloop blijven.
Ze worden al landelijk toegepast. Elon Musk heeft een door AI gegenereerde video gedeeld door Kamala Harris in juli 2024, nadat hij de de facto Democratische kandidaat voor het presidentschap was geworden. In die video beweerde Harris dat ze ‘de meest diverse persoon was om aan te nemen’ en beweerde dat ze ‘geen flauw idee had van hoe ze het land moest besturen’.
Hoewel staten vooruitgang boeken bij het reguleren van het gebruik van AI bij verkiezingen, lijkt er op federaal niveau weinig bereidheid te bestaan om dit te doen.
Tijdens de No Kings-protesten in oktober deelde Donald Trump een AI-video waarin hij te zien was in een gevechtsvliegtuig bruine vloeistof op Amerikanen laten vallenslechts de laatste van zijn videoposts over kunstmatige intelligentie.
Nu Trump het medium blijkbaar steunt, lijkt het onwaarschijnlijk dat de Republikeinen binnenkort zullen proberen AI in toom te houden.
