In tijden van politieke chaos, deepfakes en NAAR DEDe gegenereerde inhoud kan gedijen. Een voorbeeld hiervan: de online reactie op de schokkende operatie van de Amerikaanse regering in Venezuela afgelopen weekend, die meerdere luchtaanvallen omvatte en een clandestiene missie die eindigde met de arrestatie van de president van het land, Nicolás Maduro, en zijn vrouw. Ze werden al snel beschuldigd van narcoterrorisme en andere misdaden, en worden momenteel vastgehouden in een federale gevangenis in New York.
Op dit moment komen de feiten van de buitengewone operatie nog steeds aan het licht en is de toekomst van Venezuela ongelooflijk onzeker. President Donald Trump zegt dat de Amerikaanse regering van plan is het land te ‘sturen’. Minister van Buitenlandse Zaken Marco Rubio heeft aangegeven dat nee, Amerika het niet zal doen en dat voormalig vice-president, nu beëdigd, Delcy Rodriguez in zijn plaats de leiding zal nemen. Weer anderen roepen oppositieleiders María Corina Machado en Edmundo Gonalzez op om de leiding te nemen.
In tijden als deze kunnen deepfakes, desinformatiecampagnes en zelfs door AI gegenereerde memes de kop opsteken. Wanneer de waarheid, of de toekomst, nog niet duidelijk is, stelt generatieve AI mensen in staat inhoud te bieden die onbeantwoorde vragen beantwoordt en de lege plekken invult met wat ze misschien willen. Wil wees waar.
We hebben al AI-video’s gezien van wat er in Venezuela gebeurt. Sommige zijn meme-afbeeldingen van Maduro, geboeid in een militair vliegtuig, maar sommige kunnen worden verward met echte beelden. Terwijl grote aantallen Venezolanen naar buiten kwamen om de gevangenneming van Maduro te vieren, zijn er ook video’s verschenen waarop door AI gegenereerde menigten te zien zijn, waaronder A die blijkbaar X-CEO Elon Musk voor de gek hield.
Anekdotisch genoeg is de deepfake-inhoud met betrekking tot Venezuela de afgelopen dagen toegenomen, zegt Ben Colman, medeoprichter en CEO van Reality Defender, een bedrijf dat deepfakes opspoort. Deze verhalen zijn aan geen enkele beweging gebonden en ‘lopen uiteen van nationalistisch tot anti-regering, pro-Venezuela, pro-VS, pro-eenheid, anti-globalisering en alles daartussenin’, zegt hij.
“Het verschil tussen deze gebeurtenis en de gebeurtenissen van nog maar een paar maanden geleden is dat beeldmodellen de afgelopen dagen zo goed zijn geworden dat de meest scherpzinnige factcheckers, mediaverificatie-experts en experts in ons vakgebied veel ervan niet handmatig kunnen verifiëren door te wijzen op specifieke aspecten van het beeld als indicator voor de geldigheid of het gebrek daaraan”, legt Colman uit. “Die strijd (van handmatige en visuele verificatie) is vrijwel verloren.”
zei Open AI Snel bedrijf dat het de prestaties van Venezuela op het gebied van zijn producten in de gaten houdt en zegt dat het actie zal ondernemen als het schendingen van zijn gebruiksbeleid constateert.
Het Global Engagement Center van het ministerie van Buitenlandse Zaken, een federaal orgaan dat is opgericht om desinformatiecampagnes aan boord te monitoren, had de situatie eerder in de gaten gehouden, zegt een voormalig werknemer.
Als onderdeel van de Russische oorlog in Oekraïne werd het ministerie van Buitenlandse Zaken bijvoorbeeld geconfronteerd met verzinsels van leiders die soldaten probeerden te overtuigen hun wapens neer te leggen, en met valse verhalen over nog meer deelnemers aan de oorlog. Tijdens politieke chaos is het gebruikelijk dat online actoren proberen tegengestelde facties te ontmoedigen, voegt de persoon eraan toe. Dat centrum werd later gesloten, nadat de Republikeinen de groep ervan beschuldigden de Amerikanen te censureren.
Het ministerie van Buitenlandse Zaken reageerde op het moment van publicatie niet op een verzoek om commentaar.
“Versnellers”
Politieke deepfakes en door AI gegenereerde inhoud zijn nu gemeengoed. Een paar jaar geleden werden tv-presentatoren gegenereerd door kunstmatige intelligentie pro-regeringsargumenten verspreidenblijkbaar bedoeld om het idee te promoten dat de economie en veiligheid van Venezuela over het algemeen goed waren, ging het viraal door het hele land. In 2024 lanceerde een partij die banden had met de voormalige president van Zuid-Afrika, Jacob Zuma, heeft een deepfake-video gedeeld met een door AI gegenereerde Donald Trump die hun platform onderschreef (wat verre van de standaard was). het enige voorbeeld in het land). Evenals het recente New York City dat bleek uit de burgemeestersverkiezingenAI wordt vaak gebruikt tijdens spannende campagneseizoenen.
Het Knight First Amendment Institute, dat analyseerde het gebruik van kunstmatige intelligentie bij de verkiezingen van 2024ontdekte dat veel implementaties van AI, vooral tijdens verkiezingstijd, niet noodzakelijkerwijs bedoeld zijn om te misleiden en dat desinformatie niet altijd voortkomt uit AI. Het probleem is niet alleen dat het gemakkelijk is om desinformatie te creëren met kunstmatige intelligentie, maar dat mensen openstaan voor het ontvangen van desinformatie. Met andere woorden: er is vraag naar dit soort inhoud.
“Deepfakes zijn in deze context niet alleen desinformatie, het zijn versnellers”, zegt Emmanuelle Saliba, hoofdonderzoeker bij GetReal Security, een ander bedrijf dat deepfakes opspoort. Snel bedrijf. “Hoewel een deel van de verzonnen inhoud die we hebben zien circuleren, is gemaakt om de memecultuur te voeden, is een deel ervan gemaakt en verspreid om mensen in een toch al onstabiel klimaat te verwarren en te destabiliseren. Vertrouwen hangt aan een zijden draadje.”
