Deskundigen waarschuwen voor een bedreiging voor de democratie als gevolg van ‘zwermen AI-bots’ die de sociale media teisteren | AI (kunstmatige intelligentie)

Politieke leiders zouden binnenkort zwermen kunstmatige intelligentie-agenten kunnen lanceren die mensen nabootsen om de publieke opinie te hervormen op een manier die de democratie dreigt te ondermijnen, waarschuwde een spraakmakende groep experts op het gebied van kunstmatige intelligentie en online desinformatie.

Maria Ressa, winnaar van de Nobelprijs voor de Vrede, activiste voor de vrijheid van meningsuiting, en vooraanstaande AI- en sociaalwetenschappelijke onderzoekers uit Berkeley, Harvard, Oxford, Cambridge en Yale maken deel uit van een mondiaal consortium dat de nieuwe ‘ontwrichtende dreiging’ rapporteert die uitgaat van schadelijke, moeilijk te detecteren ‘AI-zwermen’ die sociale media en berichtenkanalen teisteren.

Een potentiële autocraat zou dergelijke zwermen kunnen gebruiken om de bevolking ervan te overtuigen geannuleerde verkiezingen te accepteren of de resultaten ongedaan te maken, zeiden ze, te midden van voorspellingen dat de technologie op grote schaal zou kunnen worden ingezet bij de Amerikaanse presidentsverkiezingen in 2028.

De waarschuwingen, vandaag gepubliceerd in Science, sluit zich aan bij de oproep tot gecoördineerde mondiale actie om het risico tegen te gaan, inclusief ‘zwermscanners’ en watermerkinhoud om door AI aangestuurde desinformatiecampagnes tegen te gaan. Bij de verkiezingen van 2024 werden vroege versies van op AI gebaseerde beïnvloedingsoperaties gebruikt TaiwanIndia en Indonesië.

“Er ontstaat een ontwrichtende dreiging: zwermen samenwerkende en kwaadaardige AI-agenten”, aldus de auteurs. “Deze systemen zijn in staat om autonoom gemeenschappen te coördineren, te infiltreren en op efficiënte wijze consensus te bewerkstelligen. Door de menselijke sociale dynamiek adaptief na te bootsen, bedreigen ze de democratie.”

Een van ’s werelds toonaangevende experts op het gebied van propagandatechnologie, Inga Trauthig, zei dat de adoptie van dergelijke geavanceerde technologie waarschijnlijk zal worden vertraagd door de onwil van politici om de controle over de verkiezingscampagne aan AI over te dragen. Een andere reden voor scepsis is de zorg dat het gebruik van dergelijke illegale technieken het risico niet waard is, aangezien kiezers nog meer worden beïnvloed door offline materiaal.

Onder de experts achter de waarschuwing bevinden zich Gary Marcus van de Universiteit van New York, een prominente scepticus van het geclaimde potentieel van de huidige AI-modellen die zichzelf een ‘generatieve AI-realist’ noemt, en Audrey Tang, de digitale premier van Taiwan, die waarschuwde: ‘Degenen die worden betaald door autoritaire krachten ondermijnen verkiezingsprocessen, bewapenen AI en zetten onze sociale krachten tegen ons in.’

Anderen zijn onder meer David Garcia, hoogleraar sociale en gedragsdatawetenschap aan de Universiteit van Konstanz, Sander van der Linden, desinformatie-expert en directeur van het Social Decision Laboratory aan de Universiteit van Cambridge, en Christopher Summerfield, onderzoeker op het gebied van kunstmatige intelligentie en hoogleraar cognitieve neurowetenschappen aan de Universiteit van Oxford.

Samen betogen zij dat politieke leiders een vrijwel onbeperkt aantal AI’s kunnen inzetten om zich online als mensen voor te doen en gemeenschappen nauwkeurig te infiltreren, hun zwakheden in de loop van de tijd te leren kennen, en steeds overtuigender, zorgvuldig op maat gemaakte onwaarheden te gebruiken om de meningen van de hele bevolking te veranderen.

De dreiging wordt nog verergerd door de vooruitgang in het vermogen van AI om de toon en inhoud van spraak te vatten. Ze zijn steeds beter in staat de menselijke dynamiek na te bootsen, bijvoorbeeld door gepast jargon te gebruiken en onregelmatig te posten om detectie te voorkomen. Vooruitgang in de ontwikkeling van ‘agentische’ kunstmatige intelligentie betekent ook het vermogen om autonoom actie te plannen en te coördineren.

Naast dat ze op sociale media actief zijn, kunnen ze berichtenkanalen gebruiken en zelfs blogs schrijven of e-mail gebruiken, afhankelijk van welk kanaal de AI het nuttigst vindt om een ​​doel te bereiken, zei een van de auteurs, Daniel Thilo Schroeder, onderzoeker bij het Sintef-onderzoeksinstituut in Oslo.

“Het is gewoon beangstigend hoe gemakkelijk het is om de code van deze dingen te veranderen en slechts kleine legers bots te hebben die door online sociale mediaplatforms kunnen bladeren, e-mails kunnen verzenden en deze tools kunnen gebruiken”, zegt Schroeder, die zwermen in laboratoriumomstandigheden heeft gesimuleerd.

Een andere auteur, Jonas Kunst, hoogleraar communicatie aan de BI Norwegian Business School, zei: “Als deze robots beginnen te evolueren naar een collectief en informatie uitwisselen om een ​​probleem op te lossen – in dit geval een kwaadaardig doel, namelijk het analyseren van een gemeenschap en het vinden van een zwakte – dan zal coördinatie hun nauwkeurigheid en efficiëntie vergroten.

“Dit is een heel ernstige dreiging waarvan we verwachten dat deze werkelijkheid zal worden.”

In Taiwan, waar kiezers regelmatig het doelwit zijn van Chinese propaganda, vaak onbewust, hebben kunstmatige intelligentie-bots de afgelopen twee tot drie maanden de betrokkenheid van burgers op Threads en Facebook vergroot, zegt Puma Shen, een wetgever van de Taiwanese Democratische Progressieve Partij en een activist tegen Chinese desinformatie.

Tijdens discussies over politieke onderwerpen hebben AI’s de neiging om ‘een enorme hoeveelheid informatie te verschaffen die je niet kunt verifiëren’, waardoor een ‘informatie-overload’ ontstaat, zei Shen. Hij zei dat de AI’s valse artikelen zouden kunnen citeren over hoe Amerika Taiwan in de steek zal laten. Een andere recente trend is dat AI-aangedreven robots jongere Taiwanezen erop wijzen dat het geschil tussen China en Taiwan erg ingewikkeld is “kies dus geen partij als je geen kennis hebt.”

“Dit vertelt je niet dat China groot is, maar het moedigt China aan om neutraal te zijn”, zei Shen tegen de Guardian. “Dit is heel gevaarlijk, want dan denk je dat mensen zoals ik radicalen zijn.”

Te midden van tekenen dat de vooruitgang van AI-technologie niet zo snel gaat als Silicon Valley-bedrijven als OpenAI en Anthropic beweren, heeft The Guardian onafhankelijke AI-experts gevraagd om hun mening te geven over de zwermwaarschuwingen.

“In het zware verkiezingsjaar 2024 waren de mogelijkheden voor op AI gebaseerde microtargeting aanwezig, maar we zagen er niet zoveel van als wetenschappers hadden voorspeld”, zegt Trauthig, adviseur van het International Panel on the Information Environment. “De meeste politieke propagandisten die ik interview, gebruiken nog steeds verouderde technologie en zijn niet zo geavanceerd.”

“Het is niet fantasierijk”, zegt Michael Wooldridge, professor in de grondslagen van kunstmatige intelligentie aan de Universiteit van Oxford. “Ik denk dat het volkomen aannemelijk is dat slechte actoren virtuele legers van LLM-agenten willen mobiliseren om verkiezingen te verstoren en de publieke opinie te manipuleren, bijvoorbeeld door grote aantallen individuen op sociale media en andere elektronische media te targeten. Het is technologisch perfect haalbaar… de technologie is steeds beter en veel toegankelijker geworden.”