In sommige hoeken van het internet, op niche-nieuwsfeeds en algoritmen, is een door AI gegenereerd Brits schoolmeisje naar voren gekomen als een soort fenomeen.
Haar naam is Amelia, een paarsharige ‘gothic girl’ die trots een mini-vakbondsvlag draagt en iets met racisme lijkt te hebben.
Als je Amelia niet kent, is de kans groot dat je binnenkort een virale meme of een andere meme tegenkomt die door haar is geïnspireerd op Facebook of X, waar haar reputatie groeit.
Amelia’s video’s laten haar doorgaans zien terwijl ze door Londen of in het Lagerhuis loopt, terwijl ze haar liefde voor Engeland verklaart en waarschuwt voor de gevaren van ‘militante moslims’ of ‘derdewereldmigranten’. In één fragment wordt ze toegesproken door een bebaarde man in islamitische kleding omdat ze een varkensworst eet.
De boodschap wordt goed gerepeteerd op extreemrechtse sociale media, maar het is Amelia’s AI-uitvinding die haar oneindig aanpasbaar heeft gemaakt, waardoor een virale internettrend is ontstaan waaraan iedereen met toegang tot een traditionele chatbot kan deelnemen. X-gebruikers wendden zich tot de Grok AI-tool om zoveel Amelia-memes te maken, dat deze nu uit de niche-online silo’s doorbreekt.
De oorsprong van het personage is op zijn zachtst gezegd ironisch. Een vroege versie van Amelia kwam tot leven in een videogame tegen extremisme, gefinancierd door het Britse ministerie van Binnenlandse Zaken en gemaakt om jongeren tussen de 13 en 18 jaar ervan te weerhouden zich aangetrokken te voelen tot extreemrechts extremisme in Yorkshire.
Paden: surfen op internet en extremisme Het is een eenvoudig spel in meerkeuzeformaat met basisanimatie. De spelers worden meegenomen op reis als universiteitspersonages. Hen wordt gevraagd om beslissingen te nemen in scenario’s, waaronder de vraag of ze mogelijk extremistische inhoud moeten downloaden of zich bij een Amelia-personage moeten aansluiten bij een demonstratie georganiseerd door “een kleine politieke groep” die protesteert tegen veranderingen in de samenleving en “de erosie van de Britse waarden”.
Sommige keuzes resulteren in een verwijzing in het kader van het Prevent counter-terrorism programma van de Britse regering.
Dit is echter een ondermijning van Amelia’s personage die op sociale mediakanalen is geëxplodeerd op een manier die zelfs de makers van het originele spel verbaasde.
Tot de overvloed aan steeds geavanceerdere, door AI gegenereerde iteraties behoren Amelia in mangastijl, een versie van Wallace en Gromit, en door AI gegenereerde ‘echte’ ontmoetingen tussen haar en personages uit Father Ted of Harry Potter, vergezeld van racistisch taalgebruik en extreemrechtse berichten.
Uit een analyse van Logically, een Brits bedrijf dat desinformatie in de gaten houdt, aan The Guardian verstrekt, bleek dat een anoniem account dat bekend staat om het slim verspreiden van extreemrechtse berichten op 9 januari de Amelia on X-meme startte met een bericht dat sindsdien 1,4 miljoen keer is bekeken.
Sindsdien is het volume van “Ameliaposting” gegroeid van gemiddeld 500 per dag toen het account het voor het eerst aan de wereld introduceerde, tot ongeveer 10.000 op 15 januari, toen het een internationaal publiek bereikte. Woensdag bereikte het alleen al op X 11.137 posts.
In een van de meer surrealistische wendingen is er een Amelia-cryptocurrency ontstaan, waarbij gebruikers van sociale media de waarde ervan willen benutten voor het groeiende profiel van de meme. Woensdag retweette Elon Musk een X-account waarin reclame werd gemaakt voor een Amelia-cryptocurrency-token.
“Wat we zien is het genereren van inkomsten uit haat”, zegt Matteo Bergamini, oprichter en CEO van Shout Out UK, een trainingsbedrijf voor politieke en mediageletterdheid dat het originele spel heeft gemaakt.
“We zagen alle Telegram-groepen in het Chinees berichten uitwisselen over de meme-munt en praten over hoe ze de waarde ervan kunstmatig kunnen opdrijven, zodat ze veel geld kunnen verdienen.”
Het bedrijf zelf is het doelwit geweest van een stortvloed aan haatmail, waaronder doodsbedreigingen, waarvan nu aangifte is gedaan bij de politie.
Bergamini benadrukt dat het oorspronkelijke initiatief nooit bedoeld was als een op zichzelf staand spel. Het was eerder bedoeld om in klaslokalen te worden gebruikt naast een reeks leermiddelen, een feit waarvan hij zei dat de berichtgeving en het commentaar deze negeerden.
‘Helaas zijn er veel verkeerde voorstellingen geweest’, zei hij. “Het spel zegt bijvoorbeeld niet dat het in twijfel trekken van massamigratie inherent verkeerd is.”
Anderen suggereerden dat het initiatief was mislukt, niet in de laatste plaats door een ‘schattig gothic-meisje’ als een negatief personage af te schilderen, wat er onbedoeld toe leidde dat ze een middelpunt van bewondering werd. Maar Bergamini zei dat het spel – dat gebruik maakte van feedback van focusgroepen met jongeren en werd ontwikkeld met een specifiek lokaal dreigingsbeeld in gedachten – nog steeds wordt gebruikt en dat de feedback van scholen en anderen positief is.
De snelheid en verfijning rond de online creatie van schijnbaar subversieve Amelia-memes verrasten hem echter.
“Deze ervaring heeft ons laten zien waarom dit werk zo enorm belangrijk is, maar het zet ons ook aan het denken over onze veiligheid bij het uitvoeren van dit werk dankzij de zeer geavanceerde coördinatie van degenen die profiteren van haat”, zei hij.
Siddharth Venkataramakrishnan, analist bij het Institute for Strategic Dialogue (ISD), zei: “We hebben gezien dat de meme aanzienlijke grip heeft gekregen en zich heeft verspreid onder extreemrechts en daarbuiten, maar wat ook opmerkelijk is, is hoe internationaal het nu is.
“Het raakt een beetje de kern van wat we ‘dissident’ extreemrechts zouden kunnen noemen – individuen die zichzelf buiten het reguliere politieke toneel positioneren – of het nu ‘shitposters’ zijn die alleen maar provocerend zijn, anderen die van twee memes houden. Een heel ecosysteem heeft dit omarmd. Het is duidelijk dat geseksualiseerde beelden hierin ook centraal staan. De doelgroep is vrijwel uitsluitend jong.’
Volgens het ministerie van Binnenlandse Zaken heeft Prevent bijna 6.000 mensen weggehaald van gewelddadige ideologieën. Hij voegde eraan toe dat projecten zoals het Pathways-spel zijn ontworpen om lokale radicaliseringsrisico’s aan te pakken en onafhankelijk van de overheid zijn gecreëerd en uitgevoerd.
De beste journalistiek van algemeen belang is afhankelijk van verslagen uit de eerste hand van geïnformeerde mensen.
Als u iets te melden heeft over dit onderwerp, kunt u op de volgende manieren vertrouwelijk contact met ons opnemen.
Veilig berichten versturen in de Guardian-app
De Guardian-app heeft een tool waarmee u verhaalsuggesties kunt indienen. Berichten worden end-to-end gecodeerd en verborgen binnen de routineactiviteiten die door elke mobiele Guardian-app worden uitgevoerd. Hierdoor weet de waarnemer niet dat u met ons communiceert, laat staan wat er wordt gezegd.
Als u de Guardian-app nog niet heeft, download deze dan (iOS/Android) en ga naar het menu. Selecteer ‘Beveiligde berichten’.
SecureDrop, instant messaging, e-mail, telefoon en post
Als u veilig gebruik kunt maken van het Tor-netwerk zonder te worden geobserveerd of gecontroleerd, kunt u via ons berichten en documenten naar de Guardian sturen SecureDrop-platform.
Eindelijk onze gids over theguardian.com/tips somt verschillende manieren op om veilig contact met ons op te nemen en bespreekt de voor- en nadelen van elk.
“,”image”:https://i.guim.co.uk/img/media/ae475ccca7c94a4565f6b500a485479f08098383/788_0_4000_4000/4000. jpg?width=620&quality=85&auto=format&fit=max&s=45fd162100b331bf1618e364c5c69452″,”credit”Illustratie: Guardian Design / Rich Cousins”}”>
Korte handleiding
Neem contact met ons op over dit verhaal
Show
De beste journalistiek van algemeen belang is afhankelijk van verslagen uit de eerste hand van geïnformeerde mensen.
Als u iets te melden heeft over dit onderwerp, kunt u op de volgende manieren vertrouwelijk contact met ons opnemen.
Veilig berichten versturen in de Guardian-app
De Guardian-app heeft een tool waarmee u verhaalsuggesties kunt indienen. Berichten worden end-to-end gecodeerd en verborgen binnen de routineactiviteiten die door elke mobiele Guardian-app worden uitgevoerd. Hierdoor weet de waarnemer niet dat u met ons communiceert, laat staan wat er wordt gezegd.
Als u de Guardian-app nog niet heeft, download deze dan (iOS/Android) en ga naar het menu. Selecteer ‘Beveiligde berichten’.
SecureDrop, instant messaging, e-mail, telefoon en post
Als u veilig gebruik kunt maken van het Tor-netwerk zonder te worden geobserveerd of gecontroleerd, kunt u via ons berichten en documenten naar de Guardian sturen SecureDrop-platform.
Eindelijk onze gids over theguardian.com/tips somt verschillende manieren op om veilig contact met ons op te nemen en bespreekt de voor- en nadelen van elk.
