Tgaat los op X (voorheen Twitter) door a stortvloed aan AI-gegenereerde beelden van vrouwen en kinderen die bikini’s dragensommigen in geseksualiseerde poses of met verwondingen, hebben terecht een krachtige reactie van Britse politici en toezichthouders opgeroepen. De aankondiging van maandag dat er een onderzoek naar X loopt, was de meest strijdlustige zet van Ofcom sinds de belangrijkste bepalingen van de wet Wet op onlineveiligheid in werking getreden. Geen van de andere bedrijven die hij heeft uitgedaagd of beboet, heeft ook maar enigszins het mondiale bereik of de politieke invloed van de socialemediagigant van Elon Musk. Wat er ook gebeurt, dit is een beslissend moment. Wat wordt gedefinieerd is de mate waarin enkele van de rijkste bedrijven ter wereld onder democratische controle staan.
Maar de aankondiging is slechts een eerste stap. Ofcom gaf geen indicatie voor hoe lang zijn onderzoek het zal duren. Downing Street omschreef vrijdag de beslissing om het gebruik van de beeldcreërende AI-chatbot Grok te beperken tot betalende X-abonnees als een belediging. De regering hij zei dat dit erop neerkomt dat het creëren van beledigende deepfakes wordt omgezet in een ‘premium service’.
Dergelijke robuuste taal was welkom. Hetzelfde geldt voor de aankondiging van minister van Technologie Liz Kendall dat een beloofd verbod op het maken van intieme beelden zonder wederzijds goedvinden deze week van kracht zal worden en dat naaktapps snel verboden zullen worden. In het weekend David Lammy zei JD Vance deelt het bezwaar van de Britse regering tegen hulpmiddelen waarmee gebruikers kinderen op foto’s kunnen uitkleden. Het is duidelijk dat de ministers geen confrontatie met Donald Trump willen en liever hebben dat Amerikaanse politici meedoen aan de uitdaging van big tech boven op imago gebaseerde misbruiken. Maar Musks agressieve verzet tegen regulering zou een publieke strijd onvermijdelijk kunnen maken. Hij wil dat Grok concurrerend is met OpenAI’s ChatGPT. En seks verkoopt.
Groot-Brittannië is niet de enige die een standpunt inneemt. Indonesië EN Maleisië beiden hebben beperkte toegang tot Grok als reactie op de verspreiding van intieme deepfakes. De Duitse minister van Media Wolfram Weimer heeft de Europese Commissie opgeroepen actie te ondernemen tegen “de industrialisering van seksuele intimidatie”. Maar nu OpenAI naar verwachting binnenkort de creatie van erotisch materiaal met behulp van ChatGPT mogelijk zal maken, bestaat de angst dat de sluizen van deepfake-pornografie op het punt staan open te gaan. Ernstige zorgen hierover beperken zich niet tot de noodzaak om de leeftijd te verifiëren om kinderen te beschermen. De meeste 18-jarigen in Groot-Brittannië zitten nog op school. Zij en oudere volwassenen hebben ook recht op bescherming tegen schade veroorzaakt door intieme deepfakes. De risico’s van gewelddadige pornografie op internet zouden ook kunnen worden vergroot door kunstmatige intelligentie als dit materiaal gemakkelijker toegankelijk zou maken.
Technologiebedrijven mogen nooit het tempo van de veranderingen dicteren in de mate waarin zij dat hebben gedaan, door nieuwe instrumenten vrij te geven voordat de impact ervan onafhankelijk is besproken of beoordeeld. De Britse onlineveiligheidswetten behoren tot de meest geavanceerde ter wereld. Maar de manie voor bikini-shots onthulde een maas in een wet die restrictiever is voor afbeeldingen van mensen in ondergoed dan in zwemkleding, zelfs als het dekkingsniveau hetzelfde is.
Hoewel de toegang van kinderen tot sociale media-apps een probleem is dat los staat van het ontwerp van AI-tools, is het niet verrassend dat dit een probleem is leeftijdsgrenzen zijn verhoogd door hoge politieke figuren van rechts en links in de afgelopen dagen. Ministers moeten het voortouw nemen en beslissen wat zij denken over het gebruik van kunstmatige intelligentie door kinderen. Maar de onmiddellijke prioriteit is Grok. Ofcom heeft geblaft en moet laten zien dat hij ook kan bijten.
