De Britse minister van Technologie heeft een golf van afbeeldingen opgeroepen van vrouwen en kinderen met digitaal verwijderde kleding, gegenereerd door Elon Musk Grok AI “Verschrikkelijk en onaanvaardbaar in een fatsoenlijke samenleving.”
Nadat duizenden intieme deepfakes online circuleerden, Liz Kendal zei dat X, het socialemediaplatform van Musk, “deze kwestie dringend moet aanpakken” en steunde de Britse toezichthouder Ofcom om “alle handhavingsmaatregelen te nemen die hij nodig acht”.
“We kunnen en zullen de verspreiding van deze vernederende en vernederende beelden, die onevenredig gericht zijn op vrouwen en meisjes, niet toestaan”, zei ze. “Vergis je niet, Groot-Brittannië zal de eindeloze verspreiding van walgelijk en aanstootgevend materiaal online niet tolereren. We moeten allemaal samenkomen om dit uit te roeien.”
Zijn opmerkingen kwamen te midden van waarschuwingen dat de Online Safety Act, die tot doel heeft online schade aan te pakken en kinderen te beschermen, dringend moet worden versterkt, ondanks de druk van de regering-Trump om deze af te zwakken.
Eén deskundige bekritiseerde het ‘tennisspel’ tussen platforms zoals X en Britse toezichthouders toen er zich problemen voordeden, en noemden de reactie van de regering “zorgwekkend traag”.
Jessaline Caine, een overlevende van seksueel kindermisbruik, noemde de reactie van de regering ‘ruggengraatloos’ en vertelde de Guardian dat de chatbot dinsdagochtend nog steeds gehoor gaf aan verzoeken om een beeld van haar als driejarige te manipuleren om haar in een stringbikini te kleden. Zijn identieke verzoeken aan ChatGPT en Gemini werden afgewezen.
“Andere platforms hebben deze waarborgen, dus waarom staat Grok toe dat deze afbeeldingen worden gemaakt?” zei hij. “De beelden die ik heb gezien zijn zo verachtelijk en vernederend. De overheid heeft zeer responsief gereageerd. Deze AI-instrumenten hebben betere regelgeving nodig.”
Maandag zei Ofcom dat het zich bewust was van de ernstige zorgen dat Grok afbeeldingen van ongeklede mensen en geseksualiseerde afbeeldingen van kinderen had gemaakt. Het zei dat het contact had opgenomen met X en xAI “om te begrijpen welke stappen zij hebben ondernomen om te voldoen aan hun wettelijke verplichtingen om gebruikers in het VK te beschermen” en dat het de noodzaak van een onderzoek zal beoordelen op basis van de reactie van het bedrijf.
De druk op de ministers om een hardere lijn te volgen groeit. Beeban Kidron, crossbench-peer en campagnevoerder voor online kinderveiligheid, drong er bij de regering op aan om “enige ruggengraat te tonen” en riep op tot een “herevaluatie van het Online Safety Act-regime, zodat het sneller is en meer tanden heeft”.
Over X zei hij: “Als een ander consumentenproduct zoveel schade had veroorzaakt, zou het al teruggeroepen zijn.”
Hij zei dat Ofcom “in dagen en niet jaren” moet handelen en riep gebruikers op om “producten die geen serieuze intentie tonen om schade aan kinderen, vrouwen en de democratie te voorkomen” achterwege te laten.
Ofcom heeft de macht om technologieplatforms een boete op te leggen van maximaal £18 miljoen of 10% van hun kwalificerende wereldwijde inkomsten, afhankelijk van wat het hoogste is. De grootste boete tot nu toe kwam vorige maand toen een pornoaanbieder de verplichte leeftijdscontroles niet uitvoerde kreeg een boete van £ 1 miljoen.
Vorige maand beloofden de ministers nieuwe wetten om ‘nudificatie’-tools te verbieden, waarbij gebruik wordt gemaakt van generatieve kunstmatige intelligentie om afbeeldingen van echte mensen om te zetten in nep-naaktfoto’s en -video’s zonder hun toestemming. Wanneer het verbod van kracht wordt, is nog niet duidelijk.
Sarah Smith, hoofd innovatie bij de Lucy Faithfull Foundation, een liefdadigheidsinstelling die zich inzet om kindermisbruik te voorkomen, deed een oproep
X heeft niet gereageerd op een verzoek om commentaar op de opmerkingen van Kendall. Maandag stond er: “We ondernemen actie tegen illegale inhoud op X, inclusief kinderpornografie, door deze te verwijderen, accounts permanent op te schorten en indien nodig samen te werken met lokale overheden en wetshandhavers.”
Jake Moore, een wereldwijde cybersecurity-consultant bij beveiligingssoftwarebedrijf ESET, bekritiseerde het ‘tennisspel’ tussen platforms als X en Britse toezichthouders en noemde de reactie van de regering ‘verontrustend traag’.
Hij zei dat naarmate kunstmatige intelligentie steeds vaker toestaat dat nepbeelden worden weergegeven als langere video’s, de gevolgen voor de levens van mensen alleen maar erger zullen worden.
“Het is ongelooflijk dat dit in 2026 zou kunnen gebeuren”, zei hij. “We moeten doorgaan met extreme regelgeving. Elk grijs gebied dat we aanbieden zal worden misbruikt. De regering begrijpt het grotere plaatje hier niet.”
Het is al illegaal om intieme afbeeldingen of kinderpornografie zonder wederzijds goedvinden te maken of te delen, inclusief seksuele deepfakes die met kunstmatige intelligentie zijn gemaakt. Valse afbeeldingen van mensen in bikini kunnen kwalificeren als intieme afbeeldingen, zoals definitie volgens de wet omvat dit ook de persoon die blote borsten, billen of geslachtsorganen heeft of waarvan de delen alleen door ondergoed bedekt zijn. Onfatsoenlijke beelden erbij betrekken degenen die kinderen afbeelden in erotische poses zonder seksuele activiteit.
Lady Kidron zei dat door AI gegenereerde afbeeldingen van kinderen in bikini’s misschien geen materiaal voor seksueel misbruik van kinderen zijn, maar minachtend zijn voor de privacy en de vrije wil van kinderen.
“We kunnen niet in een wereld leven waarin een kind geen foto kan posten van een race die hij heeft gewonnen, tenzij hij bereid is geseksualiseerd en vernederd te worden”, zei ze.
