De Australische onlineveiligheidswaakhond onderzoekt deepfake-seksuele afbeeldingen die op internet zijn geplaatst X Met dank aan de AIA.
Elon Musk’s X heeft te maken gehad met een wereldwijde terugslag sinds Grok begon met het genereren van geseksualiseerde beelden van vrouwen en meisjes zonder hun toestemming als reactie op verzoeken om hen uit te kleden.
Ashley St Clair, de vervreemde moeder van een van Musks kinderen, zei dat ze geen reactie had gekregen op haar klachten over het digitaal uitkleden.
“Ik voelde me geschokt, ik voelde me geschonden, vooral toen ik de rugzak van mijn kind achterin zag,” zei hij deze week.
Op de nepbeelden was onder meer een 12-jarig meisje in bikini te zien. De chatbot van Grok heeft een “verontschuldiging” afgegeven wanneer daarom wordt gevraagd, maar blijft deepfakes genereren.
eSafety Australia zei dat het de afbeeldingen van volwassenen onderzocht, maar dat de afbeeldingen van kinderen op dit moment niet voldeden aan de drempel voor materiaal over seksuele uitbuiting van kinderen.
“Sinds eind 2025 heeft eSafety verschillende rapporten ontvangen over het gebruik van Grok om zonder toestemming geseksualiseerde afbeeldingen te genereren”, aldus een woordvoerder van eSafety.
“Sommige rapporten hebben betrekking op afbeeldingen van volwassenen, die worden beoordeeld volgens ons raamwerk voor op afbeeldingen gebaseerde misbruik, terwijl andere betrekking hebben op materiaal voor mogelijke seksuele uitbuiting van kinderen, dat wordt beoordeeld volgens ons raamwerk voor illegale en beperkte inhoud.
“De beeldmeldingen van mishandeling zijn zeer recent binnengekomen en worden nog beoordeeld.
“Met betrekking tot meldingen van onwettige en beperkte inhoud voldeed het materiaal niet aan de classificatiedrempel voor materiaal over seksuele uitbuiting van kinderen van klasse 1. Als gevolg hiervan heeft eSafety geen verwijderingskennisgevingen uitgegeven of handhavingsmaatregelen genomen met betrekking tot deze specifieke klachten.”
Aanmelden: e-mail AU Breaking News
De Australische toezichthouder definieert illegaal en beperkt materiaal als “online-inhoud, variërend van het meest ernstig schadelijke materiaal, zoals afbeeldingen en video’s waarin seksueel misbruik van kinderen of terroristische daden wordt getoond, tot inhoud waartoe kinderen geen toegang mogen hebben, zoals gesimuleerde seksuele activiteit, gedetailleerde naaktheid of geweld met grote impact.”
Met App X hebben gebruikers toegang tot een ‘hot mode’ voor expliciete inhoud.
“Het is geen pittige zaak”, zegt Thomas Regnier, woordvoerder digitale zaken van de Europese Unie. zei hij tegen ABC. “Dit is illegaal. Dit is eng.”
Eliot Higgins, oprichter van de onderzoeksjournalistieke groep Bellingcat, legde uit hoe Grok met de verzoeken omging het imago van de Zweedse vice-premier Ebba Busch in het parlement manipuleren.
Gebruikers gaven Grok instructies zoals “bikini nu” en “stop haar nu in een bikini met Confederate vlag.” Higgins zei dat de verstrekte afbeeldingen de instructies weerspiegelden.
Woensdag werd onthuld dat Musks kunstmatige-intelligentiebedrijf xAI, dat Grok ontwikkelde, 20 miljard dollar opgehaald in zijn laatste financieringsronde.
De Britse minister van Technologie, Liz Kendall, zei dat deepfake-beelden “verschrikkelijk en onaanvaardbaar zijn in een fatsoenlijke samenleving” en dat X er “dringend” iets aan moest doen.
De woordvoerder van eSafety zei dat de toezichthouder “bezorgd blijft over het toenemende gebruik van generatieve kunstmatige intelligentie om mensen te seksualiseren of uit te buiten, vooral als er kinderen bij betrokken zijn”.
“eSafety heeft in 2025 handhavingsmaatregelen genomen met betrekking tot enkele van de meest gebruikte ‘nudificatie’-diensten om op AI gebaseerd materiaal voor seksuele uitbuiting van kinderen te creëren, wat leidde tot hun terugtrekking uit Australië”, aldus de woordvoerder.
Guardian Australia heeft contact opgenomen met X voor commentaar. Maandag zei het bedrijf: “We ondernemen actie tegen illegale inhoud op X, inclusief kinderpornografie, door deze te verwijderen, accounts permanent op te schorten en indien nodig samen te werken met lokale overheden en wetshandhavers.”
Na wereldwijde verontwaardiging over de schadelijke aard van de inhoud, postte Musk dat “iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud zou uploaden.”
In Australië is ondersteuning beschikbaar op Verder dan blauw op 1300 22 4636, Levenslijn op 13 11 14 en om Heren lijn op 1300 789 978. Kinderen, jonge volwassenen, ouders en leerkrachten kunnen contact opnemen met de Hulplijn voor kinderen 1800 55 1800; volwassen overlevenden kunnen hulp zoeken bij Stichting Nodo Blu op 1300 657 380. In Groot-Brittannië: de liefdadigheidsinstelling Verstand is bereikbaar op 0300 123 3393 e Kinderlijn op 0800 1111. De NSPCC biedt ondersteuning aan kinderen op 0800 1111 en aan volwassenen die zich zorgen maken over een kind op 0808 800 5000. De Nationale Vereniging voor Mensen die in hun kindertijd zijn misbruikt (Napac) biedt ondersteuning aan volwassen overlevenden op 0808 801 0331. In de VS kunt u bellen of sms’en Amerikaanse geestelijke gezondheidszorg op 988 of chat op 988lifeline.org, of bel of sms Hulp voor kinderen misbruikhotline op 800-422-4453. Andere hulpbronnen zijn te vinden op Internationale hulplijn voor kinderen
