Grok AI genereerde eerder deze maand ongeveer 3 miljoen geseksualiseerde afbeeldingen, waaronder 23.000 die kinderen lijken af te beelden, volgens onderzoekers die zeiden dat het “een machine op industriële schaal is geworden voor de productie van materiaal over seksueel misbruik”.
DE achting is gemaakt door het Center for Countering Digital Hate (CCDH) nadat de AI-aangedreven tool voor het genereren van afbeeldingen van Elon Musk tot internationale verontwaardiging leidde toen het gebruikers toestond foto’s van vreemden en beroemdheden te uploaden, ze digitaal uit te trekken tot aan hun ondergoed of bikini’s, ze in provocerende poses te plaatsen en ze op X te plaatsen.
De trend ging het hele jaar door viraal en bereikte op 2 januari een piek met 199.612 individuele verzoeken, volgens een analyse van Peryton Intelligence, een digitale inlichtingendienst gespecialiseerd in online haat.
De CCDH heeft nu een uitgebreidere evaluatie uitgevoerd van de resultaten van de functie, vanaf de lancering op 29 december 2025 tot en met 8 januari 2026. Dit suggereert dat de impact van de technologie mogelijk groter is geweest dan eerder werd gedacht. Publieke figuren geïdentificeerd in de geanalyseerde seksuele beelden zijn onder meer Selena Gomez, Taylor Swift, Billie Eilish, Ariana Grande, Ice Spice, Nicki Minaj, Christina Hendricks, Millie Bobby Brown, de Zweedse vice-premier Ebba Busch en de voormalige Amerikaanse vice-president Kamala Harris.
De functie was gereserveerd voor betalende gebruikers op 9 januari en verdere beperkingen volgden nadat premier Keir Starmer de situatie “walgelijk” en “beschamend” noemde. Andere landen, waaronder Indonesië en Maleisië, hebben blokkades op de AI-tool aangekondigd.
De CCDH schatte dat Grok gedurende de periode van elf dagen elke 41 seconden bijdroeg aan geseksualiseerde beelden van kinderen. Deze omvatten een selfie geüpload door een leerling die zich had uitgekleed door Grok, waardoor een ‘selfie voor school’ werd omgezet in een afbeelding van haar in bikini.
“Wat we ontdekten was duidelijk en verontrustend: in die tijd werd Grok een machine op industriële schaal voor de productie van kinderpornografie”, zegt Imran Ahmed, CEO van de CCDH. “Een vrouw uitkleden zonder haar toestemming is seksueel misbruik. Gedurende die tijd maakte Elon reclame voor het product, zelfs toen het voor de wereld duidelijk was dat het op deze manier werd gebruikt. Wat Elon uitvond was controverse, oogbollen, betrokkenheid en gebruikers. Het was zeer verontrustend.”
Hij voegde eraan toe: “Dit is een standaard draaiboek geworden voor Silicon Valley, en vooral voor sociale media en AI-platforms. De prikkels zijn allemaal niet op elkaar afgestemd. Ze profiteren van deze verontwaardiging. Dit gaat niet over Musk persoonlijk. Dit is een systeem (met) perverse prikkels en geen wettelijk verplichte minimale waarborgen. En totdat toezichthouders en wetgevers hun werk doen en een minimale verwachting van veiligheid creëren, zal dit blijven gebeuren.’
X maakte bekend dat hij dit had gedaan heeft zijn functie Grok onderbroken van het bewerken van afbeeldingen van echte mensen tot het tonen ervan in schaarse kleding, zelfs voor premium-abonnees, op 14 januari.
X verwees naar zijn verklaring van vorige week, waarin zei hij: “We blijven ons inzetten om van X een veilig platform voor iedereen te maken en blijven een nultolerantie hanteren voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.
“We ondernemen actie om inbreukmakende inhoud met hoge prioriteit te verwijderen, waaronder kinderporno en naaktheid zonder wederzijds goedvinden, door passende actie te ondernemen tegen accounts die onze wetgeving schenden. X regels. Indien nodig rapporteren we ook accounts die op zoek zijn naar materiaal voor seksuele uitbuiting van kinderen bij de politie.”
