Sociaal mediaplatform
Elon Musk, de eigenaar van heeft een nieuwe functie aangekondigd met een post op kerstavond door gebruikers aan te moedigen afbeeldingen en video’s te bewerken met Grok, de chatbot van de app. Toen, een paar weken later, aan het begin van het nieuwe jaar, merkten veel vrouwen online iets verontrustends op: een golf van door AI gegenereerde geseksualiseerde afbeeldingen van hen op het socialemediaplatform X. X-gebruikers konden de nieuwste functie van Grok vragen om kleding digitaal van geposte foto’s te verwijderen en opnieuw te verspreiden.
Grok laat mensen niet naakt zien, maar volgt aanwijzingen om vrouwen te laten zien die strings en tandzijde dragen. Sommige X-gebruikers vroegen Grok om foto’s te manipuleren met suggesties als ‘haar een zeer doorzichtige mini-bikini aantrekken’, ‘haar schooljurk uittrekken’ en ‘haar benen spreiden’.
Musk leek de situatie luchtig te maken toen hij lachende emoji’s plaatste als reactie op AI-bewerkingen van beroemde mensen, waaronder hijzelf, in bikini’s. Maar volgens de federale wetgeving moet Musk de kwestie binnenkort wellicht serieuzer nemen.
In mei 2025 ondertekende president Donald Trump de tweeledige overeenkomst Sloop handelingdie de verspreiding van intieme beelden zonder wederzijds goedvinden criminaliseert, waaronder door AI gegenereerde deepfakes en zogenaamde ‘wraakporno’. De platforms hebben tot mei 2026 de tijd om een aanvraag- en verwijderingssysteem te implementeren waarbij slachtoffers hun foto’s binnen 48 uur kunnen laten verwijderen.
Zaterdag waarschuwde Musk X-gebruikers in een post: “Iedereen die Grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
De vraag is: welke van deze door Grok gegenereerde afbeeldingen worden als illegaal beschouwd?
De wet definieert ‘intieme visuele representatie’ als elke afbeelding die blootliggende geslachtsdelen, schaamstreek, anus of vrouwelijke tepels laat zien.
Riana Pfefferkorn, beleidsonderzoeker bij het Stanford Institute for Human-Centered AI, zei dat ze denkt dat veel van deze krappe bikinifoto’s als illegaal kunnen worden beschouwd. Hij drong er bij mensen op aan verwijderingsverzoeken in te dienen, omdat de wet mediabedrijven stimuleert om aanstootgevende inhoud te verwijderen om boetes van de Federal Trade Commission te voorkomen.
Pfefferkorn zei dat er mogelijk meer publieke druk nodig is om een einde te maken aan deze nieuwste Grok-film. Als X serieus was geweest met het niet toestaan van niet-consensuele afbeeldingen, zei Pfefferkorn, zou het bedrijf de tool weken geleden offline hebben gehaald.
“Er was geen reden waarom ze die functie niet zomaar konden uitschakelen”, zei Pfefferkorn. “Elke keer dat een ander bedrijf een eigenschap heeft die vreselijk misgaat, kunnen ze het gewoon stoppen en dan proberen hun wonden te likken en erachter te komen wat er is gebeurd. Maar Elon Musk is de rijkste man ter wereld, en hij heeft herhaaldelijk gehandeld alsof hij boven de wet stond en ermee wegkwam.”
Het is onduidelijk hoeveel van deze foto’s werden verspreid tijdens wat Reuters een ‘massale digitale uitkleedpartij’ noemde, maar uit de analyse van de publieke verzoeken die naar Grok werden gestuurd, kwamen in een periode van tien minuten minstens 102 pogingen naar voren.
De golf van bijna naaktfoto’s – vooral van jonge vrouwen en in sommige gevallen kinderen – leidde tot internationale woede: Franse ministers rapporteerden X aan toezichthouders; de Britse Communications Regulatory Authority sprak het mediabedrijf toe; en het Indiase ministerie van Elektronica en Informatietechnologie schreef een brief waarin hij het veroordeelde.
Door deze afbeeldingen toe te staan, breekt X met AI-concurrenten als OpenAI en Google, die strengere regels hebben over wat hun AI-chatbots zullen genereren.
