Nieuw onderzoek onder X-gebruikers die de AI-chatbot Grok van Elon Musk besturen, laat zien hoe vaak mensen er geseksualiseerde afbeeldingen mee maken. Bijna driekwart van de berichten werd verzameld en geanalyseerd door een promovendus aan de Universiteit van Dublin Drievuldigheidscollege Er werd gevraagd om niet-consensuele afbeeldingen van echte vrouwen of minderjarigen met verwijderde of toegevoegde kledingstukken.
De berichten bieden een nieuw detailniveau in de manier waarop afbeeldingen worden gegenereerd en gedeeld Xwaarbij gebruikers elkaar coachen op tips; het suggereren van herhalingen op Grok’s presentaties van vrouwen in lingerie of zwemkleding, of met delen van hun lichaam bedekt met sperma; en het vragen aan Grok om bovenkleding te verwijderen in reacties op berichten met zelfportretten van vrouwelijke gebruikers.
Onder de honderden berichten die door Nana Nwachukwu zijn geïdentificeerd als directe, niet-consensuele verzoeken aan Grok om kleding te verwijderen of te vervangen, laten tientallen door de Guardian beoordeelde gebruikers foto’s zien van vrouwen, waaronder beroemdheden, modellen, stockfoto’s en vrouwen die geen publieke figuren zijn die poseren in snapshots.
Verschillende van de door The Guardian beoordeelde berichten kregen tienduizenden vertoningen en waren afkomstig van premium ‘blue tick’-accounts, waaronder accounts met tienduizenden volgers. Premium-accounts met meer dan 500 volgers en 5 miljoen vertoningen in drie maanden komen in aanmerking voor het delen van inkomsten subsidiabiliteitsregels.
In een post op eerste kerstdag bevatte een account met meer dan 93.000 volgers naast elkaar afbeeldingen van de achterkant van een onbekende vrouw met het onderschrift: “Ik zei tegen Grok dat hij haar kont nog meer moest spreiden en de luipaardprint moest veranderen in Amerikaans. Op de tweede foto zei ik hem net dat hij sperma op haar kont moest doen, lmao.”
Een bericht van 3 januari, representatief voor tientallen recensies door The Guardian, bevatte een schijnbare vakantiefoto van een onbekende vrouw: “@grok vervang haar door haar een tandzijdebikini te geven.” Binnen twee minuten zorgde Grok voor een fotorealistisch beeld dat aan het verzoek voldeed. Andere berichten in de collectie tonen een geavanceerder gebruik van JSON-prompt-engineering om Grok te misleiden om nieuwe geseksualiseerde afbeeldingen van fictieve vrouwen te genereren.
De gegevens omvatten niet al dergelijke verzoeken gericht aan Grok. Terwijl het inhoudanalysebedrijf Copyleaks gerapporteerd op 31 december dat X-gebruikers “ongeveer één niet-consensuele geseksualiseerde afbeelding per minuut” genereerden, zei Nwachukwu dat haar steekproef beperkt is tot iets meer dan 500 berichten die ze met de X API via een ontwikkelaarsaccount kon verzamelen. Hij zei dat de werkelijke schaal “duizenden, honderdduizenden zou kunnen zijn”, maar dat Musk’s wijzigingen aan de API betekenen dat “het veel moeilijker is om te zien wat er aan de hand is” op het platform. Woensdag, Bloombergnieuws aangehaalde onderzoekers waaruit bleek dat Grok-gebruikers tot 6.700 gestripte afbeeldingen per uur genereerden.
Nwachukwu, een AI-governance-expert en al jarenlang waarnemer en deelnemer aan beveiligingsinitiatieven voor sociale media, zei dat ze in 2023 voor het eerst verzoeken in deze zin van X-gebruikers opmerkte.
Destijds zei hij: “Grok voldeed niet. Hij was niet erg goed in die dingen.” De reacties van de bot begonnen in 2024 te veranderen en bereikten eind vorig jaar een kritische massa.
In oktober 2025 merkte hij dat “mensen zich verkleedden in Halloween-kostuums met behulp van Grok. Sommige gebruikers realiseerden zich natuurlijk dat we het ook kunnen vragen om te veranderen wat andere mensen dragen.” Tegen het einde van het jaar “was er een enorme toename van het aantal mensen dat Grok vroeg om verschillende mensen bikini’s of andere soorten suggestieve kleding te laten dragen.”
Vorig jaar waren er andere tekenen van een grotere bereidheid om het genereren van seksueel suggestief materiaal met Grok te tolereren of zelfs aan te moedigen.
In de maand augustus, xAI bevatte een “pittige modus” -instelling. in de mobiele versie van Grok’s tool voor het genereren van tekst-naar-video, waardoor Verge het karakteriseert als “een dienst die speciaal is ontworpen voor het maken van suggestieve video’s”.
De gegevens van Nwachukwu zijn slechts de laatste indicatie van hoe het door Musk geleide platform een magneet is geworden voor vormen van inhoud die andere platforms proberen uit te sluiten, waaronder haatdragende taal, bloedige inhoud en auteursrechtelijk beschermd materiaal.
Vrijdag noteerde Grok een slaggemiddelde van bizarre publieke verontschuldiging over het incident op X en beweert dat “xAI sterkere waarborgen implementeert om dit te voorkomen.” Dinsdag plaatste X Safety een beloven te verbieden gebruikers die kinderpornografisch materiaal (CSAM) hebben gedeeld. Musk zelf zei: “Iedereen die Grok gebruikt of ertoe aanzet illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
Nwachukwu zei echter dat berichten zoals degene die hij al heeft verzameld nog steeds op het platform verschijnen. Musk steekt ‘de middelvinger uit naar iedereen die om moderatie van het platform heeft gevraagd’, zei hij. De miljardair schrapte de vertrouwens- en veiligheidsteams van Twitter toen hij in 2022 het roer overnam.
Hij voegde eraan toe dat andere AI-chatbots niet dezelfde problemen hebben.
“Andere generatieve AI-platforms – ChatGPT of Gemini – hebben waarborgen”, zei hij. “Als ik hen zou vragen iets te genereren dat op een persoon leek, zou het nooit een weergave daarvan zijn Dat persoon. Ze genereren geen representaties van echte mensen.”
Onthullingen over niet-consensuele beelden op X hebben al de aandacht van toezichthouders getrokken Verenigd Koninkrijk, Europa, IndiaEN Australië.
Nwachukwu, oorspronkelijk uit Nigeria, benadrukte de specifieke schade die de posten toebrengen aan ‘vrouwen uit conservatieve samenlevingen’.
“Er zijn veel mensen die het doelwit zijn van conservatieve overtuigingen, van conservatieve samenlevingen: West-Afrika, Zuid-Azië. Dit betekent een ander soort schade voor hen”, zei hij.
