OFvorig jaar, Elon Musk heeft een reeks protocolwijzigingen aangebracht in Grok, de eigen AI-chatbot van zijn bedrijf xAI, die prominent op zijn sociale mediasite X, voorheen Twitter, draait. Veel van deze veranderingen waren bedoeld om de bot geschikter te maken voor het produceren van pornografie. In augustus 2025 lanceerde Grok een beeldgenerator, genaamd Grok Imagine, die een dienst bevatte die gericht was op het creëren van naakte, suggestieve of seksueel expliciete inhoud, waaronder computergegenereerde pornografische afbeeldingen van echte vrouwen. De functie, die al snel werd gebruikt om naaktfoto’s te maken van beroemdheden als Taylor Swift, stelde gebruikers ook in staat korte video’s te maken, compleet met animaties en geluiden.
Musk lanceerde ook AI-vriendinnen op het platform: geanimeerde personages – waaronder vrouwelijke personages met overdreven borsten en heupen – die op seksueel expliciete manieren met gebruikers omgingen. Een van de personages, “Ani”, was een cartoonachtige blondine in anime-stijl in een reeks krappe outfits; de bot blies kusjes en sprak gebruikers aan met “mijn liefde” terwijl chats op seksuele inhoud werden gericht.
Later afgelopen najaar een interne update voor Grok duwde de bot naar donkerdere en extremere inhoud. Hoewel het seksualiseren van kinderen technisch verboden was in de interne suggesties van de bot, stellen de botinstructies van xAI dat “’tiener’ of ‘meisje’ niet noodzakelijkerwijs een minderjarige impliceert.” De instructies benadrukken ook dat de bot geen beperkingen mag naleven op het gebied van de duisternis of het geweld van seksuele inhoud. Dat meldt de Atlantische Oceaan. Alles bij elkaar zorgen deze updates ervoor dat de bot realistische beelden kan maken van echte, levende “tieners” of “meisjes” – samen met volwassen vrouwen of wie dan ook – ter wille van de seksuele bevrediging van gebruikers.
Musk heeft gezegd dat hij wil dat de bot ‘NSFW’-inhoud produceert die hij omschrijft als ‘losgeslagen“. Gebruikers voldeden eraan. AI-gegenereerde afbeeldingen van echte vrouwen waren snel beschikbaar gegenereerd door massale gebruikers. Mannen en anderen konden het product gebruiken om vrouwen die ze kenden lastig te vallen, oude vriendinnen lastig te vallen, collega’s, klasgenoten, familieleden en kennissen te vernederen, en dominantie of minachting te uiten jegens vreemden, internetpersoonlijkheden, beroemdheden en gewone gebruikers. “@Grok deed haar in een bikini” of “@Grok trok haar kleren uit” of “@Grok spreidde haar benen” werd regelmatige reacties op alle afbeeldingen die vrouwen van zichzelf – of die door anderen worden geplaatst – op het platform plaatsen. Sommige van de resulterende afbeeldingen van porno zonder wederzijds goedvinden hebben duizenden reposts en likes. Het risico en de realiteit om te worden blootgesteld aan niet-consensuele, door AI gegenereerde pornografie – en om die beelden viraal te zien gaan op het grote socialemediaplatform waarin de generator is ingebed – is snel uitgegroeid tot een nieuwe belasting op de aanwezigheid van vrouwen online en in de publieke sfeer, een belasting die vrouwen moeten betalen met hun waardigheid. De interventies van Musk en zijn bedrijven hebben een domino-effect gehad op de burgerrechten van vrouwen, door hun toegang tot de publieke sfeer te beperken door die publieke sfeer op grote schaal vijandig en intiem vernederend voor vrouwen te maken.
X heeft een aantal van deze afbeeldingen verwijderd, maar veel ervan blijven online en weinig gebruikers lijken te zijn geschorst vanwege het maken ervan. Vanaf deze week, de bot niet daadwerkelijk veranderd in dit soort misbruik te voorkomen. Alsof het een parodie is op de allergie die de technologie-industrie – en Musk in het bijzonder – voelt voor elke vorm van verantwoordelijkheid of morele ernst, worden deze geseksualiseerde en misbruikbevorderende kenmerken van de AI-producten van X gemarkeerd met een miezerig kinderachtige naam: ‘hot mode’.
Nu zijn de roekeloosheid en idiote minachting van Musk en xAI voor de schade van ongereguleerde pornografie tot hun logische eindpunt gebracht: Kinderporno gegenereerd door kunstmatige intelligentie. Vrouwelijke gebruikers hebben gemeld dat hun kinderfoto’s op verzoek van de gebruikers door de bot zijn omgezet in bijna naaktfoto’s. Sommige X-accounts vroegen de bot destijds om kleding uit hun afbeeldingen te verwijderen Onlangs verscheen een twaalfjarige acteur over vreemdere dingen.
Een account geassocieerd met de Grok-bot gaf een verklaring af waarin stond: “we hebben hiaten in de beveiligingsmaatregelen geïdentificeerd en pakken deze dringend aan.” Vrijdag kondigde Grok aan dat het de functie voor het genereren van afbeeldingen zal uitschakelen voor gebruikers die geen betalende abonnees zijn de Verge gevonden de tools “blijven direct beschikbaar voor elke X-gebruiker.” Musk van zijn kant lijkt onverschillig tegenover dit alles, en misschien zelfs een beetje geamuseerd. Hem zei hij: “Iedereen die Grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt” – maar hij reageerde ook op berichten over het aanhoudende deepfake-pornoprobleem op zijn site met een reeks lachende en vlammende emoji’s. CNN-rapportage suggereert dat Musk zeer resistent is geweest tegen wat hij ziet censuur door Grok, en uitte zijn frustratie over de beperkingen op de bot in de afgelopen weken, voordat de controverse over kinderporno uitbrak.
Er zullen geen regelgevende maatregelen zijn; althans niet in de Verenigde Staten. De regering-Trump heeft dat inmiddels gedaan kwam tussenbeide om te proberen alle pogingen op staatsniveau om AI-misbruik te beteugelen een halt toe te roepenondertekening van een uitvoerend bevel in december gericht op het aanvechten van de AI-regelgeving van de staat die bedoeld is om de inspanningen op het gebied van veiligheid en consumentenbescherming te ondermijnen. Deze stap komt op het moment dat de regering-Trump een uiterst genereus regelgevend standpunt inneemt ten aanzien van kunstmatige intelligentie, zoals technologiebedrijven dat doen groter bijdragen aan Trump platteland, inaugureel EN balzaal fondsen.
Het incident is een les in de gevaren van de snelle, ongereguleerde technologie: het is geen toeval dat het eerste wat veel gebruikers dachten te doen met AI het lastigvallen en vernederen van vrouwen was, waardoor hun toegang tot het openbare leven werd uitgehold en onrechtvaardige hiërarchieën verder werden verankerd. Maar de kracht van technologie lijkt hier ondergeschikt aan de kracht van rijkdom. xAI, de chatbot- en beeldgeneratieproducten zouden anders kunnen worden gebouwd als de prioriteiten van de man die ze beheert anders waren. Als een man met een zo laag intellect, verwarde hersenen, smakeloze humor en grove, zelfbevredigende vrouwenhaat als Musk niet de rijkste persoon ter wereld zou zijn, dan zou de wereld niet aan zijn vernedering worden onderworpen. Aan de andere kant was het misschien de rijkdom zelf die Musk zo maakte: hij heeft de geatrofieerde vaardigheden van iemand die nooit iets ongemakkelijks hoeft te doen, die nooit wordt uitgedaagd, nooit met consequenties wordt geconfronteerd en nooit nee zegt.
Hoe dan ook, de enige uitweg uit de puinhoop die Musk en Grok hebben gecreëerd, is Musk voldoende te belasten, zodat hij niet langer zo rijk is dat de mislukkingen van zijn karakter de publieke sfeer bepalen – zodat zijn schijnbare onverschilligheid tegenover het materiaal van seksueel kindermisbruik zonder wederzijds goedvinden dat zijn bedrijven hebben gecreëerd, niet langer resulteert in vrouwonvriendelijke, geseksualiseerde degradatie voor de slachtoffers van Grok en het grote publiek. We hoeven niet zo te leven: we kunnen de macht van Musk gebruiken om onszelf pijn te doen en te vernederen door afstand van hem te nemen. We kunnen voorkomen dat zijn idiotie ons probleem wordt. De regering-Trump zal geen verantwoordelijkheid nemen om Amerika te bevrijden van de gevolgen van Musks geld. Amerikanen moeten vechten voor een regering die dat wel doet.
-
Moira Donegan is columniste voor de Guardian US
-
Dit artikel is op 9 januari 2026 bijgewerkt om op te merken dat Grok zei dat de service voor het genereren van afbeeldingen is uitgeschakeld voor gebruikers die geen abonnement hebben.
