Ashley St. Clair, de moeder van een van de kinderen van Elon Musk, klaagt het kunstmatige-intelligentiebedrijf van de technologiemiljardair, xAI, aan nadat de Grok-chatbot seksuele beelden van haar had geproduceerd.
St. Clair heeft donderdag bij de rechtbank van New York een rechtszaak aangespannen tegen xAI, waarbij hij beweert dat Grok beelden heeft gegenereerd van haar ‘als kind uitgekleed in een stringbikini, en als volwassene in seksueel expliciete poses, bedekt met sperma, of alleen tandzijde dragend.’
Toen ze de chatbot vroeg om te stoppen met het produceren van deze afbeeldingen zonder haar toestemming, stemde deze aanvankelijk toe, maar ging vervolgens door met het maken van geseksualiseerde deepfakes, aldus de rechtszaak.
St. Clair beweert ook dat hij de beelden heeft gerapporteerd aan X, ook eigendom van Musk, maar het platform stelde vast dat er geen sprake was van overtreding. X heeft vervolgens haar Premium-lidmaatschap verwijderd en haar uitgesloten van het programma voor het genereren van inkomsten en lidmaatschap.
“xAI is geen redelijk veilig product”, zei Carrie Goldberg, advocaat voor St. Clair, in een verklaring. ‘Niemand heeft meer de dupe gehad dan Ashley St. Clair.’
“Deze schade was rechtstreeks het gevolg van doelbewuste ontwerpkeuzes waardoor Grok kon worden gebruikt als instrument voor intimidatie en vernedering”, vervolgde Goldberg. “Bedrijven mogen niet aan hun aansprakelijkheid kunnen ontsnappen als de producten die ze bouwen voorspelbaar dit soort schade veroorzaken. We zijn van plan Grok verantwoordelijk te houden en te helpen duidelijke wettelijke grenzen te stellen ten behoeve van het hele publiek om te voorkomen dat AI wordt bewapend voor misbruik.”
The Hill heeft contact opgenomen met xAI voor commentaar.
Grok is de afgelopen weken intensief onderzocht door toezichthouders over de hele wereld vanwege het genereren van geseksualiseerde afbeeldingen van vrouwen en kinderen op X.
Zowel Maleisië als Indonesië hebben de toegang tot Grok beperkt, terwijl de Britse Communications Regulatory Authority en de procureur-generaal van Californië onderzoeken naar de chatbot en het platform hebben aangekondigd.
Te midden van de reacties beperkte Grok aanvankelijk de toegang tot zijn tools voor het genereren en bewerken van afbeeldingen tot betalende abonnees.
X kondigde woensdag verdere beperkingen aan en zei dat het zal voorkomen dat alle gebruikers, inclusief betaalde abonnees, de chatbot gebruiken om afbeeldingen van echte mensen in ‘schrale outfits zoals bikini’s’ te bewerken.
Het zegt ook dat het zal voorkomen dat gebruikers afbeeldingen maken van echte mensen die kleding onthullen in “rechtsgebieden waar dit illegaal is”.
Copyright 2026 Nexstar Media Inc. Alle rechten voorbehouden. Dit materiaal mag niet worden gepubliceerd, uitgezonden, herschreven of herverdeeld.
