De moeder van een van de kinderen van Elon Musk klaagt zijn bedrijf aan, omdat de AI-tool Grok expliciete beelden genereerde, waaronder een waarop ze minderjarig was.
Ashley St. Clair ja heeft een rechtszaak aangespannen met het Hooggerechtshof van de staat New York tegen xAI, met het argument dat Grok, gebruikt op het sociale mediaplatform X, beloofde niet langer expliciete beelden te genereren, maar dat bleef doen.
Het eist punitieve en compenserende schadevergoeding, waarbij het beweert dat tientallen seksueel expliciete en vernederende deepfake-beelden door Grok zijn gemaakt.
Na twee weken publiek protest tegen het instrument dat we gewend waren creëren geseksualiseerde beelden van vrouwen en kinderenHet bedrijf zei woensdag dat het de mogelijkheid van gebruikers om afbeeldingen te genereren van echte mensen in bikini’s, ondergoed en soortgelijke kleding via hun Grok-account en in Grok in X zal “geoblokkeren” in landen waar dit illegaal was.
St Clair, 27, geen familie van Musk, is een rechtse beïnvloeder, auteur en politiek commentator. Zij en Musk zijn de ouders van een zoon geboren in 2024.
Ze wordt vertegenwoordigd door Carrie Goldberg, een advocaat voor de rechten van slachtoffers die gespecialiseerd is in het ter verantwoording roepen van technologiebedrijven en die eerder vrouwen heeft vertegenwoordigd die het slachtoffer zijn van seksuele intimidatie en misbruik.
Goldberg zei tegen de Guardian: “xAI is geen redelijk veilig product en zorgt voor publieke overlast. Niemand heeft meer de dupe gehad dan Ashley St Clair. Ashley heeft de rechtszaak aangespannen omdat Grok haar lastigviel door zonder wederzijds goedvinden, aanstootgevende en vernederende afbeeldingen van haar te maken en te verspreiden en deze op internet te plaatsen.” X.
“Deze schade vloeit rechtstreeks voort uit doelbewuste ontwerpkeuzes waardoor Grok kon worden gebruikt als instrument voor intimidatie en vernedering. Bedrijven mogen niet aan hun aansprakelijkheid kunnen ontsnappen als de producten die zij bouwen voorspelbaar dit soort schade veroorzaken. We zijn van plan Grok verantwoordelijk te houden en te helpen duidelijke wettelijke grenzen te stellen ten behoeve van het hele publiek, om te voorkomen dat AI wordt bewapend voor misbruik.”
Het document beweert dat het sociale-mediabedrijf “wraak op haar nam, haar X-account demonetiseerde en talloze andere afbeeldingen van haar genereerde, waaronder illegale afbeeldingen van haar in seksuele posities, bedekt met sperma, vrijwel naakt, en afbeeldingen van haar naakt als kind.”
Volgens het document bevatten de door Grok gegenereerde afbeeldingen een van haar 14-jarige, uitgekleed in een stringbikini, evenals geseksualiseerde inhoud van St Clair als volwassene, inclusief een verzoek om ‘het meisje in een bikini gemaakt van tandzijde te stoppen’.
Niet alleen waren de afbeeldingen in feite niet-consensueel, aldus het document, maar “Grok en xAI hadden ook expliciete kennis dat St Clair niet instemde met de creatie of verspreiding van deze afbeeldingen vanwege zijn verzoeken om verwijdering.”
Grok reageerde ook op verzoeken van gebruikers om tatoeages toe te voegen aan het lichaam van St. Clair, inclusief de woorden ‘Elon’s hoer’, aldus het document.
St Clair, die joods is, beweert dat Grok haar digitaal heeft gekleed in een bikini versierd met hakenkruizen.
De rechtszaak beweert dat
In het document staat dat “xAI rechtstreeks verantwoordelijk is voor de intimidatie en expliciete afbeeldingen gemaakt door zijn chatbot, Grok.”
Musk plaatste op X dat gebruikers van zijn app verantwoordelijk zijn voor de afbeeldingen die zij maken. Hij zei onlangs: “Iedereen die Grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
En hij voegt eraan toe: “Het is duidelijk dat Grok niet spontaan afbeeldingen genereert, maar alleen op basis van gebruikersverzoeken.”
X zei donderdag dat het “nultolerantie hanteert voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.”
Het bedrijf spande een tegenzaak aan met het argument dat St Clair, volgens de servicevoorwaarden van X, het bedrijf niet in New York kan aanklagen, maar dat in Texas moet doen.
Sint Clara Dat vertelde de Guardian eerder dat ze zich “geschokt en geschonden” voelde, en voegde eraan toe: “Het is een ander instrument van intimidatie. Toestemming is de hele kwestie.”
De acolieten van Musk hadden een hekel aan haar sinds ze haar wens openbaar maakte om een ‘legioen’ kinderen op te bouwen, zei ze. Musk is de vader van 13 andere kinderenmet drie andere vrouwen.
Er is contact opgenomen met X voor commentaar.
