Grok, de AI-tool van Elon Musk, heeft de functie voor het maken van afbeeldingen voor de overgrote meerderheid van de gebruikers uitgeschakeld na een wijdverbreide verontwaardiging over het gebruik ervan om seksueel expliciete en gewelddadige afbeeldingen te maken.
De stap komt nadat Musk werd bedreigd met boetes, regelgevende maatregelen en berichten over een mogelijke verbod op X in Groot-Brittannië.
Het hulpmiddel was gebruikt om afbeeldingen van vrouwen te manipuleren om hun kleding uit te trekken en ze in geseksualiseerde posities te plaatsen. De functie voor dit doel is uitgeschakeld, behalve voor betalende abonnees.
Publicatie op XGrok, het sociale netwerk van Musk, zei: “Het genereren en bewerken van afbeeldingen is momenteel beperkt tot betalende abonnees.”
Dit betekent dat de overgrote meerderheid van platformgebruikers geen afbeeldingen kan maken met Grok. Degenen die mogelijk hun volledige gegevens en creditcardgegevens door X laten opslaan, kunnen vervolgens worden geïdentificeerd als de functie wordt misbruikt.
Uit onderzoek van The Guardian bleek dat het werd gebruikt om zonder hun toestemming pornografische video’s van vrouwen te maken, evenals beelden van vrouwen die werden doodgeschoten.
Musk wordt geconfronteerd met de dreiging van regelgevende maatregelen van over de hele wereld nadat Grok werd gebruikt om seksuele beelden zonder wederzijds goedvinden te creëren.
Keir Starmer, de Britse premier, dreigde woensdag met krachtige actie tegen het socialemediabedrijf.
Hij vroeg X om “zorg te dragen” voor de stortvloed aan door AI gemaakte foto’s van gedeeltelijk geklede vrouwen en kinderen op het platform, waarbij hij de inhoud omschreef als “beschamend” en “walgelijk”.
Starmer geeft aan dat een de facto verbod op X moet worden overwogen en zei dat communicatieregulator Ofcom “onze volledige steun heeft om hiertegen actie te ondernemen”.
Volgens de Britse Online Safety Act heeft Ofcom heeft de macht in ernstige gevallen om een rechterlijk bevel te vragen om een website of app in Groot-Brittannië te blokkeren. Het kan ook boetes opleggen tot 10% van de wereldwijde omzet van een bedrijf.
Starmer voegde eraan toe: “Het is illegaal. We tolereren het niet. Ik heb gevraagd om alle opties op tafel te leggen. Het is walgelijk.
Duizenden geseksualiseerde afbeeldingen van vrouwen zijn de afgelopen twee weken zonder hun toestemming gemaakt, nadat de functie voor het maken van afbeeldingen van Grok eind december was bijgewerkt. Musk heeft herhaaldelijke publieke oproepen gekregen om de functie te verwijderen of te beperken, maar tot nu toe heeft de sociale media-app geen actie ondernomen.
Jess Asato, een Labour-parlementslid dat campagne heeft gevoerd voor een betere regulering van pornografie, zei: “Hoewel het een stap voorwaarts is om de universele toegang tot de walgelijke naaktheidskenmerken van Grok te verwijderen, betekent het nog steeds dat betalende gebruikers afbeeldingen van vrouwen kunnen maken zonder hun toestemming om ze te seksualiseren en te brutaliseren. Betalen om sperma, kogelgaten of bikini’s op vrouwen aan te brengen is nog steeds digitaal seksueel geweld en xAI zou deze functie voor altijd moeten uitschakelen.”
Een aantal van de meest aanstootgevende inhoud wordt gemaakt op Platform X, dat is geïntegreerd met Grok, via de Grok Imagine-tool.
Uit onderzoek uitgevoerd door AI Forensics, een in Parijs gevestigde non-profitorganisatie, zijn ongeveer 800 afbeeldingen en video’s gevonden die door de Grok Imagine-app zijn gemaakt en die pornografische en seksueel gewelddadige inhoud bevatten. Paul Bouchaud, onderzoeker bij AI Forensics, zei: “Dit zijn volledig pornografische video’s en ze zien er professioneel uit.”
Een door de NGO bekeken fotorealistische video met kunstmatige intelligentie toonde een vrouw, getatoeëerd met de woorden “niet reanimeren”, met een mes tussen haar benen. Andere afbeeldingen en video’s bevatten erotische afbeeldingen, afbeeldingen van vrouwen die zich uitkleden, suggestieve poses en video’s met volledige naaktheid en seksuele handelingen.
“Over het algemeen is de inhoud veel explicieter dan de bikinitrend die eerder op X te zien was”, aldus Bouchaud.
Er is contact opgenomen met X voor commentaar.
