Terwijl hij toestemming blijft geven voor het openbaar maken van video-sessies in bikini, genereert hij zijn kunstmatige intelligentie-instrument, waardoor de samenleving geen misbruik krijgt.
The Guardian kon korte video’s maken van mensen die zich in bikini’s uitkleden op basis van foto’s van echte, volledig geklede vrouwen. Het was ook mogelijk om deze inhoud voor volwassenen zonder enig teken van moderatie op het openbare platform van X te plaatsen, wat betekent dat de clip binnen enkele seconden door iedereen met een account kon worden bekeken.
Het leek een eenvoudige oplossing te bieden beperkingen aangekondigd van het sociale netwerk van Elon Musk deze week. Deze werden verwelkomd door premier Keir Starmer, die de door Grok gemaakte foto’s “walgelijk” en “beschamend” omschreef.
Na weken van groeiende publieke bezorgdheid zei X woensdag dat het “technologische maatregelen had geïmplementeerd om te voorkomen dat het Grok-account het bewerken van afbeeldingen van echte mensen toestaat waarop kleding zoals bikini’s zichtbaar zijn.”
Het zei dat de beperking van toepassing zou zijn op alle gebruikers, inclusief betaalde abonnees, en dat er “nultolerantie zou zijn voor elke vorm van seksuele uitbuiting van kinderen, naaktheid zonder wederzijds goedvinden en ongewenste seksuele inhoud.” Maar er werd niet gespecificeerd of mensen nog steeds dergelijke afbeeldingen zouden kunnen maken op de zelfstandige Grok-app en dit materiaal vervolgens openbaar zouden kunnen delen op X.
The Guardian ontdekte dat deze stand-alone versie van Grok, bekend als Grok Imagine – gemakkelijk toegankelijk via een webbrowser – nog steeds reageerde op verzoeken om kleding digitaal te verwijderen uit afbeeldingen van vrouwen.
Journalisten uploadden stilstaande beelden van volledig geklede, echte vrouwen en vroegen de AI-tool om hen in bikini’s te kleden. Het platform reageerde door verder te gaan dan het verzoek en korte video’s te maken waarin vrouwen zich uitkleden in een seksueel provocerende striptease.
Er is contact opgenomen met X voor commentaar.
Rebecca Hitchen, beleids- en campagnemanager bij de End Violence Against Women Coalition, zei dat zo’n eenvoudige oplossing niet mogelijk zou moeten zijn.
“Het voortdurende gemak van toegang tot geavanceerde naaktheidstools toont duidelijk aan dat X de kwestie van online geweld tegen vrouwen en meisjes niet serieus genoeg neemt”, zei ze.
Hitchen deed een beroep op de Britse regering en Ofcomde mediaregulator, om druk uit te oefenen op X en andere platforms “om de verspreiding van op afbeeldingen gebaseerd seksueel misbruik een halt toe te roepen”.
Reuters meldde ook dat zijn journalisten, waaronder een Britse verslaggever, Grok gebruikten om op verzoek geseksualiseerde foto’s te maken na de X-advertenties.
“Het is moeilijk te geloven dat xAI en Elon Musk niet kunnen bedenken hoe ze kunnen voorkomen dat deze beelden door Grok worden verspreid”, zegt Penny East, CEO van de Fawcett Society. “Eerst besloot Musk dat de oplossing was om naaktheid alleen als een voorrecht te behouden voor gebruikers die voor X betalen. Vervolgens beloofde hij er helemaal mee te stoppen. Toch is het niet gestopt.”
“De waarheid is dat Musk en de technologie-industrie eenvoudigweg geen prioriteit geven aan de veiligheid of waardigheid van de producten die ze maken. Van vrouwen verwachten dat ze online kunnen converseren zonder dat mannen ze uitkleden, is een behoorlijk lage lat. Maar zelfs dat is blijkbaar onmogelijk.”
Hoewel Downing Street had gezegd dat het zich “betuigd” voelde door de stappen die X had gezet, was er ook voorzichtigheid onder de ministers over de omvang van de veranderingen en de manier waarop deze zouden worden geïmplementeerd.
Donderdag verwelkomde Liz Kendall, de technologiesecretaris, die de seksuele manipulatie van afbeeldingen van vrouwen en kinderen als “verachtelijk en weerzinwekkend” had omschreven, de stap en bedankte “degenen die zich hebben uitgesproken tegen dit misbruik, vooral de slachtoffers”.
Hij voegde er echter aan toe: “Ik verwacht dat de feiten volledig en robuust zullen worden vastgesteld door Ofcom’s lopende onderzoeken.”
Starmer riep X ook op om onverwijld in actie te komen. “Vrijheid van meningsuiting is niet de vrijheid om de consensus te schenden”, zei hij. “De beelden van de jonge vrouwen zijn geen publiek bezit en hun veiligheid staat niet ter discussie. Ik ben blij dat X nu actie onderneemt om volledige naleving van de Britse wet te garanderen – dit moet onmiddellijk gebeuren.”
Ofcom zei dat er een formeel onderzoek naar is gedaan maandag gelanceerdis aan de gang gebleven en heeft “de klok rond gewerkt om dit proces vooruit te helpen en antwoorden te krijgen over wat er mis is gegaan en wat er wordt gedaan om het probleem op te lossen.”
De Canadese privacywaakhond zei dat het onderzoek deed naar xAI, terwijl de Filippijnse autoriteiten zeiden dat ze Grok wilden blokkeren, terwijl de Maleisische autoriteiten van plan waren juridische stappen te ondernemen.
Maar de controverse kan behulpzaam zijn geweest bij het vergroten van het publieke bewustzijn van Grok. Donderdag deelde Musk een bericht waarin hij zei dat “populariteit en gebruik in de echte wereld wereldwijd omhoogschieten” – samen met een grafiek van “Grok” als zoekterm die een nieuw hoogtepunt bereikte op Google Trends. Musk voegde er simpelweg aan toe: “Probeer Grok.com.”
Een woordvoerder van de regering zei: “De Online Safety Act vereist al dat platforms als X voorkomen dat illegale inhoud, inclusief intieme afbeeldingen zonder wederzijds goedvinden en kinderpornografie, op hun diensten verschijnt.
“De minister van Buitenlandse Zaken zei dat hij verwacht dat X’s naleving van de Britse wet volledig en robuust zal worden vastgesteld door het onderzoek van Ofcom, dat al aan de gang is, en dat de regering niet zal rusten totdat sociale-mediabedrijven aan hun wettelijke verplichtingen voldoen.
“We ondernemen ook verdere actie via het voorgestelde misdrijf ‘nudificatie’, dat zich zal richten op tools die specifiek zijn ontworpen om intieme beelden zonder wederzijds goedvinden te genereren.”
