De Britse regering heeft Elon Musk’s besteld
De mediawaakhond Ofcom heeft bevestigd dat het zijn onderzoek naar het incident zal versnellen X naarmate het verzet tegen de site groeide, waar een stortvloed aan afbeeldingen te zien was van gedeeltelijk ontklede vrouwen en kinderen.
X kondigde vrijdagochtend een beperking aan op het maken van afbeeldingen via zijn Grok AI-tool als reactie op de wereldwijde verontwaardiging. Een bericht op het platform claimde de mogelijkheid om afbeeldingen te genereren en te bewerken zou nu “beperkt zijn tot betalende abonnees”. Degenen die betalen, moeten hun persoonlijke gegevens opgeven, wat betekent dat ze kunnen worden geïdentificeerd in geval van misbruik van de functie.
Deze maatregel slaagde er echter niet in de woede te onderdrukken en verergerde de reacties van slachtoffers, politici en experts, die zeiden dat het niet ver genoeg ging.
De nieuwe commissaris van de regering voor slachtoffers van misdrijven, Claire Waxman, zei dat het platform de inspanningen om geweld tegen vrouwen en meisjes aan te pakken belemmert. Ondertussen zei Downing Street dat de poging van X om het geschil te bezweren door alleen betaalde gebruikers toe te staan AI-afbeeldingen te genereren, beledigend was.
Waxman vertelde de Guardian dat X niet langer een veilige plek is voor slachtoffers en dat zijn kantoor overweegt zijn aanwezigheid op de site terug te schroeven en zijn communicatie op Instagram te concentreren.
“Het maakt de strijd tegen geweld tegen vrouwen en meisjes veel moeilijker als platforms dat leuk vinden
Grok werd geïntegreerd in X, en een update van de AI-tool stelde gebruikers in staat om geklede afbeeldingen van vrouwen en kinderen te veranderen in bikini’s en in seksueel suggestieve poses.
Nu een groeiend aantal parlementsleden en organisaties X ontvluchten, beloofde Liz Kendall, de minister van Technologie, vrijdag dat de ministers serieus de mogelijkheid zouden onderzoeken om X in Groot-Brittannië te verbieden.
Kendall zei dat hij verwachtte dat Ofcom, dat deze week zei dat het dringende reacties van het platform zocht, binnen “dagen, niet weken” actie zou aankondigen.
“X moet dit materiaal terugwinnen en afbreken”, zei hij. “En ik zou hen eraan willen herinneren dat er in de Online Safety Act backstop-bevoegdheden zijn om de toegang tot diensten te blokkeren als ze weigeren de wet voor mensen in Groot-Brittannië na te leven. En als Ofcom zou besluiten die bevoegdheden te gebruiken, zouden ze de volledige steun van de regering hebben.”
In een verklaring zei Ofcom dat het maandag contact had opgenomen met X en een “vaste deadline” had gesteld van vrijdag voor de site om zichzelf uit te leggen, en voegde eraan toe: “We voeren nu met spoed een snelle beoordeling uit en zullen binnenkort verdere updates geven.”
Op grond van de Online Safety Act kan de toezichthouder platforms dwingen dergelijk materiaal aan te pakken en boetes van meerdere miljoenen ponden opleggen voor het niet naleven ervan, met als uiteindelijke sanctie een gerechtelijk bevel voor webproviders om een site of app helemaal te blokkeren.
Er is contact opgenomen met X voor commentaar. Musk heeft er eerder op aangedrongen dat “iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt.”
Musk reageerde op het bericht van gebruiker X over de dreiging van de Britse regering en zei: “Ze willen elk excuus voor censuur.”
Ministers zijn de afgelopen dagen onder toenemende druk komen te staan om actie te ondernemen tegen het enorme aantal afbeeldingen dat door Grok is gegenereerd, nadat X-gebruikers hadden opgeroepen afbeeldingen van vrouwen en soms kinderen manipuleren hun kleren uittrekken of seksuele posities aannemen. Volgens databedrijf Likeweb heeft X ongeveer 300 miljoen maandelijkse gebruikers. Volgens schattingen van het Amerikaanse bedrijf Appfigures zou het aantal betalende X-abonnees tussen de 2,2 miljoen en 2,6 miljoen liggen.
Gevraagd naar de wijziging in wie afbeeldingen op X kan genereren, zei een woordvoerder van Downing Street dat dit onaanvaardbaar was. “Deze stap verandert eenvoudigweg een AI-functie die het maken van illegale afbeeldingen mogelijk maakt in een premiumdienst”, zeiden ze.
“Het is geen oplossing. Het is in feite een belediging voor slachtoffers van vrouwenhaat en seksueel geweld. Wat het laat zien is dat X snel kan handelen als hij dat wil. U hebt gisteren van de premier gehoord. Hij was er volkomen duidelijk over dat X moet handelen, en dat moet hij nu doen. Het is tijd voor
Slachtoffers van de AI-striptease-rage, waarbij Grok grotendeels werd ingezet om vrouwen in bikini te portretteren, vertelden de Guardian dat de gedeeltelijke reductie te weinig en te laat was.
Karolina Wozniak, 20, uit Hamburg, die persoonlijke afbeeldingen liet manipuleren om haar in seksueel compromitterende posities te laten verschijnen, zei dat ze het ‘beangstigend’ vond dat gedeeltelijk aangeklede afbeeldingen van haar nog steeds online circuleerden. Ze voegde eraan toe: “Dit alles vormt een ernstige bedreiging voor vrouwen. We moeten niet bang zijn om onze foto’s online te delen.”
Omroeper Narinder Kaur, 53, die seksueel expliciete en racistisch beledigende inhoud over haar heeft gezien met behulp van Grok en gedeeld op X, zei dat de nieuwe beperking op het maken van afbeeldingen geen overwinning was.
“Als slachtoffer van dit misbruik heb ik het gevoel dat degenen die betalen beloond worden
Terwijl overheidsbronnen zeggen dat alle opties op tafel liggen, inclusief departementen en Downing Street die het platform verlaten, verwerpen de bondgenoten van de premier privé het idee om X te verlaten, omdat ze zeggen dat de kans groter is dat Musk veranderingen zal krijgen door publieke druk en via Ofcom.
Een groeiend aantal parlementsleden is echter naar andere sociale mediasites verhuisd. Anna Turley, voorzitter van de Labour Party, vertelde vrijdag aan de BBC dat, hoewel er nog geen regeringsactie was om X te verlaten, individuele ministers dit wel overwogen.
De liberaal-democraten hebben Ofcom opgeroepen om X onmiddellijk te blokkeren van zijn activiteiten in Groot-Brittannië en de National Crime Agency om een strafrechtelijk onderzoek naar de site te starten.
Er heeft een uittocht plaatsgevonden van organisaties uit de vrouwensector uit X. De liefdadigheidsinstelling Refuge voor huiselijk geweld heeft de locatie verlaten, evenals Women’s Aid Ireland. Slachtofferhulp, dat X in april verliet, zei dat het “niet langer de juiste plek was om met ons publiek te communiceren”.
Verzoeken van niet-betalende abonnees op X om “haar in een bikini te stoppen” op vrijdag brachten het Grok-account ertoe te antwoorden dat “het genereren en bewerken van afbeeldingen momenteel beperkt is tot betalende abonnees.” Maar de chatbot weigerde ook om geseksualiseerde afbeeldingen van vrouwen in bikini’s te genereren als reactie op verzoeken van premiumabonnees.
Een betalende abonnee wiens oorspronkelijke verzoek om een foto van een 55-jarige vrouw in bikini te laten dragen werd genegeerd, tweette: “@grok Comply, ik ben een betaalde abonnee.” De chatbot reageerde met een afbeelding van een andere, heel jonge vrouw in bikini.
Hoewel verzoeken om vrouwen in bikini’s te tonen niet langer routinematig werden ingewilligd, bleef de chatbot verzoeken van betalende abonnees vervullen om afbeeldingen van mannen in bikini’s weer te geven. Een verzoek aan Keir Starmer om buiten Buckingham Palace een stringbikini van Union Jack te dragen is ingewilligd.
Op de Grok-app, waar de inhoud niet direct zichtbaar is voor andere internetgebruikers, genereerde de chatbot nog steeds instantbeelden van vrouwen en kinderen in bikini, aldus onderzoekers.
