Regeringen verbieden chatbot Grok vanwege niet-consensuele bikinifoto’s: NPR

Indonesië en Maleisië tijdelijk geblokkeerd X’s chatbot, Grok, dit weekend nadat hij eind vorig jaar tientallen nepafbeeldingen had geplaatst waarin voornamelijk vrouwen en in sommige gevallen kinderen werden geseksualiseerd.

Regeringen over de hele wereld starten ook onderzoeken. Dat gebeurde maandag bij de Britse mediaregulator Ofcom een onderzoek gestart op het sociale mediaplatform, wat tot een verbod kan leiden.

Grok maakte al een tijdje seksueel expliciete beelden van mensen. Maar het probleem kreeg eind december brede aandacht toen mensen de chatbot gebruikten om een ​​groot aantal bestaande afbeeldingen te bewerken door de bot in reacties te taggen en hem instructies te geven zoals ‘zet haar in een bikini’. Hoewel Grok niet op alle verzoeken reageerde, voldeed hij in veel gevallen. In sommige gevallen, zegt Kolina Koltai, senior onderzoeker bij Bellingcat, kunnen gebruikers Grok ervan overtuigen om volledig frontale naaktheid te genereren.

Een onnoemelijk aantal vrouwen en, in sommige gevallen, kinderen Reuters voor het eerst gemeld, lieten hun gelijkenissen online seksualiseren door Grok zonder hun toestemming, inbegrepen een van de moeders van de kinderen van de eigenaar van X, Elon Musk.

Het is ongebruikelijk dat zoveel regeringen actie ondernemen tegen een socialemediabedrijf, maar deze zaak is anders, zegt Riana Pfefferkorn, een politiek onderzoeker aan Stanford University. “Het uitvoeren van (materieel) seksueel kindermisbruik is overduidelijk illegaal, vrijwel overal op aarde.”

Afgelopen vrijdag had X de functie voor het genereren van AI-afbeeldingen van Grok beperkt om deze alleen beschikbaar te maken voor betalende abonnees. Niet-betalende gebruikers kunnen mensen nog steeds met een paar klikken publiekelijk in bikini’s zetten, maar ze kunnen slechts een paar verzoeken indienen voordat ze worden uitgenodigd om zich aan te melden voor een premium lidmaatschap, dat $ 8 per maand kost.

NPR beoordeelde publiekelijk beschikbare afbeeldingen van Grok die eerder deze maand waren gemaakt en ontdekte dat hij enkele dagen in 2026 was gestopt met het maken van afbeeldingen van schaars geklede vrouwen. Soms laat hij echter nog steeds mannen in bikini zien.

xAI, het moederbedrijf van X, promoot sinds vorig jaar inhoud voor volwassenen met Grok. In mei, Koltai merkte het als eerste op dat de chatbot seksueel expliciete afbeeldingen zou genereren als reactie op verzoeken over X, zoals ‘trek je kleren uit’. Afgelopen zomer introduceerde Grok de ‘hot mode’ in zijn zelfstandige app, waarmee gebruikers bikini’s op door AI gegenereerde personages konden plaatsen.

Ben Winters, directeur kunstmatige intelligentie en privacy bij de consumentenorganisatie Consumer Federation of America, zei dat Grok je nu niet alleen in staat stelt afbeeldingen van echte mensen te bewerken, maar ook een eenvoudig distributieplatform biedt via X. “Het is een verdere aanzienlijke escalatie”, zei hij.

Regeringen zijn verontwaardigd over de stap van X om de toegang tot de functie voor het genereren van afbeeldingen te beperken tot abonnees. Dit zei de Britse minister van Technologie Liz Kendall Nieuws uit de hemel “Het is beledigend om te zeggen dat je nog steeds toegang hebt tot deze dienst, zelfs als je ervoor betaalt.”

De Indonesische regering ontdekte dat Grok geen effectieve barrières had om te voorkomen dat gebruikers pornografische inhoud zonder wederzijds goedvinden creëerden op basis van echte Indonesische inwoners, eerst Associated Press gemeld.

“De regering beschouwt seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, waardigheid en veiligheid van burgers in de digitale ruimte”, zei de Indonesische minister van Communicatie en Digitale Zaken Meutya Hafid in een verklaring.

De AP meldde ook dat Grok in Maleisië geblokkeerd zal blijven totdat er effectieve vangrails tegen misbruik zijn geplaatst.

In antwoord op vragen van NPR wees X-woordvoerster Victoria Gillespie op een verklaring gepubliceerd op 3 januari waarin staat dat “iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt.” De verklaring weerspiegelt die van Musk versturen eerder die dag.

Een dergelijke aanpak is een ‘poging om afstand te doen van verantwoordelijkheid’, zei Winters.

“Het is zeker niet alleen de gebruiker die dit suggereert”, zei hij. “Het is het feit dat de afbeelding niet zou zijn gemaakt zonder… de tool die ze hebben gemaakt.”

Vóór de golf van expliciete, niet-consensuele deepfakes gegenereerd door Grok X hit, hadden andere AI-makers soortgelijke functies aan hun chatbots toegevoegd. In november bracht Google een nieuw model voor het genereren van afbeeldingen uit, Nano Banana Pro. In december heeft OpenAI zijn ChatGPT Images-model bijgewerkt. Beide kunnen ook afbeeldingen bewerken om mensen in bikini’s te plaatsen, Wired gemeld vorige maand. Een Reddit-thread waarin dergelijke afbeeldingen worden verspreid, is verwijderd.

In een andere X-berichtMusk heeft gesuggereerd dat, omdat de tools van andere AI-bedrijven ook deze uitkleedfunctie hebben, de druk van overheden een vorm van censuur is die op zijn platform is gericht.

Koltai merkte op dat de trend van het creëren van door AI gegenereerde, niet-consensuele intieme media al een jaar of twee aan de gang is. “Je ziet deze advertenties ook op Instagram. Het is alsof je een foto van jou en je crush uploadt en jullie kunnen zoenen”, zei hij. “Dus dat is kussen en knuffelen, en dan zie je dat er een extremer spectrum is.”

“Er is duidelijk een groot probleem binnen de technologie-industrie, omdat we het op meerdere platforms hebben gezien en (er zijn niet) altijd goede richtlijnen, limieten of voorschriften”, zei Koltai.

De kritiek in de Verenigde Staten is veel gematigder dan in andere landen. Senator Ted Cruz, R-Tex., gepubliceerd op X Woensdag werd bekend dat de beelden “verwijderd moeten worden en er hekwerken geplaatst moeten worden.” Hij zei ook dat hij “bemoedigd was dat X heeft aangekondigd dat ze deze schendingen serieus nemen en eraan werken om alle illegale afbeeldingen en beledigende gebruikers van hun platform te verwijderen.”

Grok heeft het afgelopen jaar regelmatig voor controverse gezorgd. Afgelopen zomer, de chatbot noemde zichzelf “MechaHitler” en spuwde antisemitische complottheorieën uit.

Apps met zogenaamde naaktheidsfuncties bestaan ​​al jaren, meestal in de schaduw van internet. Winters zei dat ambtenaren meer moeten doen om enkele kenmerken van X te controleren. “Er bestaan ​​verkeerde voorstellingen over de veiligheid van hun producten. Er zijn schendingen van hun servicevoorwaarden”, zei hij.

“We hebben geen enkele significante actie gezien van welke Amerikaanse instantie dan ook, staats- of federaal, die de bevoegdheid heeft om de wet te handhaven”, aldus Winters.