Djaren later Maleisië haalde de mondiale krantenkoppen door aan te kondigen dat het Grok tijdelijk zou verbieden vanwege zijn vermogen om ‘zeer aanstootgevende en niet-consensuele gemanipuleerde beelden’ te genereren, waarbij de generatieve AI-tool vrolijk praat met accounts die in het land zijn geregistreerd.
“Nog steeds hier! DNS-blokkering in Maleisië is vrij licht: eenvoudig te omzeilen met een VPN of een DNS-wijziging”, zegt Grok’s account op X zei in antwoord op de vraag van een gebruiker.
Het vermogen van Grok om gebruikers in staat te stellen seksueel expliciete afbeeldingen te maken, inclusief afbeeldingen van kinderen, heeft de afgelopen weken voor wereldwijde verontwaardiging gezorgd, waarbij toezichthouders en politici over de hele wereld onderzoeken zijn gestart. Indonesië en Maleisië waren de eerste twee landen die blokkades op de technologie aankondigden, waarbij de Maleisische toezichthouder zondag laat zei dat het “een tijdelijke beperking” had gelast op de toegang tot Grok, met ingang van 11 januari 2026. Filippijnse functionarissen zeiden dat ze ook van plan zijn de technologie te verbieden.
Het blokkeren van de toegang tot Grok is echter niet eenvoudig. De technologie bestaat niet alleen op meerdere platforms, waaronder een zelfstandige app en website, maar is ook geïntegreerd in X, dat samen met Grok eigendom is van xAI van Elon Musk.
De afgelopen week hebben X-gebruikers en zelfs Grok zelf mensen geadviseerd over hoe ze de beperkingen kunnen omzeilen. Dit omvat het gebruik van een VPN – waarvan er vele gratis beschikbaar zijn – of het wijzigen van het Domain Name System (DNS), het protocol op internet dat adresnamen omzet in IP-adressen die websites laden.
Toen The Guardian Grok in Indonesië probeerde te gebruiken, werkte de website zelfs zonder VPN, ook al werkte de Grok-app niet. Grok reageerde ook nog steeds op Indonesische accounts op X, waar het functioneert als een geïntegreerde chatbot. X is niet verboden.
Zelfs als regeringen Grok volledig zouden kunnen beperken, is dat geen echte oplossing, zegt Nana Nwachukwu, een AI-governance-expert en promovendus aan het Trinity College Dublin.
‘Het blokkeren van Grok is als het aanbrengen van een pleister op een huilende wond die je niet hebt schoongemaakt’, zei hij. “Je blokkeert Grok en roept dan rond dat je iets hebt gedaan. Ondertussen kunnen mensen VPN’s gebruiken om toegang te krijgen tot dezelfde platforms.” Of ze kunnen zich eenvoudigweg wenden tot een van de vele andere platforms die dezelfde functies bieden, waaronder “kleinere, meer algemene AI-systemen die grotendeels onbekend zijn”, voegde Nwachukwu eraan toe.
Regeringen zouden zich in plaats daarvan moeten concentreren op wetshandhaving en het onderzoeken van personen die dergelijke instrumenten gebruiken om de wet te overtreden, voegde hij eraan toe. “Platforms zijn wettelijk verplicht om informatie te verstrekken aan wetshandhavers wanneer er een misdrijf wordt gepleegd”, aldus Nwachukwu. ‘Als we zien dat mensen worden gearresteerd, mensen voor de rechter worden gebracht, mensen worden opgesloten voor deze misdaden, is dat een teken dat dit een echte misdaad is’
X moet zijn platform verantwoordelijk houden en zichzelf opruimen, zei Nwachukwu: “Al die aanstootgevende afbeeldingen moeten van het platform worden verwijderd.”
X maakte woensdag bekend aanvullende garanties in reactie op de aanhoudende publieke woede, waarin werd verklaard dat het zou voorkomen dat het @Grok-account op X “het bewerken van afbeeldingen van echte mensen in onthullende kleding zoals bikini’s toestaat”, inclusief betaalde abonnees. Echter, ontdekte de Guardian dat het mogelijk was om die beperkingen te omzeilen door de standalone versie van Grok, gemakkelijk toegankelijk via een webbrowser, te gebruiken om korte video’s te maken waarin kleding wordt verwijderd uit afbeeldingen van echte vrouwen.
Dit kan vervolgens worden gepubliceerd op het openbare platform van X, waar het binnen enkele seconden door gebruikers over de hele wereld kan worden bekeken.
Het bedrijf van Musk zei ook dat het in rechtsgebieden waar dergelijke inhoud illegaal is, het de mogelijkheid van alle gebruikers op die locaties om afbeeldingen van echte mensen in bikini’s of vergelijkbare outfits te genereren in Grok op X geo-blokkeert, eraan toevoegend dat “xAI vergelijkbare geoblocking-maatregelen implementeert voor de Grok-app.”
Deskundigen waarschuwen dat gebruikers dergelijke “geoblokkades” mogelijk nog steeds kunnen omzeilen via een VPN. Ook is onduidelijk in welke landen dergelijke beperkingen zullen worden ingevoerd.
In Maleisië zei minister van Communicatie Fahmi Fadzil dat de beperkingen op Grok pas zouden worden opgeheven zodra de mogelijkheid om schadelijke inhoud te produceren wordt uitgeschakeld, zo meldden lokale media.
Dr. Nuurrianti Jalli, een gastonderzoeker bij het Media, Technology and Society Program bij ISEAS – Yusof Ishak Institute, zei dat de dreiging om Grok te blokkeren een nuttige manier kan zijn om bedrijven onder druk te zetten om snel te reageren, en voegde eraan toe dat het “het debat verschuift van ‘individuele slechte actoren’ naar kwesties van platformaansprakelijkheid, security by design en aansprakelijkheid als de veiligheidsmaatregelen falen”, zei ze. Het kan ook “de verspreiding van misbruik vertragen, incidenteel misbruik verminderen en een duidelijke grens creëren rond wat autoriteiten als onaanvaardbaar beschouwen.”
Volgens de Maleisische media is Grok in Indonesië gebruikt om zonder wederzijds goedvinden geseksualiseerde beelden te maken van zangers en beroemdheden, waaronder een van de populairste meidengroepen van het land, JKT48, terwijl in Maleisië vrouwen soortgelijk misbruik melden, waaronder gevallen waarin het hulpmiddel is gebruikt om hun hoofddoeken af te doen.
Sommige vrouwen hebben Grok op X publiekelijk verteld dat ze hem geen toestemming geven om hun foto’s te ‘vegen, knippen, verwerken of bewerken’.
Nuurrianti zei dat regeringen moeten aandringen op meer transparantie “over hoe beveiligingsmaatregelen worden geïmplementeerd, hoe meldingen van misbruik worden afgehandeld en welke controlemaatregelen worden genomen wanneer schadelijke inhoud wordt gegenereerd of verspreid.”
De Maleisische Communicatie- en Multimediacommissie en het Ministerie van Communicatie hebben niet gereageerd op een verzoek om commentaar. Ook het Indonesische ministerie van Communicatie en Digitale Zaken reageerde niet.
Nwachukwu zei dat er beveiligingen in het AI-systeem moeten worden ingebouwd, in plaats van dat er “poorten” omheen worden gebouwd. “De (geografische) beperking van zowel X als die van de overheid is een gecontroleerde toegang en de poorten kunnen worden afgebroken”, zei hij.
Verdere berichtgeving van Hidayatullah
