Indonesië blokkeert Grok wegens niet-consensuele en geseksualiseerde deepfakes

Indonesische functionarissen zeiden zaterdag dat ze tijdelijk de toegang tot de Grok-chatbot van xAI blokkeren.

Dit is een van de meest agressieve stappen tot nu toe van overheidsfunctionarissen reagerend op een golf van door AI gegenereerde geseksualiseerde beelden – vaak met afbeeldingen van koninklijke vrouwen en minderjarigen, en soms agressie en mishandeling tonen — gepubliceerd door Grok als reactie op gebruikersverzoeken op het sociale netwerk X. (X en xAI maken deel uit van hetzelfde bedrijf.)

In een verklaring gedeeld met de Guardian en andere publicaties zei de Indonesische minister van Communicatie en Digitale Meutya Hafid: “De regering beschouwt de praktijk van seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte.”

Het ministerie zou naar verluidt ook X-functionarissen hebben opgeroepen om de zaak te bespreken.

Diverse overheidsreacties van de afgelopen week zijn onder meer een bevel van het IT-ministerie van India voor xAI om actie te ondernemen om te voorkomen dat Grok obscene inhoud genereert, evenals een bevel van de Europese Commissie aan het bedrijf om alle documenten met betrekking tot Grok te bewaren, wat de basis zou kunnen leggen voor een onderzoek.

In Groot-Brittannië zei communicatieregulator Ofcom dat het “een snelle beoordeling zou uitvoeren om te bepalen of er potentiële nalevingsproblemen zijn die een onderzoek rechtvaardigen”. Premier Keir Starmer zei in een interview dat Ofcom zijn “volledige steun had om actie te ondernemen”.

En terwijl in de Verenigde Staten de regering-Trump over deze kwestie zwijgt (xAI CEO Elon Musk is een van Trumps belangrijkste donoren en hij leidde het controversiële Department of Government Effectiveness van de regering vorig jaar) deden Democratische senatoren dat nodigde Apple en Google uit om X uit hun appstores te verwijderen.

xAI reageerde aanvankelijk met het plaatsen van een schijnbaar persoonlijke verontschuldiging naar het verhaal van Grok, waarin hij erkent dat een bericht “ethische normen en mogelijk Amerikaanse wetten” op het gebied van kinderpornografie schond. Later heeft een beperkte functionaliteit voor het genereren van AI-afbeeldingen betalende abonnees op X, hoewel die beperking geen invloed leek te hebben op de Grok-app zelf, waarmee iedereen nog steeds afbeeldingen kon genereren.

In antwoord op een bericht waarin werd gevraagd waarom de Britse regering niet hard optreden tegen andere op AI gebaseerde beeldvormingshulpmiddelen: schreef Musk“Ze willen elk excuus voor censuur.”