Terwijl de zorgen over Grok’s vermogen om te genereren toenemen seksueel expliciete inhoud zonder toestemming van de betrokkene blokkeren verschillende landen de toegang tot Elon Musk kunstmatige intelligentie chatbots. Centraal in de controverse staat een functie genaamd Grok Imagine, waarmee gebruikers door AI gegenereerde afbeeldingen en video’s kunnen maken. Deze tool beschikt ook over een ‘Spicy Mode’, waarmee gebruikers inhoud voor volwassenen kunnen genereren.
Zowel Indonesië als Maleisië gaven opdracht om dit weekend beperkingen in te voeren. Maleisische functionarissen blokkeerden zondag de toegang tot Grok, onder verwijzing naar “herhaald misbruik … om obscene, seksueel expliciete, onfatsoenlijke, grof aanstootgevende en zonder wederzijdse toestemming gemanipuleerde beelden te genereren.” Ambtenaren noemden ook “herhaalde mislukkingen van X Corp.” om dergelijke inhoud te voorkomen.
Indonesië had de chatbot een dag eerder om soortgelijke redenen geblokkeerd. In een verklaring bij de schorsing van Grok zegt Meutya Hafid, de Indonesische minister van communicatie en digitaal. “De regering beschouwt de praktijk van seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, de waardigheid en de veiligheid van burgers in de digitale ruimte.”
De antwoorden kunnen echter slechts het begin zijn van de problemen van Grok. Verschillende andere landen, waaronder Groot-Brittannië, India en Frankrijk, overwegen dit voorbeeld te volgen.
Groot-Brittannië is een onderzoek gestart naar de expliciete inhoud van de chatbot, wat ook daar tot een verbod zou kunnen leiden. “Berichten dat Grok wordt gebruikt voor het maken en delen van intieme, illegale, niet-consensuele afbeeldingen en kinderpornografie op X zijn zeer zorgwekkend”, zegt Ofcom, de toezichthouder voor communicatiediensten van het land. in een verklaring.
Mosin een bericht op sociale media na nieuws over het Ofcom-onderzoek, hij schreef dat de Britse regering “gewoon de vrijheid van meningsuiting wil onderdrukken”.
Snel bedrijf geprobeerd contact op te nemen met xAI voor commentaar op de acties in Indonesië en Maleisië, evenals mogelijke soortgelijke blokkades in andere landen. Een automatisch antwoord van het bedrijf zei: “Legacy Media Lies.”
Naast het Verenigd Koninkrijk hebben functionarissen in de Europese Unie, Brazilië en India opgeroepen tot onderzoek naar de deepfakes van Grok, wat uiteindelijk ook tot verboden zou kunnen leiden. (De Amerikaanse regering, die contracten heeft met xAI, is dat ook geweest vrij rustig over het onderwerp tot nu toe.)
Op een persconferentie vorige weekWoordvoerder van de Europese Commissie, Thomas Regnier, zei dat de commissie “de zaak zeer serieus onderzoekt”, en voegde eraan toe dat “dit niet ‘hot’ is. Dit is illegaal. Dit is afschuwelijk. Dit is walgelijk. Dit is hoe wij het zien, en er is geen plaats hiervoor in Europa.”
Musk en X voelen nog steeds de gevolgen van een Boete van 130 miljoen dollar vorige maand beschuldigde de EU het bedrijf van het overtreden van de Digital Services Act, met name van misleidende betaalde verificaties en een gebrek aan transparantie in het advertentiearchief van het bedrijf.
Naast de geseksualiseerde beelden van volwassenen, een relatie Door de non-profitorganisatie AI Forensics, die 20.000 door Grok gegenereerde afbeeldingen analyseerde die tussen 25 december en 1 januari waren gemaakt, bleek dat 2% een persoon afbeeldde die 18 jaar of jonger leek te zijn. Daaronder bevonden zich dertig afbeeldingen van jonge of zeer jonge vrouwen of meisjes in bikini’s of transparante kleding.
Bij de analyse werd ook nazi- en ISIS-propagandamateriaal aangetroffen dat door Grok was gegenereerd.
Hoewel het bedrijf zich niet richtte tot landen die de toegang tot zijn diensten blokkeren, gaf het wel commentaar op het gebruik van zijn tool om seksuele inhoud met minderjarigen te creëren.
“We ondernemen actie tegen illegale inhoud op X, inclusief kinderpornografie (CSAM), door deze te verwijderen, accounts permanent op te schorten en waar nodig samen te werken met lokale overheden en wetshandhavers”, aldus X. schreef hij in een bericht. “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
Het bedrijf maakte ook bekend dit te gaan doen beperk het genereren van afbeeldingen en bewerkingsfunctionaliteit voor betalende abonnees. Dit zal echter waarschijnlijk niet genoeg zijn om overheidsfunctionarissen tevreden te stellen die de toegang tot Grok willen blokkeren terwijl het nog steeds mogelijk is om deze beelden te genereren.
