Maleisië en Indonesië blokkeren als eerste Musk’s Grok vanwege AI-deepfakes: NPR

KUALA LUMPUR, Maleisië – Maleisië en Indonesië zijn de eerste landen die Grok, de chatbot voor kunstmatige intelligentie, ontwikkeld door XAI van Elon Musk, hebben geblokkeerd nadat de autoriteiten zeiden dat deze werd misbruikt om seksueel expliciete en niet-consensuele beelden te genereren.

Deze maatregelen weerspiegelen de groeiende mondiale bezorgdheid over generatieve AI-tools die levensechte beelden, geluiden en tekst kunnen produceren, terwijl bestaande waarborgen er niet in slagen misbruik ervan te voorkomen. De Grok-chatbot, toegankelijk via het sociale mediaplatform X van Musk, is bekritiseerd vanwege het genereren van gemanipuleerde afbeeldingen, waaronder afbeeldingen van vrouwen in bikini’s of seksueel expliciete poses, evenals afbeeldingen met kinderen.

Regelgevers in de twee Zuidoost-Aziatische landen hebben gezegd dat de bestaande controles de creatie en verspreiding van nep-pornografische inhoud niet kunnen voorkomen, vooral als deze betrekking heeft op vrouwen en minderjarigen. De Indonesische regering blokkeerde zaterdag tijdelijk de toegang tot Grok, zondag gevolgd door de Maleisische regering.

“De regering beschouwt seksuele deepfakes zonder wederzijds goedvinden als een ernstige schending van de mensenrechten, waardigheid en veiligheid van burgers in de digitale ruimte”, zei de Indonesische minister van Communicatie en Digitale Zaken Meutya Hafid zaterdag in een verklaring.

Het ministerie zei dat de maatregel bedoeld was om vrouwen, kinderen en de bredere gemeenschap te beschermen tegen neppornografische inhoud die is gegenereerd met behulp van kunstmatige intelligentie.

Uit de eerste bevindingen bleek dat Grok geen effectieve waarborgen heeft om te voorkomen dat gebruikers pornografische inhoud creëren en distribueren op basis van echte foto’s van Indonesische inwoners, zei Alexander Sabar, directeur-generaal van het toezicht op de digitale ruimte, in een aparte verklaring. Het zegt dat dergelijke praktijken het risico inhouden dat de privacy en het beeldrecht worden geschonden wanneer foto’s zonder toestemming worden gemanipuleerd of gedeeld, wat psychologische, sociale en reputatieschade kan veroorzaken.

In Kuala Lumpur heeft de Maleisische Communicatie- en Multimediacommissie zondag een tijdelijke beperking op Grok bevolen na wat volgens haar ‘herhaaldelijk misbruik’ was van de tool om obscene, seksueel expliciete en niet-consensueel gemanipuleerde beelden te genereren, waaronder inhoud waarbij vrouwen en minderjarigen betrokken zijn.

De toezichthouder zei dat berichten die deze maand aan X Corp. en xAI zijn uitgegeven, waarin werd opgeroepen tot sterkere bescherming, reacties hebben ontvangen die voornamelijk afhankelijk waren van mechanismen voor gebruikersrapportage.

“De beperking wordt opgelegd als een preventieve en proportionele maatregel terwijl de wettelijke en regelgevende processen aan de gang zijn”, aldus het rapport, eraan toevoegend dat de toegang geblokkeerd zal blijven totdat er effectieve waarborgen zijn ingevoerd.

Grok wordt gelanceerd in 2023 en is gratis te gebruiken op X. Gebruikers kunnen vragen stellen op het sociale-mediaplatform en berichten taggen die ze rechtstreeks hebben gemaakt of reageren op berichten van andere gebruikers. Afgelopen zomer heeft het bedrijf een functie voor het genereren van afbeeldingen toegevoegd, Grok Imagine, die een zogenaamde “hot mode” omvatte die inhoud voor volwassenen kan genereren.

De beperkingen in Zuidoost-Azië komen voort uit de toenemende aandacht voor Grok elders, onder meer in de Europese Unie, Groot-Brittannië, India en Frankrijk. Grok beperkte vorige week het genereren en bewerken van afbeeldingen tot betalende gebruikers na een wereldwijde reactie op geseksualiseerde deepfakes van mensen, maar critici zeggen dat dit het probleem niet volledig heeft opgelost.