De Grok-chatbot van Elon Musk begon donderdag de mogelijkheid van niet-betalende gebruikers om deepfake en geseksualiseerde afbeeldingen te maken te beperken, na wereldwijde tegenstand van gebruikers en overheden.
Eind vorige maand begonnen sommige gebruikers Grok te taggen op het sociale mediaplatform van Musk
De vervormde afbeeldingen, waaronder die van beroemdheden, politici en enkele minderjarigen, zijn gemaakt door Grok en openbaar op X geplaatst.
Voordat de huidige beperkingen van kracht werden, nam Musk deel aan de AI-trend van strippen door Grok de opdracht te geven afbeeldingen van zichzelf in bikini te maken.
Gebruikers en autoriteiten klaagden en dreigden X aan te geven of te straffen. Grok bood aanvankelijk zijn excuses aan voor de ongepaste foto’s van wat op kinderen leek.
Nu heeft X de controversiële morphing-vaardigheden van Grok achter een betaalmuur geplaatst.
Regeringen, waaronder het Verenigd Koninkrijk en de Europese Commissie, hebben gezegd dat ze niet tevreden zijn met de waarborgen van X, omdat de mogelijkheid om afbeeldingen te maken en te bewerken nog steeds beperkt is. beschikbaar aan betalende gebruikers.
“Hoewel het beperken van het genereren van AI-beelden tot betaalde gebruikers het volume marginaal kan verminderen en de traceerbaarheid kan verbeteren, is het misbruik niet gestopt. Het is eenvoudigweg achter een betaalmuur geplaatst, waardoor X kan profiteren van de schade”, zegt Emma Pickering, hoofd van technologiegefaciliteerd misbruik en economische empowerment bij Refuge, in een verklaring.
Terwijl de publieke woede groeit over wat velen AI-gerelateerde intimidatie noemen, hebben toezichthouders dit opgemerkt, met enkele voorstellen om X in hun land te verbieden.
De Britse premier Keir Starmer zei dat X “de controle moet krijgen” over deze “walgelijke” trend. “We zullen hiernaar handelen omdat het simpelweg niet tolereerbaar is”, zei Starmer.
In een verhulde pushback leek Musk de Britse toezichthouders te bekritiseren verontwaardiging het opnieuw plaatsen van een bewering dat ChatGPT ook de creatie van een bikiniafbeelding van een niet-echt persoon toestond door middel van creatieve, niet-expliciete suggesties.
Na Grok te hebben veroordeeld voor het maken van seksuele afbeeldingen, heeft de Europese Commissie X opgedragen alle documenten met betrekking tot Grok te bewaren om naleving van de regels te garanderen.
“We moeten er toegang toe hebben als we er expliciet om vragen”, zei hij in een verklaring persconferentie.
Ook Frankrijk, India, Maleisië en Brazilië kijken nauwlettend naar het platform.
Terwijl publieke figuren het eerste doelwit waren van AI-stripping, verschoof dit al snel naar particulieren. Op 3 januari duwde een gebruiker Grok 50 keer per dag om niet-consensuele, geseksualiseerde beelden van vrouwen op de werkplek te genereren, volgens een analyse van AI-detectiebedrijf Copyleaks.
De genderrechtvaardigheidsgroep Ultraviolet heeft dat gedaan een campagne opgezet om Apple en Google onder druk te zetten om X uit hun respectieve app-winkels te verwijderen op grond van het feit dat X hun richtlijnen voor seksueel misbruik van kinderen schendt.
Musk heeft zijn chatbot gepositioneerd als een moderner alternatief voor alternatieven als Gemini, ChatGPT en Claude, die meer hebben beperkende richtlijnen rond verzoeken om expliciete inhoud.
