Elon MBIs AIS blokkeert de meeste gebruikers bij het genereren of bewerken van afbeeldingen nadat er een wereldwijde reactie uitbrak nadat deze zich begon te verspreiden geseksualiseerde deepfakes van mensen.
De chatbottoegankelijk via het sociale mediaplatform van Musk seksueel expliciete posities.
De onderzoekers waarschuwden dat in sommige gevallen sommige afbeeldingen kinderen leken af te beelden. Regeringen over de hele wereld hebben het platform veroordeeld en onderzoeken naar het platform gestart.
Vrijdag reageerde Grok op verzoeken om afbeeldingen te bewerken met de boodschap: “Het genereren en bewerken van afbeeldingen is momenteel beperkt tot betalende abonnees. U kunt zich aanmelden om deze functies te ontgrendelen.”
Hoewel de abonneenummers van Grok niet publiekelijk beschikbaar zijn, is er sprake van een opmerkelijke daling in het aantal expliciete deepfakes die Grok nu genereert vergeleken met dagen daarvoor.
De Europese Unie bekritiseerde Grok vanwege ‘illegaal’ en ‘afschuwelijk’ gedrag, terwijl functionarissen uit Frankrijk, India, Maleisië en een Braziliaanse wetgever opriepen tot onderzoek.
Donderdag dreigde de Britse premier Keir Starmer met niet nader gespecificeerde actie tegen X.
“Dit is schandelijk. Het is walgelijk. En het mag niet worden getolereerd”, zei Starmer tegen Greatest Hits radio. “X moet hem onder controle houden.”
Hij zei dat mediaregulator Ofcom “onze volledige steun heeft om actie te ondernemen” en dat “alle opties” op tafel lagen.
“Dit is walgelijk.
Ofcom en de Britse privacytoezichthouder zeiden deze week allebei dat ze contact hadden opgenomen met X en Musk kunstmatige intelligentie xAI-bedrijf voor informatie over de maatregelen die zijn genomen om te voldoen aan de Britse regelgeving.
Grok is gratis voor X-gebruikers, die vragen kunnen stellen op het sociale mediaplatform. Ze kunnen het taggen in berichten die ze rechtstreeks hebben gemaakt of in reacties op berichten van andere gebruikers.
Grok werd gelanceerd in 2023. Afgelopen zomer voegde het bedrijf een functie voor het genereren van afbeeldingen toe, Grok Imagine, die een zogenaamde “hot-modus” omvatte die inhoud voor volwassenen kan genereren.
Het probleem wordt versterkt omdat Musk zijn chatbot voorstelt als een moderner alternatief voor rivalen met grotere garanties, en omdat de afbeeldingen van Grok publiekelijk zichtbaar zijn en daarom gemakkelijk kunnen worden verspreid.
—Kelvin Chan, zakelijk schrijver van AP
