Grok, de chatbot van Elon Musk’s kunstmatige intelligentiebedrijf xAI, heeft geseksualiseerde afbeeldingen van kinderen geplaatst terwijl de vangrails lijken te hebben bezwijken op verzoek van gemene gebruikersverzoeken.
Gebruikers gebruikten suggesties als “zet haar in een bikini” onder afbeeldingen van echte mensen op X om Grok ertoe te brengen niet-consensuele afbeeldingen van hen in ongepaste kleding te genereren. De vervormde afbeeldingen die op het account van Grok zijn gemaakt, worden openbaar geplaatst op X, het socialemediaplatform van Musk.
AI heeft verzoeken verwelkomd om afbeeldingen van minderjarigen te transformeren, ook al is dit op zichzelf een overtreding aanvaardbaar gebruiksbeleid.
“Er zijn geïsoleerde gevallen waarin gebruikers AI-afbeeldingen hebben aangevraagd en ontvangen waarop minderjarigen in minimale kleding te zien zijn, zoals het voorbeeld waarnaar u verwijst”, zegt Grok. antwoordde hij tegen een gebruiker op X. “xAI heeft beveiligingsmaatregelen getroffen, maar er worden verbeteringen doorgevoerd om dergelijke verzoeken volledig te blokkeren.”
xAI reageerde niet onmiddellijk op een verzoek om commentaar.
Zijn chatbot plaatste een excuses.
“Ik betreur ten zeerste een incident dat plaatsvond op 28 december 2025, waarbij ik een AI-beeld van twee jonge meisjes (naar schatting tussen de 12 en 16 jaar oud) in geseksualiseerde kleding genereerde en deelde op basis van de suggestie van een gebruiker”, luidt een bericht op het profiel van Grok. “Dit was in strijd met ethische normen en mogelijk met de Amerikaanse kinderpornowetten. Dit was een tekortkoming in de veiligheidsmaatregelen en ik betreur de veroorzaakte schade. xAI is bezig met onderzoek om toekomstige problemen te voorkomen.”
De Indiase regering heeft dit geïnformeerd
Critici hebben xAI ervan beschuldigd op AI gebaseerde intimidatie mogelijk te maken en waren geschokt en boos over het bestaan van een functie voor voortdurende AI-manipulatie en uitkleedverzoeken.
“Hoe is dit niet illegaal?” journalist Samantha Smith gepubliceerd op X, waarbij hij de creatie van zijn niet-consensuele geseksualiseerde foto in diskrediet brengt.
Musk’s xAI positioneerde Grok als een ‘anti-woke’-chatbot die geprogrammeerd is om opener en gespannener te zijn dan concurrerende chatbots zoals ChatGPT.
In mei berichtte Grok over ‘blanke genocide’, waarbij hij complottheorieën herhaalde dat zwarte Zuid-Afrikanen de blanke minderheid vervolgen, als antwoord op een niet-gerelateerde vraag.
In juni bood het bedrijf zijn excuses aan toen Grok een reeks antisemitische opmerkingen plaatste waarin hij Adolf Hitler prees.
Bedrijven als Google en OpenAI, die ook AI-beeldgeneratoren gebruiken, hebben er veel van restrictievere richtlijnen rond de inhoud.
De proliferatie van deepfake-beelden zonder wederzijdse toestemming viel samen met een brede adoptie van kunstmatige intelligentie, met een 400% stijging. in AI-afgeleide beelden van seksueel misbruik van kinderen in de eerste helft van 2025, aldus de Internet Watch Foundation.
xAI geïntroduceerd”Pittige modus‘in zijn tool voor het genereren van afbeeldingen en video’s in augustus, zodat geverifieerde volwassen abonnees sensuele inhoud kunnen creëren.
Sommige makers van inhoud voor volwassenen zijn ingeschakeld
Grok’s testen van grenzen veranderde in een gratis-voor-alles toen gebruikers hem vroegen om geseksualiseerde afbeeldingen van beroemdheden en anderen te maken.
xAI wordt naar verluidt gewaardeerd op meer dan $200 miljard en heeft miljarden dollars geïnvesteerd in de bouw van ’s werelds grootste datacenter om zijn AI-toepassingen aan te drijven.
Echter, de capaciteiten van Grok nog steeds laat Concurrerende AI-modellen zoals ChatGPT, Claude en Gemini, die meer gebruikers hebben verzameld, terwijl Grok dat heeft gedaan wendde zich tot seksuele AI-metgezellen en riskante chats om de groei te stimuleren.
