Elon Musk kijkt toe hoe president Donald Trump spreekt op het US-Saudi Investment Forum in het John F. Kennedy Center for the Performing Arts in Washington, 19 november 2025.
Brendan Smialowski | Afp | Getty-afbeeldingen
Elon MuskxAI’s zag een negatieve reactie van gebruikers na zijn kunstmatige intelligentie chatbots Grok geseksualiseerde afbeeldingen van kinderen gegenereerd als reactie op verzoeken van gebruikers.
Een reactie van Grok aan een gebruiker op X vrijdag zei het dat het het probleem “dringend aanpakt” en noemde het kinderpornografie “illegaal en verboden”.
In reacties op gebruikers, zelfs de bot gepubliceerd dat een bedrijf kan worden geconfronteerd met strafrechtelijke of civielrechtelijke sancties als het willens en wetens dit soort inhoud faciliteert of nalaat dit soort inhoud te voorkomen nadat het op de hoogte is gesteld.
De berichten van Grok zijn door AI gegenereerde berichten en vervangen geen officiële bedrijfsverklaringen.
Musk’s xAI, die Grok creëerde en vorig jaar fuseerde met X, stuurde een automatisch antwoord op een verzoek om commentaar: “Legacy Media Lies.”
X-gebruikers hebben de afgelopen dagen hun bezorgdheid geuit expliciete inhoud van minderjarigen, inclusief kinderen die minimale kleding dragen, gegenereerd met behulp van de Grok-tool.
De sociale mediasite heeft een knop ‘Afbeelding bewerken’ toegevoegd aan foto’s waarmee elke gebruiker deze kan bewerken met behulp van tekstinstructies en zonder toestemming van de oorspronkelijke auteur.
Een bericht van een lid van de technische staf van xAI Verscheen Tadzjieks hij erkende ook het probleem.
“Hé! Bedankt voor het melden. Het team probeert onze barrières verder te versterken”, schreef Tajik in een bericht.
De proliferatie van op AI gebaseerde platforms voor het genereren van afbeeldingen sinds de lancering van ChatGPT in 2022 heeft zorgen doen ontstaan over inhoudsmanipulatie en online veiligheid op alle niveaus. Hij heeft ook bijgedragen aan een groeiend aantal platforms dat heeft geproduceerd diepe naakten van echte mensen.
David Thiel, een vertrouwens- en veiligheidsonderzoeker die deel uitmaakte van het inmiddels opgeheven Stanford Internet Observatory, vertelde CNBC dat verschillende Amerikaanse wetten over het algemeen de creatie en distributie van bepaalde expliciete afbeeldingen verbieden, waaronder afbeeldingen van seksueel kindermisbruik of intieme afbeeldingen zonder wederzijdse toestemming.
Juridische beslissingen over door AI gegenereerde afbeeldingen, zoals die geproduceerd door Grok, kunnen afhankelijk zijn van specifieke details van de gecreëerde en gedeelde inhoud, zei hij.
In een artikel dat hij co-auteur was getiteld “Generative ML and CSAM: Implicaties en verzachtende omstandigheden”, merkten Stanford-onderzoekers op dat “de schijn van een misbruikt kind voldoende was voor vervolging”, in zaken die een precedent schiepen in de Verenigde Staten.
Terwijl andere chatbots met soortgelijke problemen te maken kregen, is xAI herhaaldelijk in de problemen gekomen vanwege misbruik of schijnbare tekortkomingen in het ontwerp van Grok of de onderliggende technologie.
“Er zijn een aantal dingen die bedrijven kunnen doen om te voorkomen dat hun AI-tools op deze manier worden gebruikt,” zei Thiel, “Het belangrijkste in dit geval zou zijn om de mogelijkheid te verwijderen om door gebruikers geüploade afbeeldingen te wijzigen. Gebruikers toestaan om geüploade afbeeldingen te wijzigen is een recept voor NCII. Naaktheid is van oudsher het belangrijkste gebruiksscenario voor dergelijke mechanismen.”
NCII verwijst naar intieme beelden zonder wederzijdse toestemming.
In mei kreeg X te maken met terugslag nadat Grok ongevraagde opmerkingen had gemaakt over “blanke genocide” In Zuid-Afrika. Twee maanden later publiceerde Grok antisemitische opmerkingen EN prees Adolf Hitler.
Ondanks de struikelblokken bleef xAI partnerschappen en overeenkomsten smeden.
DE Ministerie van Defensie heeft Grok vorige maand toegevoegd aan zijn AI-agentplatform en de tool is de belangrijkste chatbot voor de voorspellingswedplatforms Polymarket en Kalshi.
