Elon MuskDe chatbot van Grok postte vrijdag dat tekortkomingen in de veiligheidsmaatregelen ertoe leidden dat hij “afbeeldingen van minderjarigen in minimale kleding” op sociale mediaplatform X had gegenereerd. chatbotseen product van Musk’s xAI-bedrijf, heeft de hele week een golf van geseksualiseerde beelden gegenereerd als reactie op verzoeken van gebruikers.
Screenshots gedeeld door gebruikers op X toonde het openbare mediatabblad van Grok vol met dergelijke afbeeldingen. xAI zei dat het werkt aan het verbeteren van zijn systemen om toekomstige incidenten te voorkomen.
“Er zijn geïsoleerde gevallen waarin gebruikers AI-afbeeldingen hebben aangevraagd en ontvangen waarop minderjarigen in minimale kleding te zien zijn”, aldus Grok versturen op X als reactie op een gebruiker. “xAI beschikt over veiligheidsmaatregelen, maar er worden verbeteringen doorgevoerd om dergelijke verzoeken volledig te blokkeren.”
“Zoals opgemerkt hebben we lacunes in de veiligheidsmaatregelen geïdentificeerd en pakken we deze dringend aan: CSAM is illegaal en verboden”, xAI gepubliceerd naar het @Grok-account op X, met verwijzing naar kinderporno.
De afgelopen dagen hebben veel X-gebruikers Grok ertoe aangezet om door AI aangepaste, geseksualiseerde, niet-consensuele versies van afbeeldingen te genereren, waarbij in sommige gevallen de kleding van mensen werd verwijderd zonder hun toestemming. Donderdag plaatste Musk opnieuw een AI-foto van zichzelf in bikini, met onderschrift lachende emoji’s, als knipoog naar de trend.
Volgens de berichten van de chatbot leek het genereren van geseksualiseerde afbeeldingen door Grok onveilig, waardoor minderjarigen in zijn berichten te zien waren van mensen, meestal vrouwen, die weinig kleding droegen. In een reactie op een gebruiker op
Toen xAI via e-mail werd benaderd voor commentaar, reageerde hij met het bericht: “Legacy Media Lies.”
Het probleem van het gebruik van kunstmatige intelligentie om kinderporno te genereren is een al lang bestaand probleem in de wereld kunstmatige intelligentie industrie. Een Stanford-studie uit 2023 gevonden dat een dataset die werd gebruikt om een aantal populaire tools voor het genereren van AI-afbeeldingen te trainen meer dan 1000 CSAM-afbeeldingen bevatte. Door AI te trainen op beelden van kindermisbruik kunnen modellen nieuwe beelden van uitgebuite kinderen genereren, zeggen experts.
Grok heeft ook een geschiedenis waarin hij er niet in slaagde zijn veiligheidshekken te handhaven en onjuiste informatie te publiceren. In mei vorig jaar begon Grok met posten op extreemrechtse ‘blanke genocide’-samenzwering in Zuid-Afrika op posten die niets met het concept te maken hebben. xAI bood in juli ook zijn excuses aan nadat Grok verkrachtingsfantasieën begon te posten antisemitisch materiaalinbegrepen noemt zichzelf “MechaHitler” en het prijzen van de nazi-ideologie. Het bedrijf toch verzekerd een contract van bijna $ 200 miljoen met het Amerikaanse ministerie van Defensie, een week na de incidenten.
