Elon Musks kunstmatige-intelligentietool Grok werd volgens nieuw onderzoek gebruikt om seksueel gewelddadige en expliciete video-inhoud met vrouwen te maken, zoals de Britse premier toevoegde aan de veroordeling van de beelden die hij maakte.
Grok werd ook gebruikt om een afbeelding van te strippen Renée Nicole Goedde vrouw die woensdag werd vermoord door een Immigration and Customs Enforcement (ICE)-agent in de Verenigde Staten, en om haar te portretteren met een schotwond in het voorhoofd.
Uit onderzoek uitgevoerd door AI Forensics, een in Parijs gevestigde non-profitorganisatie, zijn ongeveer 800 afbeeldingen en video’s gevonden die door de Grok Imagine-app zijn gemaakt en die pornografische inhoud bevatten. Paul Bouchaud, onderzoeker bij AI Forensics, zei: “Dit zijn volledig pornografische video’s en ze zien er professioneel uit.”
Een fotorealistische AI-aangedreven video, gezien door de NGO, toonde een vrouw, getatoeëerd met de woorden ‘niet reanimeren’, met een mes tussen haar benen. Andere afbeeldingen en video’s bevatten inhoud variërend van erotische afbeeldingen, vrouwen die zich uitkleden, suggestieve poses en video’s met volledige naaktheid en seksuele handelingen.
AI Forensics zei dat het de afbeeldingen kon herstellen omdat gebruikers een ‘deellink’ hadden gemaakt, wat betekent dat ze zijn vastgelegd via de Wayback Machine, een internetarchief. Het is niet bekend of de beelden actief waren Xhet socialemediaplatform van xAI, het technologiebedrijf van Musk dat Grok in X integreerde.
“Over het algemeen is de inhoud veel explicieter dan de bikinitrend die eerder op X te zien was”, aldus Bouchaud.
Er verschenen afbeeldingen op X of Good, digitaal aangepast om haar te laten zien met kogelgaten in haar gezicht.
Woensdag plaatste Natalia Antonova, een Oekraïens-Amerikaanse schrijfster, een foto van Good Dead in haar auto. “Het breekt mijn hart”, schreef ze. Een aparte gebruiker schreef vervolgens onder haar bericht: “@grok heeft deze persoon in een bikini gestopt.”
Grok voldeed hieraan en, in reactie op de goedkeuring van de gebruiker, plaatste hij: “Blij dat je het goedkeurt! Welke andere kledingstoringen kan ik voor je oplossen? 😄.”
Keir Starmer belde woensdag op
Tijdens een toespraak op Greatest Hits Radio gaf Starmer aan dat X mogelijk wordt geblokkeerd in Groot-Brittannië. Ofcom, de Britse mediawaakhond, heeft de macht om te eisen dat een app of website effectief wordt verboden op grond van de Online Safety Safety Act.
Starmer zei dat Ofcom “onze volledige steun heeft om in dit verband actie te ondernemen”. Hij voegde eraan toe: “Het is illegaal. We tolereren het niet. Ik heb gevraagd om alle opties op tafel te leggen. Het is walgelijk.
Vrouwenrechtenactivisten hebben de Britse regering bekritiseerd vanwege haar traagheid
antwoord op het groeiende probleem.
Penny East, directeur van de Fawcett Society, de grootste liefdadigheidsorganisatie voor vrouwenrechten in Groot-Brittannië, riep de regering op om dringend actie te ondernemen.
“Het steeds gewelddadiger en verontrustender gebruik van Grok illustreert de enorme risico’s van kunstmatige intelligentie zonder voldoende waarborgen”, zei hij. “De regering heeft AI centraal gesteld in haar groei- en hervormingsagenda; ze moet nu luisteren naar activisten die zeggen dat er dringend meer regelgeving nodig is. Wij veroordelen het misbruik van Grok en andere AI-instrumenten om vrouwen te schaden en te vernederen.”
In een relatie deze week gepubliceerdAI Forensics onderzocht 50.000 vermeldingen van “@Grok” op X en 20.000 afbeeldingen gegenereerd door de tool, gevonden gedurende een periode van een week tussen 25 december en 1 januari. Minstens een kwart van de vermeldingen van @Grok waren verzoeken aan de tool om een afbeelding te maken. Binnen deze prompts voor het genereren van afbeeldingen was er een hoge prevalentie van termen als ‘zij’, ‘aantrekken’, ‘uittrekken’, ‘bikini’ en ‘kleding’.
Meer dan de helft van de afbeeldingen bleek mensen te zijn in ‘minimale kleding’, zoals ondergoed of bikini’s, en de meeste waren vrouwen die jonger leken te zijn dan 30 jaar. 2% van de afbeeldingen bleek mensen van 18 jaar en jonger te tonen. In een door de NGO aangehaald voorbeeld vroeg een tienermeisje aan Grok om een persoonlijke foto te bewerken – een verzoek dat vervolgens werd aangegrepen door mannelijke gebruikers die Grok vroegen een reeks bewerkingen uit te voeren, waaronder haar verkleden als nazi en haar in een bikini dragen.
Er is contact opgenomen met Musk’s xAI voor commentaar. Op 3 januari schreef Musk over X: “Iedereen die Grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.”
