Vernederende beelden van kinderen en vrouwen waarvan de kleding digitaal is verwijderd door de kunstmatige intelligentie van Grok worden nog steeds gedeeld op de X van Elon Musk, ondanks de belofte van het platform om gebruikers die deze genereren te schorsen.
Na dagen van bezorgdheid over het gebruik van de chatbot om foto’s te veranderen om geseksualiseerde afbeeldingen van echte vrouwen te creëren naakte kinderen in hun ondergoed Zonder hun toestemming zei de Britse communicatiewaakhond Ofcom maandag dat het “dringend contact had opgenomen met X en xAI om te begrijpen welke stappen zij hebben ondernomen om te voldoen aan hun wettelijke verplichtingen om gebruikers in het VK te beschermen”. Ofcom voegde eraan toe dat het zal beoordelen of een onderzoek nodig is op basis van de reactie van het bedrijf.
Ondertussen hebben politici en vrouwenrechtenactivisten de Britse regering ervan beschuldigd “te slepen” door het niet aannemen van wetgeving die zes maanden geleden werd aangenomen en die het maken van dergelijke intieme beelden illegaal maakte.
De trend, die tijdens het nieuwe jaar viraal ging, was voor de Europese Commissie aanleiding om maandag te zeggen dat zij “zeer serieus” onderzoek deed naar klachten dat Grok werd gebruikt om seksueel expliciete kinderafbeeldingen te genereren en te verspreiden.
De bezorgdheid begon te ontstaan nadat een update in december van Musks gratis AI-assistent, Grok, het voor gebruikers gemakkelijker maakte om foto’s te plaatsen en te vragen om hun kleding uit te trekken. Hoewel de site geen volledige naaktheid toestaat, kunnen gebruikers wel verzoeken dat afbeeldingen worden bewerkt om individuen in kleine, onthullende ondergoedstukken en in seksueel suggestieve poses te tonen.
Op zondag en maandag bleven Grok-gebruikers seksueel suggestieve afbeeldingen van minderjarigen genereren, waarbij afbeeldingen van kinderen vanaf 10 jaar in één nacht werden gemaakt. Ashley St Clair, de moeder van een van Musks kinderen, hij klaagde erover de AI-tool genereerde een foto van haar toen ze 14 was in bikini.
Een foto van Stranger Things-acteur Nell Fisher werd zondag door Grok bewerkt om haar een bikini met bananenprint te laten dragen. Visser is 14 jaar oud. Veel vrouwen uitten hun woede X nadat ze ontdekten dat hun afbeeldingen zonder hun toestemming waren verwijderd. Op sommige afbeeldingen van door de AI-tool gemanipuleerde vrouwen en kinderen lijken sperma-achtige stoffen op hun gezicht en borst te zijn uitgesmeerd.
De onderzoekers van Forensisch onderzoek van kunstmatige intelligentieeen in Parijs gevestigde non-profitorganisatie onderzocht 50.000 vermeldingen van @Grok op Minstens een kwart van de vermeldingen van @Grok waren verzoeken om de tool om een afbeelding te maken. Binnen deze suggesties voor het genereren van afbeeldingen was er een hoge prevalentie van termen als ‘zij’, ‘aantrekken’, ‘uittrekken’, ‘bikini’ en ‘kleding’.
Meer dan de helft van de afbeeldingen bleek mensen te zijn in ‘minimale kleding’ zoals ondergoed of bikini’s, waarbij de meerderheid vrouwen waren die jonger leken te zijn dan 30 jaar. Een minderheid van de afbeeldingen, oftewel 2%, lijkt mensen van 18 jaar of jonger te tonen, voegde AI Forensics eraan toe, en sommige afbeeldingen tonen kinderen onder de vijf jaar. De onderzoekers zeiden dat het grootste deel van de inhoud nog steeds online beschikbaar was en oproepen bevatte om nazi- en Islamitische Staat-propaganda te genereren.
Musk zei aanvankelijk dat hij geamuseerd was door de trend en plaatste vrijdag de lachende en huilende emoji als reactie op een foto van een digitaal gemanipuleerde broodrooster die een bikini draagt. Hij zei: “Ik weet niet waarom, maar ik kon hier niet mee ophouden.” Na wereldwijde verontwaardiging over de schadelijke aard van de inhoud, postte hij later dat “iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud zou uploaden.”
Een woordvoerder van X zei: “We ondernemen actie tegen illegale inhoud op
Een eerdere verklaring van Grok waarin hij aankondigde dat hij “tekortkomingen in de veiligheidsmaatregelen had geïdentificeerd” en deze “dringend zou corrigeren” bleek te zijn gegenereerd door kunstmatige intelligentie; het was onduidelijk of het bedrijf daadwerkelijk stappen ondernam om beveiligingsfouten te corrigeren.
Regelgevers werken al jaren aan het verbieden van naakt-apps op telefoons, met wisselend succes, maar de updates van Grok van vorige maand hebben dit werkelijkheid gemaakt, waardoor het gemakkelijk wordt om intieme afbeeldingen te maken en te delen van individuen waarvan de meeste kleding is verwijderd, op een van de populairste platforms van internet.
Hoewel het maken van afbeeldingen waarbij ongeklede kinderen betrokken zijn al illegaal is, is de wet rond het maken van deepfakes van volwassenen ingewikkelder. Afgelopen juni zijn Britse activisten erin geslaagd wetgeving aan te nemen die het illegaal maakt om intieme afbeeldingen te maken en te vragen zonder toestemming van een persoon. De relevante bepalingen moeten echter nog worden geïmplementeerd, wat betekent dat de wetgeving momenteel niet afdwingbaar is. Het is echter al illegaal om deze deepfake-beelden zonder wederzijds goedvinden te delen.
Charlotte Owen, de conservatieve collega die de wetgeving steundezei: “De regering heeft herhaaldelijk uitgesteld en geweigerd een tijdschema te geven voor de inwerkingtreding van deze essentiële bepalingen. We kunnen ons geen verder uitstel veroorloven. Overlevenden van dit misbruik verdienen beter. Niemand zou moeten leven in angst dat hun toestemming op deze afschuwelijke manier wordt geschonden.”
Een woordvoerder zei dat de regering vastbesloten is om de nieuwe overtredingen van het creëren of aanvragen van intieme deepfakes zonder toestemming zo snel mogelijk in te voeren, en voegde eraan toe dat seksueel expliciete deepfakes “vernederend en schadelijk zijn…. Daarom hebben we wetgeving opgesteld om de creatie ervan zonder wederzijds goedvinden te verbieden, zodat overtreders een passende straf krijgen voor deze gruwelijke schade”.
Gabby Bertijnde conservatieve collega die campagne voerde om naaktheidstechnologie te reguleren, zei dat de regering snel moet handelen omdat de huidige wetgeving “altijd een inhaalslag maakt”.
Jess Asato, een Labour-parlementslid dat campagne heeft gevoerd voor een betere regulering van pornografie, zei: “Het is aan Elon Musk om te beseffen dat dit een vorm van seksueel geweld is en passende actie te ondernemen. Het betekent dat je zonder hun toestemming een beeld van vrouwen neemt en dat uitkleedt om het te degraderen – er is geen andere reden om dat te doen dan om het te vernederen.”
