Online criminelen zeggen dat ze de Grok-chatbot van Elon Musk hebben gebruikt om seksuele beelden van kinderen te maken, omdat een waakhond voor de kinderveiligheid waarschuwde dat de AI-tool het risico loopt dergelijk materiaal mainstream te maken.
Degene gevestigd in Groot-Brittannië Internet De Watch Foundation (IWF) zei dat gebruikers op een dark web-forum er prat op gingen dat ze Grok Imagine gebruikten om geseksualiseerde, topless afbeeldingen te maken van meisjes tussen 11 en 13 jaar oud. IWF-analisten zeiden dat de afbeeldingen volgens de Britse wet als materiaal voor seksueel misbruik van kinderen (CSAM) zouden worden beschouwd.
“We kunnen bevestigen dat onze analisten criminele beelden hebben ontdekt van kinderen in de leeftijd van 11 tot 13 jaar die lijken te zijn gemaakt met behulp van de tool”, zegt Ngaire Alexander, hoofd van de IWF-hotline, die berichten over kinderpornografie van het publiek onderzoekt.
X, het socialemediaplatform van Elon Musk, was dat wel overspoeld met afbeeldingen van vrouwen en kinderen wier kleding digitaal is verwijderd van het Grok-instrument, wat aanleiding gaf tot publieke verontwaardiging en veroordeling door politici.
Ondertussen zei de Commissie Vrouwen en Gelijkheid van het Lagerhuis woensdag dat zij er geen gebruik meer van zou maken X voor haar mededelingen, waarin staat dat het niet langer gepast is om dit te doen, aangezien het voorkomen van geweld tegen vrouwen en meisjes een van de belangrijkste beleidsterreinen is.
Het besluit markeert de eerste belangrijke stap van een Westminster-organisatie om X te verlaten als reactie op het misbruik van Grok. Hoewel het besluit alleen betrekking had op het rapport van de commissie, zijn sommige individuele leden, waaronder Labour-voorzitter Sarah Owen, al gestopt met het gebruik van X. Een ander, liberaal-democratisch parlementslid Christine Jardine, zei dat ze het platform zou verlaten en noemde de door Grok gegenereerde beelden ‘de druppel’.
Alexander zei dat de door de IWF bekeken beelden werden gebruikt om nog extremer materiaal te creëren – bekend als Categorie A, dat penetrerende seksuele activiteit omvat – met behulp van een ander hulpmiddel voor kunstmatige intelligentie.
“We zijn uiterst bezorgd over het gemak en de snelheid waarmee mensen schijnbaar fotorealistisch materiaal over seksueel misbruik van kinderen kunnen genereren. Tools zoals Grok lopen nu het risico om AI-gestuurde seksuele beelden van kinderen mainstream te maken. Dit is onaanvaardbaar”, voegde Alexander eraan toe.
Musk’s xAI, eigenaar van Grok en X, is gecontacteerd voor commentaar.
Downing Street zei dat “alle opties op tafel liggen”, inclusief een boycot
Woensdag zei de officiële woordvoerder van de premier: “X moet deze kwestie dringend aanpakken en Ofcom heeft onze volledige steun om handhavingsmaatregelen te nemen wanneer bedrijven er niet in slagen Britse gebruikers te beschermen.
“Het heeft al de macht om boetes tot miljarden ponden uit te vaardigen en zelfs de toegang tot een site te blokkeren die de wet overtreedt.”
Woensdag bleef X verzoeken indienen aan Grok om afbeeldingen van vrouwen te manipuleren om haar ‘in een bikini te stoppen’. Ondanks waarschuwingen over regelgevende maatregelen van de EU en Groot-Brittannië was er geen bewijs dat het platform strengere veiligheidsmaatregelen had geïnstalleerd en worden afbeeldingen van tienermeisjes nog steeds digitaal verwijderd op verzoek van X-gebruikers, om ze te laten zien in kleine, onthullende stukjes ondergoed of in seksueel expliciete poses.
Sommige gebruikers hebben om extremere inhoud gevraagd, waarbij ze de chatbot hebben gevraagd om bikini’s te versieren met hakenkruizen of om wijzigingen in foto’s van vrouwen, zodat ze eruit zien als slachtoffers van misbruik. De chatbot voegde vervolgens brandplekken van sigaretten, kneuzingen in het gezicht en bloed toe aan sommige afbeeldingen van vrouwen.
De Britse datawaakhond, de Information Commissioner’s Office (ICO), zei contact te hebben opgenomen
X zei dat het actie onderneemt tegen illegale inhoud, waaronder kinderpornografie, door deze “te verwijderen, accounts permanent op te schorten en, indien nodig, samen te werken met lokale overheden en wetshandhavers.”
