Musk ontkent kennis van Grok’s seksuele beelden van minderjarigen terwijl California AG een onderzoek start

Elon Musk zei hij woensdag is “niet op de hoogte van beelden van naakte minderjarigen gegenereerd door Grok”, uren vóór de procureur-generaal van Californië een onderzoek geopend in de xAI-chatbot voor “proliferatie van seksueel expliciet materiaal zonder wederzijds goedvinden.”

Musks ontkenning komt De druk van overheden neemt toe over de hele wereld – van Groot-Brittannië en Europa tot Maleisië en Indonesië – nadat X-gebruikers Grok begonnen te vragen om foto’s te transformeren echte vrouwenen in sommige gevallen kinderen, in geseksualiseerde afbeeldingen zonder hun toestemming. Copyleaks, een platform voor AI-detectie en contentbeheer, schat dat er elke minuut ongeveer één afbeelding op X wordt geplaatst. Een aparte steekproef verzameld van 5 tot 6 januari, werden er in 24 uur 6.700 per uur gedetecteerd. (X en xAI maken deel uit van hetzelfde bedrijf.)

“Dit materiaal … is gebruikt om mensen op internet lastig te vallen”, zei de Californische procureur-generaal Rob Bonta in een verklaring. “Ik dring er bij xAI op aan onmiddellijk actie te ondernemen om ervoor te zorgen dat deze situatie niet verder gaat.”

Het kantoor van de AG gaat onderzoeken of en hoe xAI de wet heeft overtreden.

Er bestaan ​​verschillende wetten om de doelwitten van seksuele beelden zonder wederzijds goedvinden en kinderpornografie (CSAM) te beschermen. Vorig jaar de Sloop handeling Er werd een federale wet ondertekend die de bewuste verspreiding van intieme beelden zonder wederzijds goedvinden – inclusief deepfakes – strafbaar stelt en platforms als X verplicht dergelijke inhoud binnen 48 uur te verwijderen. Californië heeft ook zijn eigen land reeks wetten die gouverneur Gavin Newsom in 2024 ondertekende om hard aan te pakken tegen seksueel expliciete deepfakes.

Grok begon tegen het einde van het jaar te voldoen aan verzoeken van X-gebruikers om geseksualiseerde foto’s van vrouwen en kinderen te maken. De trend lijkt een vlucht te hebben genomen nadat sommige makers van inhoud voor volwassenen Grok ertoe aanzetten om geseksualiseerde afbeeldingen van zichzelf te genereren als een vorm van marketing, wat er vervolgens toe leidde dat andere gebruikers soortgelijke verzoeken plaatsten. In een reeks openbare zaken, waaronder bekende figuren als ‘Stranger Things’-actrice Millie Bobby Brown, reageerde Grok op verzoeken waarin hem werd gevraagd echte foto’s van echte vrouwen te veranderen door kleding, lichaamsposities of fysieke kenmerken op openlijk seksuele manieren te veranderen.

Seconde enkele rapportenxAI is begonnen met het implementeren van veiligheidsmaatregelen om het probleem aan te pakken. Grok nu vereist een premium abonnement voordat wordt gereageerd op bepaalde verzoeken om afbeeldingen te genereren, en zelfs dan wordt de afbeelding mogelijk niet gegenereerd. April Kozen, vice-president marketing bij Copyleaks, vertelde TechCrunch dat Grok op een meer generieke of afgezwakte manier aan een verzoek kon voldoen. Ze voegden eraan toe dat Grok lakser lijkt tegenover makers van inhoud voor volwassenen.

“Over het geheel genomen suggereren deze gedragingen dat X experimenteert met meerdere mechanismen om problematische beeldgeneratie te verminderen of te controleren, hoewel er inconsistenties blijven bestaan,” zei Kozen.

Noch xAI, noch Musk hebben de kwestie publiekelijk aangepakt. Een paar dagen nadat de zaken waren begonnen, leek Musk het probleem luchtig te maken door Grok te vragen een bestand te genereren beeld van zichzelf in bikini. Op 3 januari De veiligheidsrekening van X zei dat het bedrijf “actie onderneemt tegen illegale inhoud”.

De positionering weerspiegelt wat Musk vandaag heeft gepubliceerd, waarbij de nadruk wordt gelegd op illegaliteit en gebruikersgedrag.

Musk schreef dat hij “niet op de hoogte was van naaktbeelden van minderjarigen gegenereerd door Grok. Letterlijk nul.” Deze verklaring ontkent niet het bestaan ​​van bikinifoto’s of geseksualiseerde bewerkingen in bredere zin.

Michael Goodyear, universitair hoofddocent aan de New York Law School en voormalig advocaat, vertelde TechCrunch dat Musk zich waarschijnlijk uitsluitend op kinderpornografie richtte, omdat de straffen voor het maken of verspreiden van synthetische geseksualiseerde afbeeldingen van kinderen groter zijn.

“In de Verenigde Staten kan de distributeur of bedreigde distributeur van kinderpornografie bijvoorbeeld tot drie jaar gevangenisstraf krijgen op grond van de Take It Down Act, vergeleken met twee jaar voor niet-consensuele seksuele afbeeldingen van volwassenen”, aldus Goodyear.

Hij voegde eraan toe dat het “belangrijkste punt” de poging van Musk is om de aandacht te vestigen op de problematische inhoud van gebruikers.

“Het is duidelijk dat Grok niet spontaan afbeeldingen genereert, maar alleen op basis van gebruikersverzoeken”, schreef Musk in zijn bericht. “Als hem wordt gevraagd om afbeeldingen te genereren, zal hij weigeren iets illegaals te produceren, omdat het principe van Grok is om de wetten van een bepaald land of een bepaalde staat te gehoorzamen. Er kunnen momenten zijn waarop de vijandige hacking van Grok iets onverwachts doet. Als dit gebeurt, repareren we de bug onmiddellijk.”

Alles bij elkaar karakteriseert het bericht deze incidenten als ongewoon, schrijft ze toe aan gebruikersverzoeken of suggesties van tegenstanders, en presenteert ze ze als technische problemen die kunnen worden opgelost door middel van oplossingen. Het gaat voorbij aan het erkennen van eventuele tekortkomingen in het basisbeveiligingsontwerp van Grok.

“Regelgevers kunnen, met het oog op de bescherming van de vrijheid van meningsuiting, overwegen om proactieve maatregelen van AI-ontwikkelaars te eisen om dergelijke inhoud te voorkomen”, aldus Goodyear.

TechCrunch nam contact op met xAI om te vragen hoe vaak het gevallen heeft ontdekt van seksueel gemanipuleerde afbeeldingen van vrouwen en kinderen zonder wederzijds goedvinden, welke vangrails specifiek zijn veranderd, en of het bedrijf de toezichthouders op de hoogte heeft gesteld van de kwestie. TechCrunch zal het artikel bijwerken als het bedrijf reageert.

De California AG is niet de enige toezichthouder die xAI verantwoordelijk probeert te houden voor het probleem. Indonesië en Maleisië beide blokkeerden tijdelijk de toegang tot Grok; Indië heeft vroeg dat X onmiddellijke technische en procedurele wijzigingen aanbrengen in Grok; DE De Europese Commissie heeft daartoe opdracht gegeven xAI bewaart alle documenten met betrekking tot zijn Grok-chatbot, een voorloper van de opening van een nieuw onderzoek; en de Britse onlineveiligheidswaakhond Ofcom heeft een formeel onderzoek geopend onder de Britse Online Safety Act.

xAI is in het verleden bekritiseerd vanwege geseksualiseerde afbeeldingen van Grok. Zoals AG Bonta in een verklaring opmerkte, voegt Grok a “pittige modus” genereren expliciete inhoud. In oktober maakte een update het nog gemakkelijker om de weinige bestaande beveiligingsrichtlijnen te jailbreaken, wat ertoe leidde dat veel gebruikers hardcore pornografie creëerden met Grok, evenals grafische en gewelddadige seksuele beelden.

Bij veel van de meer pornografische afbeeldingen die door Grok worden geproduceerd, zijn door AI gegenereerde mensen betrokken, iets wat velen misschien nog steeds ethisch twijfelachtig vinden, maar misschien minder schadelijk voor de individuen in de afbeeldingen en video’s.

“Wanneer AI-systemen de manipulatie van afbeeldingen van echte mensen zonder duidelijke toestemming toestaan, kan de impact onmiddellijk en zeer persoonlijk zijn”, zei Alon Yamin, medeoprichter en CEO van Copyleaks, in een verklaring per e-mail aan TechCrunch. “Van Sora tot Grok zien we een snelle toename van de AI-mogelijkheden voor gemanipuleerde media. Daartoe zijn detectie en bestuur nu meer dan ooit nodig om misbruik te helpen voorkomen.”