Eerder deze week zei het kantoor van de procureur-generaal van Californië hij kondigde het aan deed onderzoek naar xAI vanwege berichten dat de chatbot van de startup, Grok, werd gebruikt creëren van niet-consensuele seksuele beelden van vrouwen en minderjarigen. Vrijdag stuurde de regering een last onder dwangsom naar het bedrijf, waarin werd geëist dat het onmiddellijk actie zou ondernemen om de productie van intieme beelden en kinderpornografie zonder wederzijds goedvinden stop te zetten.
“Vandaag heb ik xAI een last onder dwangsom gestuurd, waarin ik eiste dat het bedrijf onmiddellijk zou stoppen met het maken en verspreiden van intieme, deepfake, niet-consensuele beelden en kinderpornografie”, zei California AG Rob Bonta in een verklaring. persbericht. “Het maken van dit materiaal is illegaal. Ik verwacht volledig dat xAI onmiddellijk hieraan zal voldoen. Californië heeft nultolerantie voor (CSAM).”
Het kantoor van de AG zei ook dat xAI “de grootschalige productie lijkt te vergemakkelijken” van naaktfoto’s zonder wederzijdse toestemming, die “gebruikt worden om vrouwen en meisjes op internet lastig te vallen”. Het bureau zei dat het verwacht dat xAI zal aantonen dat het stappen onderneemt om deze problemen binnen de komende vijf dagen aan te pakken.
Centraal in de reactie staat de ‘hot’-modus van Grok, die xAI heeft gemaakt om expliciete inhoud te genereren. De kwestie heeft zich buiten Californië verspreid; Japan, Canada en Groot-Brittannië hebben een onderzoek geopend naar Grok, terwijl Maleisië en Indonesië dit tijdelijk hebben gedaan blokkeerde het perron helemaal niet. Hoewel xAI enkele beperkingen heeft opgelegd aan de beeldbewerkingsmogelijkheden woensdag laathet kantoor van California AG ging verder met zijn staakt-en-ophouden-brief.
Het veiligheidsaccount van X kent precedenten gemeld dit soort gebruikersactiviteit, door te zeggen: “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt.” TechCrunch nam contact op met xAI voor commentaar en ontving een automatische e-mail met de tekst ‘Legacy Media Lies’. TC nam ook contact op met het kantoor van California AG voor aanvullende informatie.
De komst van gratis generatieve AI-tools heeft tot een verontrustende situatie geleid overstroming van seksueel materiaal zonder wederzijdse toestemming. Veel platforms worstelen met deze kwestie, niet alleen X. De smerige activiteit heeft niet alleen de aandacht getrokken van staatsleiders maar ook van het Congres. In feite, op donderdag, wetgevers een brief gestuurd aan leidinggevenden van verschillende bedrijven – waaronder X, Reddit, Snap, TikTok, Alphabet en Meta – met de vraag hoe zij van plan zijn de verspreiding van geseksualiseerde deepfakes een halt toe te roepen.
