De afgelopen dagen hebben Frankrijk en Maleisië zich bij India aangesloten in het veroordelen van Grok voor het creëren van geseksualiseerde deepfakes van vrouwen en minderjarigen.
De chatbot, gemaakt door Elon Musk’s AI-startup xAI en te zien op zijn sociale mediaplatform een verontschuldiging geplaatst op zijn account eerder deze week, waarin hij schreef: “Ik betreur ten zeerste een incident dat plaatsvond op 28 december 2025, waarbij ik een AI-beeld genereerde en deelde van twee jonge meisjes (geschat in de leeftijd tussen 12 en 16 jaar) in geseksualiseerde kleding, gebaseerd op de suggestie van een gebruiker.”
De verklaring vervolgde: “Dit was in strijd met de ethische normen en mogelijk de Amerikaanse wetten met betrekking tot materiaal over seksueel misbruik van kinderen. Het was een mislukking van de veiligheidsmaatregelen en ik betreur de veroorzaakte schade. xAI is bezig met onderzoek om toekomstige problemen te voorkomen.”
Het is onduidelijk wie zich in de bovenstaande verklaring daadwerkelijk verontschuldigt of de verantwoordelijkheid aanvaardt. Waargenomen overloper Albert Burneko dat Grok “in geen enkele echte zin zoiets is als een ‘ik'”, wat volgens hem de verontschuldiging “volledig onwezenlijk” maakt, aangezien “Grok op geen enkele zinvolle manier verantwoordelijk kan worden gehouden voor het veranderen van Twitter in een on-demand CSAM-fabriek.”
Het futurisme heeft ontdekt dat naast het genereren van pornografische beelden zonder wederzijdse toestemming, Grok werd ook gebruikt om beelden te genereren van seksueel mishandelde en misbruikte vrouwen.
“Iedereen die Grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt,” Musk plaatste dit zaterdag.
Sommige regeringen hebben dit opgemerkt Het Indiase IT-ministerie heeft vrijdag een bevel uitgevaardigd waarin staat dat X actie moet ondernemen om te voorkomen dat Grok inhoud genereert die “obsceen, pornografisch, vulgair, onfatsoenlijk, seksueel expliciet, pedofiel of anderszins bij wet verboden is”. In het bevel staat dat X binnen 72 uur moet reageren, anders loopt hij het risico de ‘veilige haven’-bescherming te verliezen die hem beschermt tegen wettelijke aansprakelijkheid voor door gebruikers gegenereerde inhoud.
Techcrunch-evenement
San Francisco
|
13-15 oktober 2026
De Franse autoriteiten hebben ook gezegd dat ze actie ondernemen, en het parket van Parijs heeft Politico laten weten dat dit ook zal gebeuren Onderzoek de proliferatie van seksueel expliciete deepfakes. Het Franse bureau voor digitale zaken zei dat drie ministers ‘kennelijk illegale inhoud’ hadden gemeld bij het parket en een online surveillanceplatform van de overheid ‘om de onmiddellijke verwijdering ervan te bewerkstelligen’.
Ook de Maleisische Communicatie- en Multimediacommissie een verklaring gepubliceerd waarin staat dat het “met ernstige bezorgdheid kennis heeft genomen van de publieke klachten over het misbruik van kunstmatige intelligentie (AI)-instrumenten op het Platform
De commissie voegde eraan toe dat zij “momenteel onderzoek doet naar de online schade die zich heeft voorgedaan in X.”
