Sinds Elon Musk kunstmatige intelligentie Het bedrijf xAI begon in 2023 met de uitrol van zijn Grok-chatbot voor betalende X-abonnees. Het bedrijf gooide de tool als de slechte jongen van de grote taalmodellen. Grok zou vermoedelijk dingen mogen zeggen en doen die zijn politiek correcte concurrenten, voornamelijk ChatGPT, geproduceerd door Musks oude aartsvijand bij OpenAI, niet zouden doen.
In een aankondiging op X prees het bedrijf Grok’s ‘rebellenkarakter’ en plaagde het zijn bereidheid om ‘pittige’ vragen met ‘een beetje humor’ te beantwoorden. Hoewel xAI waarschuwde dat Grok “een heel vroeg bètaproduct” was, verzekerde het gebruikers dat Grok met hun hulp “elke week snel zou verbeteren”.
Destijds adverteerde xAI niet dat Grok op een dag niet-consensuele pornografie op verzoek zou verspreiden. Maar de afgelopen weken is dat precies wat er is gebeurd, als X-abonnees het platform onder water gezet met oproepen om echte beelden van vrouwen te veranderen door hun kleren uit te trekken, hun lichaam te veranderen, hun benen te spreiden, enzovoort. X-gebruikers hoeven geen premiumabonnee te zijn om van deze diensten gebruik te kunnen maken toegankelijk op zowel X als de zelfstandige app van Grok.
Sommige afbeeldingen die met de hulp van Grok zijn gemaakt, tonen topless of anderszins suggestieve afbeeldingen van meisjes tussen de 11 en 13 jaar oud. seconde aan een Britse kinderveiligheidswaakhond. A analyseert Van de 20.000 afbeeldingen die Grok tussen 25 december en 1 januari genereerde, ontdekten ze dat de chatbot had voldaan aan de verzoeken van gebruikers om kinderen af te beelden met seksuele vloeistoffen op hun lichaam. Op oudejaarsavond biedt een bedrijf voor kunstmatige intelligentie detectiediensten voor beeldwijzigingen aan geschat dat Grok seksuele beelden produceerde met een snelheid van ongeveer één per minuut.
“Ik ben al eerder seksueel misbruikt, en het voelde bijna als een digitale versie ervan”, zei een vrouw gezegd De snit nadat Grok-gebruikers een foto van haar poseren naast een kerstboom terwijl ze trainingskleding droeg, hadden veranderd in een foto waarop ze een stringbikini droeg. “Ik vind het onbegrijpelijk dat mensen dit vrouwen mogen aandoen.”
Donderdag meldde journalist en Bellingcat-oprichter Eliot Higgins dat hij door Grok gegenereerde beelden had gezien van Renee Nicole Good, de ongewapende 37-jarige vrouw die werd neergeschoten en vermoord door ICE-agenten in Minneapolis, aangepast om haar in bikini geklede lijk weer te geven. ALS Higgins zei het: “Digitale ontheiliging van lijken is nu beschikbaar voor het publiek.”
Ondanks alle mogelijke gebruiksscenario’s voor AI-chatbots die AI-bedrijven de afgelopen jaren hebben aangeprezen, is op maat gemaakte pornografie altijd de meest voor de hand liggende geweest. (Je hoeft geen gedragswetenschapper te zijn om te begrijpen wat de demografische gegevens zijn bedenk meteen wat u moet doen wanneer het wordt aangeboden met een tool waarvan wordt geadverteerd dat deze op magische wijze fotorealistische beelden kan produceren van alles wat de geest maar kan bedenken.) Met wisselend succes hebben platforms als ChatGPT en Google’s Gemini op zijn minst geprobeerd om op deze mogelijkheid te anticiperen, door “vangrails” te bouwen die proberen de mogelijkheden van gebruikers om NSFW-afbeeldingen aan hun smaak aan te passen te beperken.
Een groot verschil tussen deze bedrijven en xAI is natuurlijk dat xAI wordt geleid door Musk, wiens ideologische toewijding aan het uitroeien van zwakte en censuur zich uitstrekt tot het aanbieden van geamuseerde, knipogende verdedigingen tegen de niet-consensuele inhoud voor volwassenen die wordt gepubliceerd door het vlaggenschipproduct van zijn bedrijf.
Op zijn X-account deed Musk suggesties behandelen wat voor elk ander bedrijf een existentiële crisis zou zijn als een grappige en grappige meme. Het feit dat een van de slachtoffers Ashley St. Clair, de moeder van Musks eenjarige zoon, weerhield Musk er niet van verklaren zelf kon niet stoppen met lachen om het AI-beeld van een broodrooster in bikini.
Zowel X als Musk hebben dit sindsdien gedaan uitgegeven verklaringen gebruikers eraan herinneren dat de X-servicevoorwaarden het maken van materiaal met seksueel misbruik van kinderen (CSAM) en pornografie verbieden. X zei ook dat het CSAM-materiaal en andere illegale inhoud zal verwijderen en de accounts die deze maken permanent zal opschorten. Tegelijkertijd is het nogal een uitdaging voor het bedrijf om een probleem serieus te nemen wanneer de eigenaar, die ook de meest gevolgde persoon op het platform is, inlogt en de hele zaak als een grote grap behandelt.
Normaal gesproken zou het bestaan van een online tool die met één klik kinderporno kan genereren, tot wijdverbreide verontwaardiging en snelle reacties van de rechtshandhavingsinstanties leiden. Toezichthouders in landen in Europa, Azië en Zuid-Amerika hebben dit gedaan beloofd te onderzoeken, en deze week de Europese Commissie verlengd een bevel waarbij X wordt verplicht alle documenten en gegevens met betrekking tot Grok te bewaren terwijl ambtenaren er nader naar kijken.
Daar Ik ben In de Verenigde Staten bestaan er juridische mechanismen om de lafhartige dingen die Grok doet aan te pakken. Minder dan een jaar geleden ondertekende Trump bijvoorbeeld de TAKE IT DOWN Act, een tweepartijenwet die websites verplicht om op verzoek van het slachtoffer binnen 48 uur ‘niet-consensuele intieme afbeeldingen’ te verwijderen. En hoewel een bepaling van de federale wet, bekend als Sectie 230, websites en sociale-mediaplatforms in het algemeen beschermt tegen aansprakelijkheid voor inhoud die door hun gebruikers is geplaatst, ‘postt’ Grok zelf in dit geval door de afbeeldingen te genereren.
Senator Ron Wyden (D-OR), die dertig jaar geleden hielp bij het schrijven van Sectie 230, gewogen op Bluesky, met het argument dat “AI-chatbot-outputs niet beschermd zijn” op grond van Sectie 230 en dat het “geen verloren weddenschap” is. Samen met twee andere Democratische senatoren deed Wyden dat ook vroeg Apple en Google zullen Grox en X uit hun appstores verwijderen wegens het schenden van de servicevoorwaarden van de bedrijven. Dit zou een belangrijke stap zijn verder dan wat de enige actie lijkt te zijn die Apple tot nu toe heeft ondernomen: verhogen De leeftijdsclassificatie van de Grok-app is 12+ tot 13+.
Dat gezegd hebbende, Musk, wie besteed Na vier wervelende maanden die de bestuurlijke staat verscheurden als hoofd van het ministerie van Efficiëntie van de overheid, heeft hij genoeg praktische redenen om zich geen zorgen te maken. Dankzij de politieke en financiële steun die Musk en zijn collega’s uit Silicon Valley aan de Republikeinse Partij bieden, kwam de tweede regering-Trump tot stand enthousiast over de integratie van AI-producten, zowel van xAI als van andere bedrijven, in de werking van de federale overheid.
Het feit dat Trump David Sacks, een technologie-investeerder met aanzienlijke belangen in kunstmatige intelligentie en cryptocurrencies (en nauwe persoonlijke en professionele banden met Musk), onmiddellijk heeft aangewezen als zijn AI- en cryptocurrency-tsaar, is een goede indicatie dat er niet snel sprake zal zijn van significante regelgeving.
Volgens een Brennan Center hebben staten met een wetgevende macht die wordt gecontroleerd door zowel Democraten als Republikeinen sinds 2019 op het gebrek aan federale actie gereageerd door meer dan 140 staatswetten aan te nemen die AI reguleren. analyseert. Maar in december 2025 maakte het Witte Huis wat misschien wel het meest veelbelovende gebaar tot nu toe is richting de AI-sector: een uitvoerend bevel Hij herhaalt de toezegging van Trump om een ‘minimaal belastend nationaal beleidskader voor AI’ op te bouwen dat ‘de Amerikaanse mondiale AI-dominantie zal ondersteunen en versterken’.
Het bevel draagt onder andere uitvoerende instanties op om AI-regelgeving van de staat te identificeren die de regering inconsistent acht met haar agenda, en moedigt procureur-generaal Pam Bondi aan om een “AI Litigation Task Force” te vormen om de overtredende wetten voor de rechtbank aan te vechten.
Zoals de meeste uitvoerende bevelen van Trump zal deze niet dezelfde onmiddellijke impact hebben enkele ademloze titels voorstellen; zoals het bevel zelf erkent, zou het Congres actie moeten ondernemen voordat de inhoudelijke bepalingen van kracht worden. Maar voor Musk is de boodschap die het Witte Huis over zijn prioriteiten verzendt wat er echt toe doet: op dit moment is de regering-Trump te bezorgd over het starten van illegale oorlogen en het executeren van ongewapende demonstranten op straat om zich zorgen te maken over een paar pikante beelden die op zijn favoriete sociale mediaplatform verschijnen.
Toen Musk vorig jaar Washington verliet, deed hij dat niet stilletjes en haalde hij uit naar Trump om wie hij was niet voldoende respectvol aan zijn voorkeuren en niet voldoende dankbaar voor zijn steun. Maar acht maanden later bewijst het feit dat de officiële reactie op Groks pornografie en CSAM-diensten feitelijk een belangeloze schouderophalen is, dat het kwart miljoen dollar dat Musk in 2024 aan Trump en andere Republikeinen schonk een goede investering in de toekomst van zijn bedrijf was.
Op 3 januari, terwijl Grok stilstond spit Deze beelden waren op verzoek van Musk en Trump voldoende verzoend om samen te gaan eten in Mar-a-Lago. Vervolgens Trump genaamd Musk is ‘geweldig’ en ‘een geweldige kerel’, en Musk voorspelde dat 2026 ‘geweldig’ zou zijn.
Wetten zijn slechts zo sterk als de wil van de machthebbers om ze af te dwingen. Als je eigenaar bent van de mensen die je reguleren, is er geen schandaal dat te walgelijk is om je aan het lachen te maken.
