Elon Musk nam X over en richtte Grok op, het generatieve bedrijf van zijn zus NAAR DE tool, met als doel van het sociale-media-ecosysteem een meer tolerante en ‘maximalistische vrijheid van meningsuiting’-ruimte te maken. Waar hij mee eindigde is de dreiging van meerdere onderzoeken door toezichthouders nadat mensen Grok begonnen te gebruiken om expliciete afbeeldingen van vrouwen te maken zonder hun toestemming, en soms overgingen op afbeeldingen van minderjarige kinderen.
Het probleem, dat vorige week naar voren kwam toen mensen de beeldgenererende capaciteiten van Grok gingen inzetten op onschadelijke berichten van voornamelijk vrouwelijke X-gebruikers, heeft de woede van toezichthouders over de hele wereld aangewakkerd. Ofcom, de Britse communicatietoezichthouder, “dringend contact” met gehad op beelden, terwijl de Europese Unie dat wel deed heet de mogelijkheid om Grok te gebruiken op een “beangstigende” en “walgelijke” manier.
In de drie jaar sinds de release van ChatGPT heeft generatieve AI te maken gehad met talloze uitdagingen op regelgevingsgebied, waarvan er vele nog steeds worden geprocedeerd, waaronder vermeende inbreuk op het auteursrecht bij het trainen van AI-modellen. Maar het op zo’n schadelijke manier gebruiken van AI om zich op vrouwen te richten, vertegenwoordigt een belangrijk moreel moment voor de toekomst van de technologie.
“Het gaat niet om naaktheid. Het gaat om macht, om het kleineren van die vrouwen, om laten zien wie de baas is en plezier of opwinding halen uit het feit dat ze er niet mee instemden”, zegt Carolina Are, een Britse onderzoeker die de schade van sociale mediaplatforms, algoritmen en kunstmatige intelligentie voor gebruikers, inclusief vrouwen, heeft bestudeerd.
Van zijn kant, zei X dat “iedereen die Grok gebruikt of ertoe aanzet illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt”, in navolging van de woorden van de eigenaar, Elon Musk, die hij postte hetzelfde op 3 januari.
Het feit dat het mogelijk is om dergelijke beelden te maken, suggereert hoe schadelijk het is om de vangrails voor generatieve AI weg te nemen, zodat gebruikers in wezen kunnen doen wat ze willen. “Dit is het zoveelste voorbeeld van de ongelijkheid, ongelijkheid en dubbele standaarden van het sociale-mediatijdperk, vooral in deze periode, maar ook van de straffeloosheid van de technologie-industrie”, zegt Are.
Vorig
Hoewel de omvang en kracht van door AI gecreëerde beelden ongekend lijken, zijn sommige experts het er niet mee eens dat dit de eerste echte moraliteitstest voor generatieve AI is.
“AI (ik gebruik het hier losjes) is lange tijd een instrument geweest voor discriminatie, vrouwenhaat, homofobie en transfobie, en directe schade, waaronder het aanmoedigen van mensen om een einde aan hun leven te maken, het veroorzaken van depressie en lichaamsdysmorfie, en meer”, zegt Ari Waldman, hoogleraar rechten aan de Universiteit van Californië, Irvine. “Het creëren van deepfakes van vrouwen en meisjes is absoluut gruwelijk, maar het is niet de eerste keer dat AI zich schuldig maakt aan moreel verwerpelijk gedrag”, voegt hij eraan toe.
Maar de vraag wie de juridische verantwoordelijkheid heeft voor het produceren van deze beelden is minder duidelijk dan de uitspraken van Musk doen lijken.
Eric Goldman, een professor aan de Santa Clara University School of Law, wijst erop dat de recente Take it Down Act – die vereist dat platforms de komende maanden stappen ondernemen om illegale of inbreukmakende inhoud binnen 48 uur te verwijderen – nieuwe strafrechtelijke bepalingen heeft toegevoegd tegen ‘intieme visuele representaties’, een categorie die door AI gegenereerde afbeeldingen zou omvatten. Maar het is onduidelijk of dit ook bikinibeelden omvat van het soort dat Grok met de lading maakt.
“Deze wet is nog niet in de rechtbank getest, maar het gebruik van Grok om synthetische seksuele inhoud te creëren is iets wat de wet moet ontmoedigen”, zegt Goldman. “Gezien het feit dat we niet weten of de Take It Down Act al de regelgevende oplossing heeft ingevoerd die nodig is om het huidige probleem op te lossen, zou het voorbarig zijn om verdere wetgeving te maken.”
Experts als Rebecca Tushnet, een First Amendment-wetenschapper aan de Harvard Law School, zeggen dat de noodzakelijke wetten al bestaan. “Het probleem is dat ze worden toegepast op overtreders, terwijl onder de overtreders politiek machtige mensen vallen of mensen die de wet verachten”, zegt hij.
In de Verenigde Staten zijn de afgelopen jaren veel nieuwe wetten tegen deepfakes en expliciete afbeeldingen aangenomen, waaronder een federale wet om de verspreiding van seksueel expliciete digitale vervalsingen te bestraffen, zegt Mary Anne Franks, een expert op het gebied van intellectueel eigendom en technologie aan de George Washington Law School.
Maar de recente ontwikkelingen bij Grok laten zien dat bestaande maatregelen niet goed genoeg zijn, zegt hij. “We moeten technologieontwikkelaars gaan behandelen zoals we andere makers van gevaarlijke producten behandelen: hen verantwoordelijk stellen voor de schade veroorzaakt door hun producten die ze hadden kunnen en moeten voorkomen.”
Ultieme verantwoordelijkheid
De vraag naar de uiteindelijke verantwoordelijkheid blijft derhalve onbeantwoord. En het is de vraag die Musk misschien probeert te vermijden door zijn afkeer te uiten over wat zijn gebruikers doen.
“De moeilijkste juridische vraag is welke aansprakelijkheid Grok heeft bij het faciliteren van de creatie van intieme visuele beelden”, legt Goldman uit, wijzend op het ‘vrijwillig’ opleggen van vangrails als onderdeel van de vertrouwens- en veiligheidsprotocollen van bedrijven. “Het is volgens de Amerikaanse wet onduidelijk of deze vangrails enige wettelijke aansprakelijkheid verminderen of elimineren”, zegt hij, eraan toevoegend dat “het onduidelijk is of de aansprakelijkheid van modellen zal toenemen als een model duidelijk ontoereikende vangrails heeft.”
Waldman stelt dat wetgevers in Washington een wet moeten aannemen die bedrijven juridisch verantwoordelijk houdt voor het ontwerpen en bouwen van kunstmatige intelligentie-instrumenten die kinderpornografie of pornografische deepfakes van vrouwen en meisjes kunnen creëren. “Op dit moment wordt de wettelijke aansprakelijkheid van technologiebedrijven betwist”, voegt hij eraan toe.
Hoewel de Federal Trade Commission de wettelijke bevoegdheid heeft om actie te ondernemen, vreest zij dat dit niet zal gebeuren. “AI-bedrijven hebben zich aangesloten bij de president en de FTC lijkt op geen enkele manier zijn mandaat te vervullen om consumenten te beschermen.”
