Deepfake-naaktfoto’s en ‘wraakporno’ moeten binnen 48 uur van het internet worden verwijderd, anders lopen technologiebedrijven het risico geblokkeerd te worden in Groot-Brittannië. Keir Starmer zei hij, en noemde het een “nationale noodsituatie” die de regering moet aanpakken.
Bedrijven kunnen een miljoenenboete krijgen of zelfs helemaal verboden worden als ze toestaan dat de afbeeldingen worden verspreid of opnieuw worden gepubliceerd nadat de slachtoffers hiervan op de hoogte zijn gesteld.
Er zullen wijzigingen worden aangebracht in de Crime and Policing Bill om ook op AI gebaseerde chatbots zoals X’s Grok te reguleren, die zonder wederzijdse toestemming beelden van vrouwen in bikini’s of in compromitterende posities hebben gegenereerd totdat de regering heeft gedreigd met actie tegen het bedrijf van Elon Musk.
Starmer schreef voor de Guardian: “De last van het aanpakken van misbruik mag niet langer op de schouders van de slachtoffers rusten. Het moet op de daders en de bedrijven liggen die de schade mogelijk maken.”
De premier zei dat institutionele vrouwenhaat “verweven in de structuur van onze instellingen” betekende dat het probleem niet serieus genoeg werd genomen. “Te vaak wordt vrouwenhaat verontschuldigd, gebagatelliseerd of genegeerd. De argumenten van vrouwen worden afgedaan als overdreven of ‘eenmalig’. Die cultuur creëert toestemming”, schreef Starmer.
Overheidsbronnen zeiden dat ze verwachten Ofcom nieuwe bevoegdheden te geven om deze tegen de zomer af te dwingen en dat bedrijven wettelijk verplicht zullen zijn om deze inhoud niet meer dan 48 uur nadat deze aan hen is gerapporteerd te verwijderen.
Platforms, waaronder sociale-mediabedrijven en pornografische sites, die geen actie ondernemen, kunnen een boete krijgen van maximaal 10% van hun kwalificerende wereldwijde omzet of hun diensten worden geblokkeerd in Groot-Brittannië.
Slachtoffers zouden de beelden rechtstreeks aan technologiebedrijven of Ofcom kunnen melden, wat volgens het ministerie van Wetenschap, Innovatie en Technologie een waarschuwing op meerdere platforms zou veroorzaken.
Ofcom zou verantwoordelijk zijn voor de handhaving van het beeldverbod, met als doel de last voor slachtoffers weg te nemen doordat ze dezelfde afbeelding potentieel duizenden keren moeten melden omdat deze voortdurend opnieuw wordt gepubliceerd.
De mediaregulator zal worden opgedragen manieren te onderzoeken om ‘wraakporno’-afbeeldingen van een digitaal watermerk te voorzien, zodat ze automatisch worden gemarkeerd telkens wanneer ze opnieuw worden gepubliceerd.
Internetproviders zullen ook nieuwe richtlijnen krijgen over hoe ze de hosting van ongeautoriseerde sites kunnen blokkeren die gespecialiseerd zijn in het hosten van echte, niet-consensuele of expliciete door AI gegenereerde inhoud.
Het ‘nudificatie’-instrument van Grok, dat begin januari voor veel ophef zorgde, heeft ertoe geleid dat ministers hebben gedreigd het te verbieden X als hij niet had gehandeld. Volgens een analyse uitgevoerd voor The Guardian werden er elk uur ongeveer 6.000 verzoeken om bikini’s ingediend bij de chatbot, waarbij veel verzoeken om afbeeldingen te maken van vrouwen die voorovergebogen waren of alleen tandzijde droegen.
Maar de afgelopen jaren is er ook een toename geweest van echte beelden of deepfakes zonder wederzijds goedvinden die worden gebruikt om jonge vrouwen en mannen te chanteren. welke goede doelen in verband zijn gebracht met een reeks zelfmoorden.
Starmer zei dat de horrorverhalen van vrouwen en meisjes die intieme beelden op internet verspreid zagen, “het soort verhaal waren dat je als ouder je hart in je maag doet kloppen”.
“Te vaak worden deze slachtoffers alleen gelaten om te vechten, terwijl ze de actie van locatie naar locatie achtervolgen, steeds opnieuw hetzelfde materiaal rapporteren, om het uren later elders weer te zien verschijnen”, zei de premier. “Dit is geen gerechtigheid. Het is een mislukking. En het zendt een boodschap uit naar de jeugd van dit land dat vrouwen en meisjes handelswaar zijn die gebruikt en gedeeld moeten worden.”
Het maken of delen van intieme afbeeldingen zonder wederzijds goedvinden zal ook een “prioritaire overtreding” worden onder de Online Safety Act, waardoor dit even ernstig zal zijn als afbeeldingen van kindermisbruik of terrorisme. De wet vereist niet dat platforms onafhankelijk intieme afbeeldingen zonder wederzijds goedvinden identificeren, maar eenvoudigweg dergelijke afbeeldingen verwijderen wanneer ze worden gerapporteerd.
Google, Meta, En ook al is de periode van 48 uur kort, India deed het onlangs mandaat dat sociale-mediabedrijven binnen drie uur een deel van de deepfake-inhoud verwijderen.
“Ik denk dat 48 uur zeker mogelijk is, om eerlijk te zijn”, zegt Anne Craanen, die online vrouwenhaat onderzoekt bij het Instituut voor Strategische Dialoog.
“Het probleem is dat dit niet noodzakelijkerwijs leidt tot een sneller reactiepercentage van bedrijven. Maar 48 uur is langer dan de tijd die nodig is om andere soorten inhoud te verwijderen, zoals terroristische inhoud in de EU.”
Craanen voegde eraan toe dat die er al zijn initiatieven gebruik hash-matching om slachtoffers van intiem misbruik te beschermen; hoewel het moeilijk kan zijn om verschillende technologieplatforms met elkaar te coördineren, zodat een aanstootgevende video die bijvoorbeeld naar Facebook wordt geüpload, automatisch op Reddit wordt gedetecteerd.
Hash-matching is geen perfecte technologie, benadrukt Craanen, en kan worden omzeild. Terroristische groeperingen voegen bijvoorbeeld vaak emoji’s of kleine bewerkingen toe aan video’s die al als terroristische inhoud zijn gehasht, waardoor ze onherkenbaar worden voor hash-matchingsystemen.
De komst van AI-tools en AI-deepfakes zal dit probleem verergeren, waardoor niet-consensuele intieme afbeeldingen en andere inhoud snel kunnen worden bewerkt en verspreid over het internet, aldus Craanen, en pogingen om ze snel te detecteren met tools zoals hash-matching worden omzeild. In een tijd als de bikinificatiecrisis van Grok in januari kan het onmogelijk zijn om enig misbruik in toom te houden.
Hoewel de wet van toepassing lijkt te zijn op alle technologieplatforms, inclusief ‘malafide websites’ die buiten de reikwijdte van de Online Safety Act vallen, zijn er vragen over hoe deze van toepassing zou kunnen zijn op gecodeerde berichtendiensten zoals WhatsApp en Signaal.
In zijn artikel zei Starmer dat hij ook vastbesloten was de vrouwenhaat in de regering en de politiek aan te pakken, na enkele weken waarin de premier kritiek kreeg over de benoeming van Peter Mandelson als ambassadeur van de VS. ondanks dat hij op de hoogte was van zijn vriendschap met de in ongenade gevallen financier en kindermisbruiker Jeffery Epstein. Mandelson werd ontslagen na nieuwe onthullingen over de intimiteit van hun vriendschap.
De premier worstelt ook met de benoeming van een nieuwe kabinetssecretaris, Antonia Romeo. voorbestemd om permanent secretaris van het ministerie van Binnenlandse Zaken te wordendie negen jaar geleden werd vrijgesproken van pesterijen, maar nog steeds een controversieel figuur is binnen het ambtenarenapparaat. Sommige van zijn verdedigers hebben gezegd dat kritiek op Romeo gebaseerd is op seksistische dubbele standaarden.
Starmer suggereerde dat hij meer vrouwen wilde benoemen in leiderschapsrollen in de regering en zei dat hij “vastbesloten was om de cultuur van de regering te transformeren: om de structuren uit te dagen die de stemmen van vrouwen nog steeds marginaliseren”.
“En daarom denk ik dat het simpelweg tellen van het aantal vrouwen in hogere functies niet voldoende is,” zei ze. “Het gaat erom of hun meningen gewicht in de schaal leggen en tot verandering leiden.”
