Volgens een onderzoek in opdracht van de politie denkt één op de vier mensen dat er niets mis is met het maken en delen van seksuele deepfakes, of voelt zich daar neutraal over, ook al heeft de afgebeelde persoon daar geen toestemming voor gegeven.
De bevindingen hebben een hoge politieagent ertoe gebracht te waarschuwen dat het gebruik van kunstmatige intelligentie een epidemie van geweld tegen vrouwen en meisjes (VAWG) versnelt en dat technologiebedrijven medeplichtig zijn aan dit misbruik.
Uit het onderzoek onder 1.700 mensen in opdracht van het bureau van de wetenschappelijk hoofdadviseur van de politie bleek dat 13% van mening is dat er niets mis is met het creëren en delen van seksuele of intieme deepfakes: digitaal gewijzigde inhoud die zonder toestemming is gemaakt met behulp van kunstmatige intelligentie.
Nog eens 12% was neutraal over de morele en juridische aanvaardbaarheid van het creëren en delen van dergelijke deepfakes.
Det Ch Supt Claire Hammond, van het National Center for VAWG and Public Protection, herinnerde het publiek eraan dat “het delen van intieme beelden van iemand zonder hun toestemming, of het nu echte beelden zijn of niet, zeer gewelddadig is”.
In reactie op de onderzoeksresultaten zei ze: “De opkomst van kunstmatige intelligentietechnologie versnelt de epidemie van geweld tegen vrouwen en meisjes over de hele wereld. Technologiebedrijven zijn medeplichtig aan dit misbruik en hebben het creëren en delen van aanstootgevend materiaal zo eenvoudig gemaakt als het klikken op een knop, en ze moeten nu actie ondernemen om dit te stoppen.”
Hij riep slachtoffers van deepfakes op om beelden bij de politie te melden. Hammond zei: “Dit is een ernstige misdaad en wij zullen u steunen. Niemand mag in stilte of schaamte lijden.”
Het creëren van seksueel expliciete deepfakes zonder wederzijds goedvinden is een misdaad onder de nieuwe datawet.
Uit het rapport, samengesteld door misdaad- en justitieadviesbureau Crest Advisory, bleek dat 7% van de respondenten was afgebeeld in een seksuele of intieme deepfake. Hiervan had slechts 51% aangifte gedaan bij de politie. Onder degenen die het aan niemand vertelden, waren de meest genoemde redenen schaamte en onzekerheid dat het misdrijf serieus zou worden behandeld.
De gegevens suggereren ook dat mannen onder de 45 het waarschijnlijk acceptabel vinden om deepfakes te maken en te delen. Het was ook waarschijnlijker dat deze groep online pornografie bekeek en het eens was met vrouwonvriendelijke opvattingen, en positieve gevoelens koesterde ten opzichte van AI. Maar het rapport stelt dat dit verband tussen leeftijd en geslacht met dergelijke opvattingen zwak is en verder onderzoek vereist om dit schijnbare verband te onderzoeken.
Eén op de twintig ondervraagden gaf toe in het verleden deepfakes te hebben gemaakt. Meer dan één op de tien zei dat ze er in de toekomst een zouden creëren. En tweederde van de ondervraagden zei dat ze een deepfake hadden gezien of gezien.
De auteur van het rapport, Callyane Desroches, hoofd beleid en strategie bij Crest Advisory, waarschuwde dat het creëren van deepfakes “steeds meer genormaliseerd wordt naarmate de technologie om ze te maken goedkoper en toegankelijker wordt.”
Hij voegde eraan toe: “Hoewel sommige deepfake-inhoud onschadelijk lijkt, is de overgrote meerderheid van de video-inhoud geseksualiseerd – en vrouwen zijn overweldigend het doelwit.
“We zijn diep bezorgd over wat ons onderzoek heeft benadrukt: dat er een groep jonge mensen is die actief pornografie bekijkt en standpunten heeft die aansluiten bij vrouwenhaat, en die geen kwaad ziet in het bekijken, creëren en delen van seksuele deepfakes van mensen zonder hun toestemming.”
Cally Jane Beech, een activiste die campagne voert voor een betere bescherming van slachtoffers van deepfake-misbruik, zei: “We leven in zeer zorgwekkende tijden, de toekomst van onze dochters (en zonen) staat op het spel als we niet snel beslissende actie ondernemen in de digitale ruimte.
Hij voegde eraan toe: “We kijken naar een hele generatie kinderen die opgroeien zonder bescherming, wetten of regels om hen heen, en nu zien we het duistere rimpeleffect van die vrijheid.
“Dit stoppen begint thuis. Onderwijs en een open dialoog moeten elke dag worden versterkt als we ooit een kans willen hebben om dit te elimineren.”
