De Britse mediawaakhond heeft een formeel onderzoek geopend naar Elon Musk’s X voor het gebruik van de Grok AI-tool om afbeeldingen van vrouwen en kinderen te manipuleren door hun kleding te verwijderen.
Ofcom handelde na een openbare e politiek protest over een stortvloed aan seksuele afbeeldingen die op het platform verschijnen, gemaakt door Musk’s Grok, dat is geïntegreerd met X.
De toezichthouder doet onderzoek X onder de Online Safety Act (OSA), die voorziet in een reeks mogelijke straffen voor overtredingen, waaronder een Brits verbod op apps en websites voor het ernstigste misbruik. Het zei dat het het onderzoek zou voortzetten als een “zaak van de hoogste prioriteit”.
Ofcom zei: “Berichten dat Grok wordt gebruikt om illegale en niet-consensuele intieme beelden en kindermisbruikmateriaal te creëren en te delen op
“We zullen dit onderzoek met de hoogste prioriteit voortzetten en er tegelijkertijd voor zorgen dat we een eerlijk proces volgen. Als de onafhankelijke Britse onlineveiligheidswaakhond is het belangrijk om ervoor te zorgen dat onze onderzoeken juridisch robuust zijn en eerlijk worden beslist.”
Het online delen van beledigende intieme afbeeldingen is illegaal onder de OSA, die ook vereist dat pornografie een leeftijdsbeperking heeft. Bedrijven moeten ook over systemen beschikken om het bekijken van materiaal met seksueel misbruik van kinderen (CSAM) te voorkomen en dit snel te verwijderen als het op een platform wordt geplaatst.
Ofcom zei dat het afgelopen maandag “dringend” contact had opgenomen met X over zijn zorgen. Na bestudering van het antwoord van X op de stappen die zijn genomen om aan de wet te voldoen, zei Ofcom dat het een formeel onderzoek had geopend na een “versnelde” beoordeling die als “urgentiezaak” was uitgevoerd.
De toezichthouder concentreert zich op de vraag of X de wet heeft overtreden door: het risico niet in te schatten dat mensen illegale inhoud op het platform zien; nalaten adequate maatregelen te nemen om te voorkomen dat gebruikers illegale inhoud bekijken, zoals misbruik van intieme afbeeldingen en kinderpornografie; verwijder illegaal materiaal niet snel; er niet in slagen gebruikers te beschermen tegen schendingen van de privacywetgeving; het niet inschatten van het risico dat X voor kinderen kan opleveren; gebruik geen effectieve leeftijdscontrole voor pornografie.
Grok werd geïntegreerd in X, en een update van de AI-tool stelde gebruikers in staat om geklede afbeeldingen van vrouwen en kinderen te veranderen in bikini’s en in seksueel suggestieve poses.
Ofcom heeft een aantal opties op het gebied van sancties op grond van de wet, van het eisen van bepaalde stappen om aan de wet te voldoen, tot het opleggen van boetes tot 10% van de wereldwijde omzet en, in extreme gevallen, het effectief blokkeren van een app of website door een rechtbank te vragen om ‘bedrijfsonderbrekingsmaatregelen’, zoals het eisen van internetproviders om de toegang tot een site in het Verenigd Koninkrijk te blokkeren. Vrijdag zei de regering dat zij Ofcom zou steunen als hij zou besluiten dat X eigenlijk verboden zou moeten worden.
Ofcom zei dat het bewijsmateriaal zou verzamelen om te zien of er een inbreuk had plaatsgevonden. Indien zij besluit dat er sprake is van een overtreding, maakt zij dit met een voorlopig besluit bekend alvorens een definitief besluit te nemen. De toezichthouder gaf geen exacte details over hoe lang het onderzoek zou duren.
Jess Asato, een Labour-parlementslid en campagnevoerder tegen AI-naaktheid, zei dat het misbruik haar maandagochtend nog steeds overkwam op X.
Hij zei dat expliciete en vernederende beelden werden gemaakt met behulp van de Grok-app – die ook los van X verkrijgbaar is – en andere AI-apps en op X werden geplaatst, omdat hij zich uitsprak tegen het platform van Musk.
“Het overkomt mij nog steeds en het wordt op X geplaatst omdat ik erover praat”, zei hij. “Gelukkig zijn het maar bikini’s, niemand heeft me nog echt naakt gemaakt. Vanochtend heeft iemand me veranderd in een traditionele vrouw met een enorme zwangere buik. Het is alsof ze zeggen: dit is waar je hoort te zijn, dit is jouw rol, je hoort een bevallingsmachine te zijn. Dat stoorde me vreemd genoeg meer dan de bikinifoto’s.”
Het parlementslid voegde eraan toe dat “duizenden mensen” haatdragende berichten en AI-verbeterde afbeeldingen van haar hebben gestuurd als resultaat van haar campagne om AI-naaktheid te verbieden.
Hij voegde eraan toe: “Er zijn gebruikers zelf die me vertellen dat ze nog steeds afbeeldingen van naakte vrouwen kunnen maken en dat ze er niet per se voor hoeven te betalen. Zoveel mensen kunnen het doen zonder te betalen, via de Grok-app. We moeten de naaktheid stoppen. Er zijn duizenden van deze apps die deze inhoud nog steeds genereren. Vrouwen zij geven er geen toestemming voor om zich digitaal uit te kleden.
