Ontgrendel gratis de Publisher’s Digest
Roula Khalaf, redacteur van de FT, selecteert in deze wekelijkse nieuwsbrief haar favoriete verhalen.
Elon Musk heeft gereageerd op de druk om te voorkomen dat gebruikers van zijn kunstmatige-intelligentiemodel Grok valse geseksualiseerde beelden van echte mensen genereren, na protesten over de verspreiding van inhoud op zijn X-platform.
De miljardair-ondernemer kwam vorige week onder de loep nadat duizenden gebruikers zijn Grok AI-model begonnen te gebruiken om geseksualiseerde deepfakes te genereren van vrouwen en, in sommige gevallen, kinderen, die hij deelt op zijn socialemediaplatform X en de aparte app Grok, beide gerund door Musks xAI-startup.
In een bericht op het beveiligingsaccount van X zei het bedrijf woensdag dat het “technologische maatregelen had geïmplementeerd” om te voorkomen dat zijn Grok-account “het bewerken van afbeeldingen van echte mensen toestaat waarop kleding zoals bikini’s zichtbaar zijn.” Het voegde eraan toe dat deze beperking van toepassing is op alle gebruikers, inclusief betaalde abonnees.
In rechtsgebieden waar het illegaal is om afbeeldingen te genereren van ‘echte mensen in bikini’s, ondergoed en soortgelijke kleding via het Grok-account en in Grok in X’, zou de mogelijkheid om dit te doen nu automatisch geoblocked worden, voegde hij eraan toe.
Woensdag zei de Britse premier Sir Keir Starmer dat het socialemediaplatform van Musk aan overheidsfunctionarissen had aangegeven dat het handelde om te voldoen aan de onlineveiligheidswetten van het land door het genereren van seksuele beelden zonder wederzijds goedvinden te blokkeren.
De terugtrekking kwam nadat de Britse regering had aangekondigd dat zij de toepassing van nieuwe bevoegdheden zou bespoedigen door het creëren van intieme beelden zonder wederzijds goedvinden strafbaar te stellen, zelfs als NAAR DE.
“We hebben X duidelijk gemaakt dat deze beelden illegaal en aanstootgevend zijn en aangepakt moeten worden”, aldus Starmer. “Ik heb vernomen dat X actie onderneemt om volledige naleving van de Britse wet te garanderen. Als dat zo is, is dat welkom, maar we zullen niet terugdeinzen – ze moeten actie ondernemen.”
Mos vorige week verwierp het de dreigementen van de Britse regering om het platform vanwege de kwestie te verbieden, zei het dat het “elk excuus voor censuur” wilde en voerde het aan dat X werd uitgekozen terwijl andere rivalen soortgelijke capaciteiten aanboden.
De rijkste man ter wereld heeft erop aangedrongen dat zijn AI-producten minder ‘vangrails’ hebben dan rivalen zoals OpenAI en Google, in overeenstemming met zijn ‘vrije meningsuiting’-idealen, maar ook in een poging om het aantal downloads van zijn Grok-app te stimuleren, aldus insiders.
Echter, in een bericht op
Hij voegde eraan toe dat hij “niet op de hoogte was van afbeeldingen van naakte minderjarigen die door Grok waren gegenereerd. Letterlijk nul.”
De kwestie heeft geleid tot wereldwijde verontwaardiging, waaronder dreigementen met boetes en verboden in de EU, het Verenigd Koninkrijk en Frankrijk, en de aankondiging van een onderzoek door de Britse toezichthouder Ofcom. Grok is ook verboden in Indonesië en Maleisië.
De procureur-generaal van Californië zei woensdag dat de Amerikaanse staat een onderzoek had geopend naar Grok en xAI “naar aanleiding van seksuele en ongeklede afbeeldingen van vrouwen en kinderen.”
Een woordvoerder van de Europese Commissie zei dat de EU ‘kennis heeft genomen van de aanvullende maatregelen die dat met zich meebrengt
Afgelopen vrijdag zei xAI dat het het gebruik van zijn Grok-beeldgenerator zou beperken tot alleen betalende abonnees. Op woensdag,
Het voegde eraan toe: “We ondernemen actie om inbreukmakende inhoud met hoge prioriteit te verwijderen, inclusief materiaal van seksueel misbruik van kinderen (CSAM) en naaktheid zonder wederzijds goedvinden, door passende actie te ondernemen tegen accounts die onze X-regels schenden.”
Afgelopen dinsdag leek Grok verzoeken van een aantal X-gebruikers over de hele wereld om geseksualiseerde deepfakes te genereren te negeren, maar sommige werden nog steeds gegenereerd, volgens gegevens van de denktank Institute for Strategic Dialogue.
Het aantal niet-consensuele deepfake-verzoeken explodeerde begin januari, vooral nadat Musk een nepbeeld van zichzelf in bikini deelde.
Het gebeurde ook omdat xAI verloop kende in zijn beveiligingsteams. In de eerste week van december verliet Vincent Stark, hoofd productbeveiliging van xAI, het bedrijf, samen met een van de beste AI-beveiligingsonderzoekers Norman Mu en Alex Chen, die toezicht hielden op de verfijning van Grok’s persoonlijkheid en gedrag.
Aanvullende verslaggeving door Barbara Moens in Brussel
