IHet is een walgelijke wet van internet dat het eerste wat mensen proberen te doen met een nieuw hulpmiddel het uitkleden van vrouwen is. Grok, de AI-chatbot van X, is herhaaldelijk door gebruikers gebruikt de afgelopen dagen afbeeldingen van vrouwen en minderjarigen te strippen. Persbureau Reuters identificeerde afgelopen vrijdag in een periode van 10 minuten 102 verzoeken van gebruikers om Grok mensen in bikini te laten bewerken, waarvan de meeste gericht waren op jonge vrouwen. Grok vervulde er minstens 21.
Er is geen excuus voor het vrijgeven van uitbuitende tools op het internet terwijl je zit $10 miljard (£7,5 miljard) in contanten. Elk platform met AI-integratie (dat nu bijna het hele internet bestrijkt) plant dezelfde uitdagingen; Als je gebruikers afbeeldingen en zelfs video’s wilt laten maken met generatieve AI, hoe kun je dat dan doen zonder dat de mensen zelf schade aanrichten? Techbedrijven geven achter de schermen geld uit dat je als gebruiker nooit zult zien om hiermee de strijd aan te gaan; ze zullen aan ‘red teaming’ doen, waarbij ze zich voordoen als slechte acteurs om hun producten te testen. Ze zullen bètatests lanceren om functies binnen vertrouwde omgevingen te onderzoeken en te beoordelen.
Bij elke iteratie zullen ze veiligheidsmaatregelen introduceren, niet alleen om gebruikers veilig te houden en aan de wet te voldoen, maar ook om investeerders tevreden te stellen die niet geassocieerd willen worden met illegaal gedrag online. Maar vanaf het begin leek Elon Musk niet te doen alsof hij dacht dat digitaal strippen een probleem was. Het is het voorrecht van Musk als hij denkt dat iemand een meme van Ben Affleck verandert in een foto van een halfnaakte Musk het is “perfect”. Dit verhindert niet dat het delen van AI-deepfakes zonder wederzijds goedvinden in veel rechtsgebieden illegaal is. inclusief Groot-Brittanniëwaar overtreders kunnen worden aangeklaagd voor het delen van dergelijke afbeeldingen of het maken van seksuele afbeeldingen van kinderen.
Een nuttig ding dat Grok deze week deed, was onthullen hoe het was geprogrammeerd. Toen een gebruiker hem vroeg waarom hij het beeld van de Zweedse vice-premier Ebba Busch had gemanipuleerd om in bikini te verschijnen, antwoordde hij hij beweerde dat het satire was omdat hij had gesproken over het verbieden van de boerka. Hij bleef hierop aandringen het was geen deepfake van een echte foto, maar een door AI gegenereerde illustratie (verkeerd), en voegde eraan toe dat het tot doel heeft plezier in evenwicht te brengen met ethiek, “echte schade te vermijden en creatief te reageren” op verzoeken.
Voor iemand die humor zogenaamd waardeert, is het vreemd dat Musk zou proberen deze aan een chatbot te verstrekken. Chatbots worden verkeerd benoemd omdat ze eigenlijk geen idee hebben hoe ze moeten praten. Ze genereren tekst door te voorspellen wat er waarschijnlijk zal gebeuren, waarbij ze gebruik maken van statistische modellen en datatraining in plaats van authentieke informatie. Uit de verontschuldiging van Grok blijkt dat de veiligheids- of feit-compliance-parameters niet grondig zijn getest; het was geprogrammeerd voor entertainment.
Naarmate de week verstreek, leek Musk de grap zelf minder grappig te vinden. “Iedereen die Grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt,” Musk uitte de dreiging op 3 januari met wat de ernst van een bolletje knoflookpasta bleek te zijn. Tussen 2023 en 2024 heeft X zijn vertrouwens- en veiligheidspersoneel drastisch verminderd en vertrouwt het buitensporig op gebruikersrapporten. Dit betekent dat veel slechte actoren nog steeds weg kunnen komen met illegaal gedrag op het platform.
In plaats van dat te erkennen Boete van 120 miljoen euro aan X boven de blauwe ruitjes.
Andere AI-tools zoals ChatGPT en Meta AI verbieden niet-consensuele deepfake-pornografie en lijken deze af te dwingen, wat de vraag oproept: waarom kan Grok dat niet? Hoe de wereld ervoor kiest om toezicht te houden op het platform om zo flagrant toe te staan dat er misdaden worden gepleegd, zal voor eens en voor altijd aantonen of figuren als Musk ongestraft kunnen opereren. Ik ben benieuwd hoe rechtse politici, die ervan hebben genoten, zich gedragen X buigt in hun richting na de overname van Musk zal hij hierop reageren. De bescherming van vrouwen en kinderen is een kernprincipe van conservatieve waarden, en rechtse stemmen in de Verenigde Staten worden nu geconfronteerd met een morele test. De komende weken zullen we zien of ze nog steeds bereid zijn een Amerikaans bedrijf te verdedigen in naam van de vrijheid van meningsuiting, zelfs als het mensen de mogelijkheid biedt om creaties te creëren. geseksualiseerde inhoud van kinderen.
Vanuit mijn perspectief als voormalig dagelijks gebruiker, X heeft lange tijd onherbergzaam geleken – en de gebeurtenissen van deze week zijn de laatste in een reeks digitale gruwelen die mij eraan herinneren dat het een goede beslissing was om mijn productie naar elders te verplaatsen. Maar een actieve, vijandige omgeving die dit gedrag normaliseert, doet ons nog steeds pijn, of we er nu zijn of niet, omdat deze beelden zich over het internet zullen verspreiden. De schade – de aanval – markeert ons of we nog steeds X-gebruikers zijn of niet.
Iemand moet iets doen – en als internationale regeringen X niet kunnen motiveren om te veranderen, kunnen sommige van zijn investeerders dat misschien wel. xAI verbrandt miljarden vanwege de ontwikkeling van kunstmatige intelligentie, en zal gegevens verslinden waardoor gebruikers willens en wetens beelden kunnen genereren; het naleven van verschillende internationale wetten zou niet alleen legaaler zijn, maar ook goedkoper.
Grok’s doel is om de “waarheid en objectiviteit” te maximaliseren, volgens zijn eigen website, maar terwijl ik vandaag door de beerput blader, heb ik alleen maar de “kloppers” van een Zweedse politicus gezien op verzoek van een anonieme gebruiker. Nieuwsmedia nemen nu ook een reeks gemanipuleerde bikinibeelden van 14-jarigen op. “We melden materiaal van vermoedelijk seksueel misbruik van kinderen aan het National Center for Missing and Exploited Children”, aldus het beleid voor acceptabel gebruik van xAI. Maar hoe comfortabel zal het bedrijf zijn bij het rapporteren van zijn monster?
-
Sophia Smith Galer is journalist en contentmaker. Zijn tweede boek, Hoe een tong te dodenzal in mei verschijnen
