Dinsdag keurde de Senaat unaniem een wetsvoorstel goed dat slachtoffers in staat stelt de makers van niet-consensuele seksueel expliciete deepfakes aan te klagen voor slechts 150.000 dollar.
De DEFIANCE Act is nu op weg naar het Huis van Afgevaardigden, waar de leiding er de afgelopen zittingsperiode niet in is geslaagd deze ter tafel te brengen. Maar er is een nieuw momentum rond de kwestie, nu voorstanders er bij Google en Apple op aandringen om Grok uit app-winkels te verbannen nadat de chatbot het maken van intieme afbeeldingen zonder wederzijds goedvinden toestond.
Op 20 december sprak Elon Musk, CEO van het sociale mediaplatform
X-gebruikers beseften al snel dat ze dit konden doen expliciete afbeeldingen maken Grok ertoe aanzetten vrouwen en meisjes ‘uit te kleden’. Verschillende oplossingen hebben geresulteerd in intieme beelden zonder wederzijds goedvinden van echte mensen over het hele platforminclusief kinderporno en valse afbeeldingen van moslimvrouwen met hun hijab verwijderd.
Op 3 januari verschijnt het officiële account van het X-beveiligingsteam publiceerde een korte verklaring zeggen dat het platform illegale inhoud verwijdert. “Iedereen die Grok gebruikt of aanmoedigt om illegale inhoud te maken, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt”, aldus de verklaring.
Op de 19e nam hij contact op met de persmail van xAI, het door Musk opgerichte bedrijf dat Grok ontwikkelt, om te vragen of er wijzigingen zijn aangebracht aan de chatbot om het maken van niet-consensuele afbeeldingen te voorkomen. xAI gaf zijn standaardantwoord op vragen van de media: ‘Legacy Media Lies’. (The 19th werd opgericht in 2020.) X, het sociale mediaplatform dat formeel bekend staat als Twitter, reageerde niet onmiddellijk op vragen per e-mail.
Rond 9 januari lijkt X de mogelijkheden voor het genereren van afbeeldingen van Grok achter een betaalmuur te hebben geplaatst. Deze stap is breed bekritiseerd door experts op het gebied van technologiebeleid en voorstanders van overlevenden, die zeggen dat het bedrijf nu profiteert van het misbruik. (The Verge meldde ook de betaalmuur niet voorkomen bevrijd gebruikers van het genereren van expliciete afbeeldingen.)
“Seksueel misbruik is geen premiumdienst. Het is een misdaad”, zegt Jenna Sherman, campagneleider van de genderrechtvaardigheidsorganisatie UltraViolet.
Nadat hij het bedrijf in 2022 had overgenomen, nam Musk heeft de door vrijwilligers gerunde Trust and Safety Council van Twitter ontbonden, leidde tot een campagne van intimidatie tegen de vertrouwens- en veiligheidsfunctionaris e hij heeft het team gestript verantwoordelijk voor het modereren van de inhoud.
Senator Dick Durbin, mede-sponsor van de Senaatsversie van de DEFIANCE Act, haalde het Grok-schandaal en de matte reactie van X aan toen hij dinsdagochtend over de wetgeving ter stemming voorlegde.
“Zelfs nadat deze vreselijke, valse en schadelijke beelden waren gemeld bij Grok en X, voorheen Twitter, reageerden ze niet. Ze verwijderen geen afbeeldingen van internet. Ze komen de mensen die er het slachtoffer van zijn niet te hulp”, zei hij.
“Daarom is deze wetgeving van cruciaal belang, omdat deze wetgeving zegt dat als ze zich schuldig maken aan dergelijk roekeloos gedrag, ze voor de rechter kunnen worden gebracht en civiel aansprakelijk kunnen worden gesteld voor schade.”
Durbin prees de passage met unanieme instemming, nu gepolariseerde partijen zich verenigen in een tweeledige kwestie. Het wetsvoorstel wordt mede ingediend door de democraat uit Illinois en senator Lindsey Graham, een republikein uit South Carolina.
Het is onduidelijk of de DEFIANCE Act het maatschappelijk middenveld in zijn greep zou kunnen houden
De DEFIANCE-wet was tijdens de laatste zitting aan de Kamer gepresenteerd door vertegenwoordigers Alexandra Ocasio-Cortez, een democraat uit New York, en Laurel Lee, een republikein uit Florida. Ocasio-Cortez heeft consequent de aandacht op de kwestie gevestigd en haar ervaringen gedeeld als doelwit van deepfake-misbruik.
Het is geen toeval dat vrouwelijke parlementsleden zich over deze kwestie uitspreken, aangezien zij waarschijnlijk het doelwit zijn van dit soort digitaal seksueel geweld. A Rapport 2024 van het Amerikaanse Sunlight Project vond 35.000 vermeldingen van intieme afbeeldingen zonder wederzijds goedvinden met 26 leden van het Congres. Vijfentwintig van deze wetgevers waren vrouwen.
Martone merkte op dat de House-versie sinds begin dit jaar zes medesponsors heeft gekregen, waaronder drie vrouwen, gelijk verdeeld over de partijen.
Vorig jaar, Het congres keurde de Take It Down Act goeddie intieme beelden zonder wederzijds goedvinden verbiedt, zowel echte als door de computer gegenereerde beelden. Platforms zullen tegen mei van dit jaar een proces moeten implementeren om niet-consensuele intieme afbeeldingen binnen 48 uur te verwijderen.
De DEFIANCE Act en de Take It Down Act waren altijd bedoeld als een tweeledige oplossing voor het probleem van deepfake-misbruik, zei Martone. De Vereniging ter Voorkoming van Seksueel Geweld was betrokken bij het opstellen van beide wetsvoorstellen.
De Take It Down Act geeft rechtbanken en officieren van justitie de bevoegdheid om actie te ondernemen tegen niet-consensuele beelden en oefent ook druk uit op socialemediabedrijven en zoekmachines om schadelijke inhoud te verwijderen, aldus Martone. De DEFIANCE Act is bedoeld om overlevenden de macht te geven, die kunnen beslissen of ze de daders rechtstreeks voor de rechter willen dagen.
“Het krachtigste wat je voor overlevenden kunt doen, is hen opties geven, en dat is het doel van de DEFIANCE Act”, zeiden ze.
Martone’s pleidooi tegen digitaal seksueel geweld heeft ertoe geleid dat vreemden hen aanvielen met expliciete deepfakes. Het misbruik was specifiek gericht tegen Martone en zijn organisatie als geheel. Martone moest tijd vrijmaken van zijn werk en huur en boodschappen betalen om hulp te krijgen bij het verwijderen van de afbeeldingen.
Als de DEFIANCE Act wet wordt, hoopt Martone deze te gebruiken om niet alleen de schade als gevolg van emotionele schade te verhalen, maar ook de tastbare kosten van het omgaan met dit soort misbruik.
Zowel de DEFIANCE Act als de Take It Down Act werden geïntroduceerd nadat door AI gegenereerde seksueel expliciete afbeeldingen van Taylor Swift in januari 2024 viraal gingen op X. Het bedrijf blokkeerde zoekopdrachten naar haar naam en verwijderde uiteindelijk de afbeeldingen. deel dat het plaatsen van intieme afbeeldingen zonder wederzijds goedvinden “ten strengste verboden” is en heeft een “nultolerantiebeleid ten aanzien van dergelijke inhoud.”
404 Media hebben de Swift-deepfakes getraceerd naar een Telegram-groep misbruik maken van een maas in de wet in de Designer-afbeeldingsgenerator van Microsoft. Microsoft ondernam onmiddellijk actie om de exploit aan te pakken.
“Dit is een mondiale en sociale convergentie van bepaalde normen, en dat kunnen we doen, vooral als er wetten, wetshandhavings- en technologieplatforms zijn die samen kunnen komen”, zegt Satya Nadella, CEO van Microsoft. zei in een interview met NBC-nieuws.
“Ik denk dat we veel meer kunnen regeren dan we denken.”
Correctie: in een eerdere versie van dit artikel werd onjuist het district vermeld dat werd vertegenwoordigd door congreslid Laurel Lee.
