In de uren nadat een gemaskerde federale agent Renee Nicole Good, een 37-jarige vrouw uit Minneapolis, had doodgeschoten. gebruikers van sociale media zij deelden Afbeeldingen veranderd door kunstmatige intelligentie ze beweren ten onrechte dat ze de officier ‘ontmaskeren’ en hun ware identiteit onthullen. De agent werd later door Tricia McLaughlin, woordvoerster van het Department of Homeland Security, geïdentificeerd als een immigratie- en douanehandhavingsfunctionaris.
De schietpartij vond woensdagochtend en sociale media-beelden van de scène toont twee gemaskerde federale agenten die een SUV naderen die midden op straat geparkeerd staat in een buitenwijk ten zuiden van het centrum van Minneapolis. Eén van de agenten lijkt de bestuurder te vragen uit te stappen voordat hij de deurklink vastpakt. Op dit punt lijkt het alsof de bestuurder achteruit rijdt, voordat hij vooruit rijdt en draait. Een derde gemaskerde federale officier, die aan de voorkant van het voertuig staat, haalt een pistool tevoorschijn en schiet op het voertuig, waarbij Good om het leven komt.
Video’s van het incident die kort na de schietpartij op sociale media werden gedeeld, bevatten geen beelden van de gemaskerde ICE-agenten zonder hun maskers. Binnen enkele uren na de schietpartij begonnen echter verschillende afbeeldingen van een ontmaskerde officier op internet te circuleren.
De afbeeldingen lijken schermafbeeldingen te zijn die zijn genomen van de daadwerkelijke beelden, maar zijn aangepast met kunstmatige intelligentietools om het gezicht van de officier te creëren.
WIRED beoordeelde verschillende door AI gewijzigde afbeeldingen van de ontmaskerde agent die werden gedeeld op alle grote sociale-mediaplatforms, waaronder X, Facebook, Threads, Instagram, BlueSky en TikTok. “We hebben zijn naam nodig”, zegt Claude Taylor, oprichter van de anti-Trump Mad Dog PAC. schreef hij in een bericht op X met een AI-bewerkte afbeelding van de agent. Het bericht is ruim 1,2 miljoen keer bekeken. Taylor reageerde niet op een verzoek om commentaar.
Op Threads plaatste een account genaamd ‘Influencer_Queeen’ een AI-bewerkte afbeelding van de officier en schreef: ‘Laten we zijn adres opzoeken. Maar laten we ons gewoon op HEM concentreren. Niet op zijn kinderen.’ Het bericht is bijna 3.500 keer geliket.
“Op AI gebaseerde verbetering heeft de neiging om gezichtsdetails te hallucineren, wat leidt tot een verbeterd beeld dat visueel duidelijk kan zijn, maar ook de realiteit kan ontberen in vergelijking met biometrische identificatie”, zegt Hany Farid, een professor aan de UC-Berkeley die eerder bestudeerde het vermogen van kunstmatige intelligentie om gezichtsbeelden te verbeterenvertelt WIRED. “In deze situatie waarin de helft van het gezicht verborgen is, is kunstmatige intelligentie of welke andere techniek dan ook, naar mijn mening, niet in staat om de gezichtsidentiteit accuraat te reconstrueren.”
Sommige mensen die de afbeeldingen plaatsten, beweerden ook, zonder bewijs, de agent te hebben geïdentificeerd, de namen van echte mensen te hebben gedeeld en, in verschillende gevallen, links te hebben gegeven naar de sociale media-accounts van die mensen.
WIRED bevestigde dat twee van de circulerende namen niet onmiddellijk verband leken te houden met iemand die met ICE geassocieerd was. Hoewel veel van de berichten waarin deze AI-afbeeldingen worden gedeeld, een beperkte betrokkenheid hebben, zijn sommige aanzienlijk populair geworden.
Een van de namen die zonder bewijs online worden gedeeld, is Steve Grove, CEO en uitgever van de Minnesota Star Tribune, die eerder in de regering van Minnesota, Tim Walz, werkte. “We volgen momenteel een gecoördineerde online desinformatiecampagne die de ICE-agent die betrokken was bij de schietpartij van gisteren ten onrechte identificeert”, vertelt Chris Iles, vice-president communicatie bij de Star Tribune, aan WIRED. “Voor alle duidelijkheid: de ICE-agent heeft geen bekende banden met de Minnesota Star Tribune en is zeker niet onze uitgever en CEO Steve Grove.”
Dit is niet de eerste keer dat AI problemen veroorzaakt na een schietpartij. Een soortgelijke situatie deed zich in september voor Charlie Kirk werd vermoord en er was een AI-gemanipuleerd beeld van de moordenaar, gebaseerd op korrelige videobeelden vrijgegeven door wetshandhavingsinstanties breed gedeeld online. Het AI-beeld leek in niets op de man die uiteindelijk werd opgepakt en beschuldigd van de moord op Kirk.
