“Zuidpark” staat bekend om het verleggen van grenzen, maar de nieuwste aflevering werd door fans online omschreven als ‘nachtmerriebrandstof’.
In wat misschien wel een van de meest verontrustende afleveringen van het jaar is, onderzoeken ‘South Park’-makers Trey Parker en Matt Stone hoe gemakkelijk het is om door AI gegenereerde video’s te maken – en hoe gemakkelijk het voor sommige mensen is om erin te trappen of zichzelf ervan te overtuigen dat echte video’s nep zijn.
Het gesprek rond de aflevering van woensdag draait grotendeels om de afbeelding van president Trump en vice-president J.D. Vance die seks hebben. Ze vertellen verslaggevers dat de gelekte video van hun relatie nep was, gemaakt met Soera 2de nieuwste versie van de videogenerator van OpenAI.
In dezelfde aflevering, getiteld ‘Sora Not Sorry’, maken de kinderen van South Park wraakporno-video’s waarin Sora wordt gebruikt als middel om elkaar terug te pakken. Butters maakt een expliciete video van Red met de kerstman, en maakt vervolgens een even expliciete video met Butters en Totoro, uit de groep Studio Ghibli-klassieker “Mijn buurman Totoro.”
Er ontstaat chaos als kinderen zich vermaken met door AI gegenereerde video’s met beroemde (en auteursrechtelijk beschermde) geanimeerde karakters. De politie van South Park is verbijsterd door de video’s en denkt dat ze echt zijn.
Droopy Dog, Rocky, Bullwinkle, Popeye en zelfs het geliefde kleuterpersonage Bluey worden genoemd of verschijnen in de aflevering. Er verschijnen ook vertegenwoordigers van Studio Ghibli, die de waanzin uiten en zeggen: “Je kunt niet doen wat je wilt met het IP-adres van iemand anders.”
Het weerspiegelt de zeer reële reactie die Studio Ghibli had toen Sora 2 uitkwam, met het argument dat OpenAI de inhoud en andere Japanse kunstwerken waarschijnlijk gebruikte als machine learning-gegevens. De Content Overseas Distribution Assn., een antipiraterijorganisatie die eigenaren van Japanse intellectuele eigendommen vertegenwoordigt, heeft een bericht vrijgegeven brief eind oktober verklaarde dat de organisatie van mening is dat de acties van OpenAI “een inbreuk op het auteursrecht kunnen vormen”. CODA heeft OpenAI gevraagd te stoppen met het gebruik van Japanse inhoud voor machine learning en heeft het bedrijf gevraagd “oprecht” te reageren op claims van inbreuk op het auteursrecht.
Sora’s nieuwste update, die eind september werd uitgebracht, is “fysiek nauwkeuriger, realistischer en beter controleerbaar dan eerdere systemen”, aldus OpenAIen beschikt ook over gesynchroniseerde dialoog en geluidseffecten.
Het bedrijf kreeg snel kritiek toen het de nieuwe versie lanceerde, omdat het opereerde onder een systeem waarbij eigenaren van intellectueel eigendom zich moesten afmelden voor de app, wat betekende dat gebruikers video’s konden maken met populaire acteurs, personages, stemmen en gelijkenissen totdat de rechthebbenden het opt-outverzoek deden.
Ongeautoriseerde deepfakes van beroemdheden, dode figuren en auteursrechtelijk beschermde personages begonnen snel te circuleren, waaronder video’s van Robin Williams, Michael Jackson en Martin Luther King jr. in wat het bedrijf ‘respectloze afbeeldingen van het imago van Dr. King’ noemde. OpenAI en King’s Estate hebben een gezamenlijke verklaring in oktober zei het dat de app de mogelijkheid zou blokkeren om generaties met King te creëren, omdat het bedrijf “de vangrails voor historische figuren versterkt”.
Nadat een aantal Hollywood-studio’s en -bureaus hun frustratie over dit beleid hadden geuit, zei OpenAI-CEO Sam Altman schreef hij in een blogpost dat het AI-bedrijf rechthebbenden “meer gedetailleerde controle zal geven over het genereren van karakters, vergelijkbaar met het opt-in-model voor gelijkenis, maar met extra controles.”
Sommige studio’s hebben, samen met de CEO van Disney, interesse getoond in de ruimte voor door gebruikers gegenereerde inhoud Bob Iger In een recente winstoproep zei het bedrijf dat het bedrijf “productieve gesprekken” voerde met niet bij naam genoemde AI-bedrijven in een poging een deal te bereiken die “ook onze behoefte weerspiegelt om intellectueel eigendom te beschermen.”
Terug op South Park Elementary, terwijl de strijd tegen verontrustende AI-video’s heviger wordt, vraagt Kyle zich af hoe het legaal is om dat soort inhoud te maken, vooral met auteursrechtelijk beschermde personages. ‘Niets is heilig, Kyle,’ zegt Butters tegen hem. “Het enige wat je kunt doen is vuur met vuur bestrijden.”
De aflevering lijkt tegemoet te komen aan de frustraties van Parker en Stone over de replicatie van hun werk, zoals blijkt uit een grapje van de miljardair Peter Thieldie ook in de aflevering verschijnt: “Met Sora 2 kan ik de jongen uit South Park bijna alles laten doen.”
