De technologie-industrie beweegt zich snel en maakt opnieuw dingen kapot – en deze keer is het de gedeelde realiteit van de mensheid en de controle over onze gelijkenis voor en na de dood – dankzij kunstmatige intelligentie platforms voor het genereren van afbeeldingen zoals Sora 2 van OpenAI.
De typische Sora filmpjegemaakt in de OpenAI-app en verspreid naar TikTokInstagram, X en Facebook, is zo ontworpen dat het leuk genoeg is om op te klikken en te delen. Het kan het rappen van koningin Elizabeth II zijn, of iets gewoners en geloofwaardigs. Een populair Sora-genre zijn nep-deurbelcamerabeelden die iets griezeligs vastleggen, bijvoorbeeld een boaconstrictor op de veranda of een alligator die een onaangedaan kind nadert, en eindigen met een milde schok, zoals een oma die schreeuwt terwijl ze het dier met een bezem slaat.
Maar een groeiend koor van belangengroepen, academici en experts luidt de alarmbel over de gevaren van het toestaan dat mensen AI-video’s maken over vrijwel alles wat ze in een prompt kunnen typen, wat leidt tot de verspreiding van niet-consensuele beelden en realistische deepfakes in een zee van minder schadelijke ‘AI-slop’. OpenAI heeft hard opgetreden tegen AI-creaties van publieke figuren – onder wie Michael Jackson, Martin Luther King Jr. en meneer Rogers – die bizarre dingen deden, maar pas na protest van familiebezitters en een acteursvakbond.
De non-profitorganisatie Public Citizen is dat wel eist nu OpenAI Sora 2 terugtrekken uit het publiek en in een brief van dinsdag aan het bedrijf en CEO Sam Altman schrijven dat de overhaaste release van de app, zodat deze vóór de concurrentie zou kunnen lanceren, een “consistent en gevaarlijk patroon laat zien van OpenAI die zich naar de markt haast met een product dat inherent onveilig is of de nodige vangrails mist.” Sora 2, aldus de brief, getuigt van een “roekeloze minachting” voor productveiligheid, evenals voor de rechten van mensen op hun eigen gelijkenis en de stabiliteit van de democratie. De groep stuurde de brief ook naar het Amerikaanse Congres.
OpenAI reageerde dinsdag niet onmiddellijk op een verzoek om commentaar.
“Onze grootste zorg is de potentiële bedreiging voor de democratie”, zegt JB Branch, voorstander van technologiebeleid van Public Citizen, in een interview. “Ik denk dat we een wereld betreden waarin mensen niet echt kunnen vertrouwen op wat ze zien. En we beginnen strategieën in de politiek te zien waarbij het eerste beeld, de eerste video die wordt vrijgegeven, is wat mensen zich herinneren.”
Branch, auteur van de brief van dinsdag, ziet ook bredere zorgen over de privacy van mensen die een onevenredige impact hebben op kwetsbare bevolkingsgroepen online.
OpenAI blokkeert naaktheid, maar Branch zegt dat “vrouwen zichzelf online lastiggevallen zien worden” op andere manieren, bijvoorbeeld met gefetisjiseerde niche-inhoud die door de beperkingen van de apps heen komt. De nieuwsuitzending 404 Media op vrijdag berichtte over een stortvloed aan door Sora gemaakte video’s van vrouwen die werden gewurgd.
OpenAI introduceerde ruim een maand geleden zijn nieuwe Sora-app op iPhones. Het werd vorige week gelanceerd op Android-telefoons in de VS, Canada en verschillende Aziatische landen, waaronder Japan en Zuid-Korea.
Een groot deel van de sterkste tegenreactie is afkomstig van Hollywood en andere entertainmentbelangen, waaronder de Japanse manga-industrie. OpenAI kondigde zijn eerste grote veranderingen slechts enkele dagen na de release aan en zei dat “overmatig moderatie super frustrerend is” voor gebruikers, maar dat het belangrijk is om conservatief te zijn “terwijl de wereld zich nog aan het aanpassen is aan deze nieuwe technologie.”
Dat werd gevolgd door publiekelijk aangekondigde overeenkomsten met de familie van Martin Luther King Jr. op 16 oktober, waardoor ‘oneerbiedige afbeeldingen’ van de burgerrechtenleider werden voorkomen terwijl het bedrijf aan betere waarborgen werkte, en nog een op 20 oktober met ‘Breaking Bad’-acteur Bryan Cranston, de vakbond SAG-AFTRA en talentenbureaus.
‘Dat is allemaal leuk en aardig als je beroemd bent,’ zei Branch. “Het is een soort patroon dat OpenAI heeft, waarbij ze bereid zijn te reageren op de verontwaardiging van een heel kleine populatie. Ze zijn bereid iets vrij te geven en zich daarna te verontschuldigen. Maar veel van deze problemen zijn ontwerpkeuzes die ze kunnen maken voordat ze worden uitgebracht.”
OpenAI heeft soortgelijke klachten gekregen over zijn vlaggenschipproduct, ChatGPT. Zeven nieuwe rechtszaken ingediend Vorige week claimden rechtbanken in Californië de chatbot dreef mensen tot zelfmoord en schadelijke wanen, zelfs als ze geen eerdere geestelijke gezondheidsproblemen hadden. De rechtszaken, ingediend namens zes volwassenen en één tiener door het Social Media Victims Law Center en het Tech Justice Law Project, beweren dat OpenAI vorig jaar willens en wetens GPT-4o voortijdig heeft uitgebracht, ondanks interne waarschuwingen dat het gevaarlijk sycofantisch en psychologisch manipulatief was. Vier van de slachtoffers stierven door zelfmoord.
Public Citizen was niet betrokken bij de rechtszaken, maar Branch zei dat hij parallellen ziet in de overhaaste vrijlating van Sora.
Hij zei dat ze “het pedaal op de grond trappen zonder rekening te houden met eventuele schade. Veel hiervan lijkt voorspelbaar. Maar ze brengen liever een product op de markt, zorgen ervoor dat mensen het downloaden, krijgen mensen die eraan verslaafd zijn, in plaats van het goede te doen en deze dingen vooraf aan een stresstest te onderwerpen en zich zorgen te maken over het lot van gewone gebruikers.”
OpenAI heeft de afgelopen week gereageerd op klachten van een Japanse handelsvereniging die beroemde animators zoals Studio Ghibli van Hayao Miyazaki en videogamemakers zoals Bandai Namco en Square Enix. OpenAI zei dat veel anime-fans willen communiceren met hun favoriete personages, maar het bedrijf heeft ook vangrails geplaatst om te voorkomen dat bekende personages worden gegenereerd zonder de toestemming van de mensen die de auteursrechten bezitten.
“We communiceren rechtstreeks met studio’s en rechthebbenden, luisteren naar feedback en leren van hoe mensen Sora 2 gebruiken, ook in Japan, waar de culturele en creatieve industrie zeer gewaardeerd wordt”, zei OpenAI vorige week in een verklaring over de brief van de handelsgroep.
—Barbara Ortutay en Matt O’Brien, AP-technologieschrijvers
