Onderzoekers in de frontlinie kunstmatige intelligentie (AI) en leiders van veel grote platforms: van Geoffrey Hinton NAAR Joshua BengioDemis Hassabis, Sam Altman, Dario AmodeiEN Elon Musk– uitte zijn bezorgdheid dat kunstmatige intelligentie zou kunnen leiden tot de vernietiging van de mensheid zelf.
Zelfs de door sommige van deze AI-experts genoemde kansen, met een eindscenario van 25%, zijn nog steeds ‘buitengewoon optimistisch’, aldus Nate Soares, president van het Machine Intelligence Research Institute (MIRI) en co-auteur van het recente best verkochte boek. Als iemand het bouwt, sterft iedereen.
Dit komt omdat, zoals hij in het boek betoogt, het pad dat we volgen met kunstmatige intelligentie gedoemd is tot een ramp, tenzij er iets radicaal verandert. Het boek, geschreven in samenwerking met onderzoeker Eliezer Yudkowsky, onderzoekt de potentiële bedreigingen die uitgaan van “superintelligentie“, of theoretische kunstmatige intelligentiesystemen die intelligenter zijn dan mensen.
“We zijn deze AI’s aan het ontwikkelen die handelen op manieren waar niemand om heeft gevraagd, die opkomende drijfveren en gedragingen hebben die niemand bedoelde”, zei Soares vorige maand op de conferentie. Top van ideeën die de wereld veranderenmede georganiseerd door Snel bedrijf en de Johns Hopkins Universiteit in Washington, DC
“Als we bovenmenselijke, intelligente AI’s krijgen die doeleinden nastreven die niemand wilde, denk ik dat de standaarduitkomst zal zijn dat letterlijk iedereen op aarde zal sterven”, voegde hij eraan toe.
Een confrontatie voor de wereld
Soares vergelijkt het werk van sommige AI-leiders met het bouwen van een vliegtuig terwijl het zonder landingsgestel vliegt en zegt dat er niet genoeg aandacht wordt besteed aan de potentieel negatieve gevolgen van de technologie.
Het bedrag aan mondiale investeringen dat in AI wordt gestoken, laat zien dat mensen erop gokken dat het geen ‘totale ramp’ zal worden, zei hij, maar er zijn nog twee andere ‘gekke’ opties: AI automatiseert radicaal al het menselijke werk, zodat de economie in handen komt van een heel kleine groep, of het wordt superslim en doodt iedereen.
“De wereld heeft nog steeds niet door hoe gek dit AI-gedoe is,” zei Soares.
Maar er is enige reden voor optimisme, zei Soares, omdat veel mensen zich zorgen maken over de toekomst van kunstmatige intelligentie, wat de situatie ‘fragiel’ zou maken als meer mensen – inclusief wij allemaal – hun zorgen zouden uiten.
“Misschien als genoeg mensen zouden zeggen: ‘Wacht, wat moeten we nu doen? Wat in vredesnaam?'” zei Soares. “Misschien zal dit de hele wereld doen zeggen: ‘Holy shit, laten we van koers veranderen.'”
