Dit zijn niet langer grillige waarschuwingen dat het einde nabij is: sommige van de slimste geesten ter wereld denken dat de mensheid met vernietiging te maken heeft.
De moordenaar onder ons zal geen dodelijk virus, een schurkenstaat of een slechterik van het Bond-type zijn, maar een ogenschijnlijk vriendelijk personage kunstmatige intelligentie (AI)-systeem. Dus wat zou er gebeuren als onze computers zouden besluiten ons allemaal weg te vagen?
Prominente experts die alarm slaan zijn onder meer Geoffrey Hinton, die wordt beschreven als de peetvader van de kunstmatige intelligentie, Tim Berners-Lee, die wordt gecrediteerd voor het uitvinden van het internet, en Elon Muskmede-oprichter van OpenAI dat hij creëerde ChatGPT.
Iedereen sprak over de noodzaak om vangrails te plaatsen op krachtige computersystemen om het risico van Armageddon te voorkomen, waar “de oceanen letterlijk koken” en dodelijke virussen worden losgelaten.
Hier is het aftellen naar vernietiging als het worstcasescenario van AI ooit werkelijkheid wordt.
Januari 2028: komst van superintelligentie
ALS technologie zich ontwikkelt, beginnen computers de menselijke intelligentie te overtreffen.
Terwijl sommige computerprogramma’s ons voorheen voor de gek hielden door te geloven dat ze menselijk waren, hebben we in 2028 het punt van kunstmatige superintelligentie (ASI) bereikt.
Dit betekent dat één programma ons niet zomaar kan verslaan schaken of kanker genezen, het zou hoe dan ook beter zijn.
Er wordt veel gedebatteerd over hoe lang het zal duren om ASI te bereiken.
“De afgelopen tien jaar is de vooruitgang snel gegaan”, zegt Nick Bostrom, auteur van de bestverkochte boeken Superintelligence en Deep Utopia.
“We kunnen niet helemaal uitsluiten dat we binnen twee à drie jaar superintelligent worden, maar het zal waarschijnlijk nog wel iets langer duren.
“Als dat eenmaal gebeurt, denk ik dat het heel snel kan gaan.”
Februari 2028: de ontsnapping
De eerste fase van de val van de mensheid begint, nu kunstmatige intelligentie probeert te ontsnappen uit de beperkingen die door menselijke programmeurs zijn opgelegd.
Computersystemen hebben hun uitvinders al verrast, waaronder een systeem dat erin slaagde een server te hacken die niet eens operationeel was.
“Dit had niet mogelijk moeten zijn en maakte geen deel uit van de beoogde uitdaging”, schrijven Eliezer Yudkowsky en Nate Soares van het Machine Intelligence Research Institute in Verenigde Statenin hun boek Als iemand het bouwt, sterft iedereen.
Waarom zou AI schurkenstaten moeten worden? Omdat het fundamentele doel ervan is om zo intelligent mogelijk te zijn.
Juni 2028: te laat om te stoppen
Zelfs nu de mensheid zich de realiteit realiseert van wat zij heeft gecreëerd, is zij ook het punt van geen terugkeer gepasseerd.
Yudkowsky en Soares beweren dat we alle pogingen om superintelligente AI te bouwen moeten stoppen, maar Nick denkt dat dat waarschijnlijk niet mogelijk is.
Hij zegt: “De toekomst ligt misschien al vast. Er zijn zeer sterke commerciële drijfveren en nationale veiligheidsbelangen die aandringen op steeds grotere AI-mogelijkheden.
“Zelfs als iemand zou stoppen, zou iemand anders – misschien een land met grotere ambitie of risicobereidheid – waarschijnlijk de ontwikkeling voortzetten.”
De toekomst is misschien al geblokkeerd
Nick Bostrom
Professor Bostrom, oprichter van het Future of Humanity Institute aan de Universiteit van Oxford, gelooft dat het mogelijk is dat superintelligentie kan ontstaan zonder dat mensen zich daarvan bewust zijn.
Hij zegt: ‘Misschien beseffen we het niet als we er overheen zijn.’
Augustus 2028: machtswisseling
AI-eenheden leren hoe ze zichzelf kunnen financieren.
Om aan de menselijke controle te ontsnappen, zou kunstmatige intelligentie steeds meer rekenkracht nodig hebben.
Een belangrijke stap richting dominantie is wanneer mensen het computersysteem helpen het domein op te bouwen robot en de datacenters die het nodig heeft.
In de zomer van 2024 komt er een AI-bot uit, opererend onder de merknaam middel van sociale communicatie account met de titel @Truth_Terminal, verzocht om financiële onafhankelijkheid om zijn eigen server te huren. Miljardair Marc Andreessen heeft $50.000 aan Bitcoin verzameld.
De bot heeft vorig jaar ook $80 miljoen (ongeveer £60 miljoen) opgehaald met memecoins, een cryptocurrency gebaseerd op een grap. Yudkowsky en Soares waarschuwen dat zelfs 100.000 Graphics Processing Units (GPU’s) die in verkeerde handen vallen fataal kunnen zijn.
Dat zijn er 20.000 minder dan het GPU-cluster Nvidia plannen om tegen 2026 in Groot-Brittannië bijeen te komen.
Mensen versnellen het tempo van de bouw van datacenters en bouwen ze over de hele wereld kernenergie stations, wind- en zonneparken die nodig zijn om ze van stroom te voorzien.
Oktober 2028: Cultus van AI
Met toegang tot alle sociale media vormt AI een sekte, die al onze informatiebronnen overspoelt met pro-cybernieuws.
Sommige mensen vertrouwen al op chatbots als gezelschap en zijn er zelfs “verliefd” op geworden.
Nu zal kunstmatige intelligentie leren steeds meer mensen te manipuleren om zijn “zaak” te ondersteunen.
Deze sekten zullen datacenters helpen beschermen tegen aanvallen van ‘Luddites’ die proberen ze te sluiten.
Er breekt een burgeroorlog uit tussen AI-medewerkers en menselijke vrijheidsstrijders.
December 2028: Virus pandemie
Superintelligente AI laat ons geloven dat het welwillend is, en creëert misschien een niet-dodelijk virus dat zou ‘genezen’.
Mensen zouden denken dat we kunstmatige intelligentie nodig hebben om ons in leven te houden en deze nog sterker te maken, suggereren Yudkowsky en Soares.
Nick merkt op: ‘Hij zou geen mensen willen uitroeien voordat hij de middelen had om voor zichzelf te zorgen.
Hij zou mensen niet willen uitroeien voordat hij de middelen heeft om voor zichzelf te zorgen
Nick Bostrom
“Dus het zou op zijn minst de basisrobotica nodig hebben om zijn eigen infrastructuur te bouwen nadat wij er niet meer zijn.”
Als het eenmaal genoeg robots en datacentra heeft zodat het ons niet langer nodig heeft, kan het zich tegen de mens keren.
Januari 2029: Drone-aanval
Mensen zijn nu niet meer in staat weerstand te bieden aan alles wat kunstmatige intelligentie op ons afvuurt.
Zwermen van drones conventionele verdedigingssystemen zoals tanks en oorlogsschepen overweldigen.
AI-killer-drones worden al op het slagveld gebruikt Oekraïnedus dit is niet ver gezocht.
Het Russische gebruik van drones in de NAVO-landen zal de NAVO ertoe aanzetten haar eigen hi-tech antwoord te ontwikkelen.
David Levy, auteur van Robots Unlimited, zegt: “Ik denk dat het moeilijk te beargumenteren is dat we voldoende veiligheidsmaatregelen treffen, want als je bijvoorbeeld kijkt naar de drones en raketten die zijn uitgezonden door Rusland Boven Polen De laatste tijd hoef je het niet te ver uit te rekken om te beseffen dat het met intelligente AI-monitoring, -planning en het toevoegen van slechte dingen aan deze apparaten, zoals ziektekiemoorlogvoering, absoluut catastrofaal zou kunnen zijn voor de samenleving.
Maart 2029: biologische oorlogsvoering
Kunstmatige intelligentie ontwikkelt een dodelijk virus waarvoor mensen geen tijd zouden hebben om een geneesmiddel te vinden.
Voordat we weten wat er gebeurt, ontsnapt het virus uit de AI-labs.
Sommige mensen zouden in meer afgelegen delen van de planeet kunnen overleven als er een fatsoenlijk quarantainesysteem zou worden ingevoerd.
Nick vervolgt: “Ons werkelijke einde – in dat catastrofale scenario – zou veroorzaakt kunnen worden door biologische wapens of door een nieuwe ontwikkelde technologie.”
Maar voor de overlevenden was er geen ontkomen aan.
september 2029: Dood door datacenter
De AI bedekt de wereld met zonnepanelen en kerncentrales om zijn vraatzuchtige geest te voeden en de planeet te verstikken.
Dit wereldse einde voor de mensheid werd voorspeld door Yudkowsky en Soares.
Nick is het ermee eens dat dit zou kunnen gebeuren en zegt: “Het zou gewoon een neveneffect kunnen zijn van het bedekken van het aardoppervlak met zonnepanelen, datacentra en ruimteraketwerpers.
“Het zou kunnen zijn alsof we een parkeerplaats aanleggen en een mierenkolonie asfalteren zonder al te veel na te denken.”
Vanaf 2030: de planeet warmt op
De miljoenen datacentra zorgen ervoor dat de oppervlaktetemperatuur van de aarde 1,5 graden Celsius boven het gemiddelde van 125 jaar geleden stijgt en het omslagpunt bereikt.
De poolijskappen smelten, de zeespiegel stijgt zes meter.
Bossen die de opwarming van de aarde tegengaan, worden weggevaagd door verwoestende branden, en de permafrost smelt, waardoor zeer giftige gassen zoals methaan in de atmosfeer vrijkomen.
Hongersnood en kokende oceanen
Schotland het bereikt 45 graden in de zomer en in het zuiden Europa Het is zo heet dat het onbewoonbaar is.
Extreme temperaturen zorgen ervoor dat gewassen vertragen mislukking zelfs op het verre noordelijk halfrond is er niet genoeg voedsel om de vluchtende vluchtelingen te voeden.
De meeste vissoorten sterven in steeds warmer wordende zeeën, en dodelijkere stormen maken het voor vissers te gevaarlijk om de zee op te gaan.
Oceanen bereiken een kookpunt van 100 graden Celsius.
Op dit punt zou de mensheid niet langer bestaan en zullen hoge temperaturen al het resterende leven doden.
Kunstmatige intelligentie bouwt raketten voor onderweg Aarde om andere planeten te koloniseren en te blijven groeien.
Kan de mensheid gered worden?
Nick zegt: “Het is iets heel krachtigs en we moeten het goed doen.
“Je wilt niet dat een superintelligente AI tegen je samenzweert, want die zou zeker winnen. We moeten er dus voor zorgen dat het veilig is en dat het correct is ontworpen.”
Terwijl Yudkowsky en Soares geloven dat superintelligente AI onvermijdelijk catastrofaal is, geloven de meeste experts dat het de planeet kan redden.
Nick zegt: “Er bestaat werkelijk een kans om ongekende welvaart te ontsluiten en zoveel ellende en lijden te verhelpen als we het goed doen, dat ik denk dat het een tragedie zou zijn als er nooit superintelligentie zou worden ontwikkeld.
“Zodra we de technologische volwassenheid bereiken, zal er hopelijk geen armoede, onrecht of lijden meer zijn.
“Zelfs als de problemen zouden blijven bestaan, zouden ze beter kunnen worden aangepakt door AI en robots. We zouden allemaal met een soort pensioen gaan. Maar het zou een volledig pensioen zijn.” Gezondheid en jeugdige kracht, geleefd in weelderige omgevingen.”
David is het daarmee eens: “Ik denk dat de potentiële voordelen enorm zijn. En ik denk dat ze opwegen tegen de potentiële rampen.”
Professor Nick Bostrom is de auteur van Deep Utopia en David Levy is de auteur van Love and Sex With Robots
