De wereld heeft ‘misschien geen tijd’ om zich op voor te bereiden veiligheidsrisico’s veroorzaakt door geavanceerde kunstmatige intelligentiesystemen, volgens een senior figuur bij het wetenschappelijk onderzoeksbureau van de Britse regering.
David Dalrymple, programmadirecteur en AI-veiligheidsexpert bij het Aria-bureau, vertelde de Guardian dat mensen zich zorgen moeten maken over de groeiende mogelijkheden van de technologie.
“Ik denk dat we ons moeten bekommeren om systemen die alle functies kunnen vervullen die mensen doen om dingen gedaan te krijgen in de wereld, maar dan beter”, zei hij. “We zullen verslagen worden op alle gebieden waar we dominant moeten zijn, om de controle over onze beschaving, samenleving en planeet te behouden.”
Dalrymple zei dat er een kloof bestaat in het begrip tussen de publieke sector en AI-bedrijven over de kracht van aanstaande technologische doorbraken.
“Ik wil waarschuwen dat de zaken heel snel gaan en dat we misschien geen tijd hebben om hierop te anticiperen vanuit een veiligheidsperspectief”, zei hij. “En het is geen sciencefiction om te voorspellen dat binnen vijf jaar de economisch meest waardevolle taken zullen worden uitgevoerd door machines met een hoger kwaliteitsniveau en tegen lagere kosten dan mensen.”
Dalrymple zei dat regeringen er niet van mogen uitgaan dat geavanceerde systemen betrouwbaar zijn. Aria wordt door de overheid gefinancierd, maar is onafhankelijk van de overheid en geeft leiding aan de onderzoeksfinanciering. Dalrymple ontwikkelt systemen om het gebruik van kunstmatige intelligentie in kritieke infrastructuur zoals energienetwerken te waarborgen.
“We kunnen er niet als vanzelfsprekend van uitgaan dat deze systemen betrouwbaar zijn. Het is onwaarschijnlijk dat de wetenschap om dit op tijd te doen werkelijkheid zal worden, gezien de economische druk. Het beste wat we dus kunnen doen, en misschien op tijd kunnen doen, is het beheersen en verzachten van de negatieve gevolgen”, zei hij.
Dalrymple beschrijft de gevolgen van de technologische vooruitgang die de veiligheid overtreft als een ‘destabilisatie van de veiligheid en de economie’ en zei dat er meer technisch werk nodig is om het gedrag van geavanceerde AI-systemen te begrijpen en te controleren.
“Vooruitgang kan worden gezien als destabiliserend, en in werkelijkheid zou het goed kunnen zijn, en dat is waar veel mensen aan de grens op hopen. Ik probeer dingen beter te maken, maar het risico is zeer groot, en de menselijke beschaving als geheel slaapwandelt door deze transitie.”
Het AI Security Institute (AISI) van de Britse overheid zei deze maand dat de mogelijkheden van geavanceerde kunstmatige-intelligentiemodellen in alle sectoren “snel verbeteren” en dat de prestaties op sommige gebieden elke acht maanden verdubbelen.
Volgens het instituut kunnen topmodellen nu gemiddeld 50% van de tijd taken op leerlingniveau uitvoeren, vergeleken met ongeveer 10% van de tijd vorig jaar. AISI ontdekte ook dat geavanceerdere systemen autonoom taken kunnen uitvoeren die een menselijke expert meer dan een uur zouden kosten.
Het instituut testte ook geavanceerde modellen van zelfreplicatie, een belangrijk beveiligingsprobleem omdat het gaat om een systeem dat kopieën van zichzelf naar andere apparaten verspreidt en daardoor moeilijker te controleren wordt. Uit tests bleek dat twee geavanceerde modellen een succespercentage van meer dan 60% behaalden.
De AISI benadrukte echter dat een worstcasescenario in de dagelijkse omgeving onwaarschijnlijk is, en zei dat elke poging tot zelfreplicatie “onwaarschijnlijk zal zijn in reële omstandigheden.”
Dalrymple gelooft dat AI-systemen tegen eind 2026 het equivalent van een volledige dag onderzoeks- en ontwikkelingswerk zullen kunnen automatiseren, wat “zal resulteren in een verdere versnelling van de mogelijkheden”, omdat de technologie zichzelf zal kunnen verbeteren op het gebied van de wiskundige en computerelementen van de AI-ontwikkeling.
