Recente ontwikkelingen op het gebied van AI zouden kunnen betekenen dat door de mens veroorzaakte pandemieën vijf keer zo waarschijnlijk zijn als een jaar geleden, aldus een onderzoek. studie van de voorspellingen van topexperts die exclusief met TIME zijn gedeeld.
De gegevens weerspiegelen de zorgen die de AI-bedrijven OpenAI en Anthropic de afgelopen maanden hebben geuit, die beide hebben gewaarschuwd dat de huidige AI-tools het vermogen bereiken om op zinvolle wijze slechte actoren te helpen die proberen biowapens te maken.
Lees meer: Exclusief: Nieuw Claude-model activeert bio-risicowaarborgen bij Anthropic
(time-brightcove not-tgx=”true”)
Het is voor biologen al lang mogelijk om virussen te modificeren met behulp van laboratoriumtechnologie. De nieuwe ontwikkeling is de mogelijkheid voor chatbots – zoals ChatGPT of Claude – om accuraat advies te geven over het oplossen van problemen aan amateurbiologen die proberen een dodelijk biowapen in een laboratorium te creëren. Veiligheidsexperts beschouwen de moeilijkheid van dit probleemoplossingsproces al lang als een belangrijk knelpunt voor het vermogen van terroristische groeperingen om een biowapen te maken, zegt Seth Donoughe, co-auteur van het onderzoek. Nu zegt hij dat dankzij AI de expertise die nodig is om opzettelijk een nieuwe pandemie te veroorzaken “voor heel veel meer mensen toegankelijk zou kunnen worden.”
Tussen december 2024 en februari 2025 vroeg het Forecasting Research Institute 46 bioveiligheidsexperts en 22 ‘superforecasters’ (individuen met een hoog succespercentage bij het voorspellen van toekomstige gebeurtenissen) om het risico van een door de mens veroorzaakte pandemie in te schatten. De gemiddelde enquêterespondent voorspelde dat het risico dat dit in een bepaald jaar zou gebeuren 0,3% bedroeg.
Cruciaal was dat de landmeters vervolgens nog een vraag stelden: hoeveel zou dat risico toenemen als AI-tools de prestaties van een team van experts zouden kunnen evenaren bij een moeilijke test voor het oplossen van virologische problemen? Als AI dat zou kunnen doen, zei de gemiddelde expert, zou het jaarlijkse risico stijgen naar 1,5% – een vervijfvoudiging.
Wat de voorspellers niet wisten, was dat Donoughe, een onderzoekswetenschapper bij de non-profitorganisatie SecureBio voor de preventie van pandemieën, AI-systemen op dat vermogen aan het testen was. In april onthulde het team van Donoughe de resultaten van die tests: de beste AI-systemen van dit moment kan beter presteren dan virologen op PhD-niveau bij een moeilijke probleemoplossingstest.
Met andere woorden: AI kan nu precies datgene doen waarvoor voorspellers waarschuwden dat het risico op een door de mens veroorzaakte pandemie zou vervijfvoudigen. (Het Forecasting Research Institute is van plan dezelfde experts in de toekomst opnieuw te ondervragen om na te gaan of hun kijk op de risico’s is toegenomen zoals zij hadden verwacht, maar zei dat dit onderzoek maanden zou duren.)
De eerlijkheid gebiedt te zeggen dat er een aantal redenen zijn om sceptisch te zijn over de resultaten. Voorspellen is een onnauwkeurige wetenschap, en het is vooral moeilijk om de waarschijnlijkheid van zeer zeldzame gebeurtenissen nauwkeurig te voorspellen. Voorspellers in het onderzoek brachten ook een gebrek aan inzicht aan het tempo van de AI-vooruitgang aan het licht. (Desgevraagd zeiden de meesten bijvoorbeeld dat ze pas na 2030 verwachtten dat AI de menselijke prestaties bij de virologietest zou overtreffen, terwijl uit de test van Donoughe bleek dat aan de lat al was voldaan.) Maar zelfs als de cijfers zelf met een korreltje zout worden genomen, zo betogen de auteurs van het artikel, wijzen de resultaten als geheel nog steeds in een onheilspellende richting. “Het lijkt erop dat AI-mogelijkheden op de korte termijn het risico op een door de mens veroorzaakte epidemie aanzienlijk kunnen vergroten”, zegt Josh Rosenberg, CEO van het Forecasting Research Institute.
De studie identificeerde ook manieren om de risico’s voor biowapens van AI te verminderen. Deze maatregelen vielen grofweg in twee categorieën uiteen.
De eerste categorie betreft waarborgen op modelniveau. In interviews verwelkomden onderzoekers de inspanningen van bedrijven als OpenAI en Anthropic om te voorkomen dat hun AI’s reageren op aanwijzingen gericht op het bouwen van een biowapen. Het artikel identificeert ook het beperken van de proliferatie van “open gewichten‘-modellen, en het toevoegen van bescherming tegen het bestaan van modellen gejailbreaktomdat dit waarschijnlijk het risico zal verkleinen dat AI wordt gebruikt om een pandemie te veroorzaken.
De tweede categorie waarborgen betreft het opleggen van beperkingen aan bedrijven die nucleïnezuren synthetiseren. Momenteel is het mogelijk om een genetische code naar een van deze bedrijven te sturen en biologisch materiaal te ontvangen dat met die code correspondeert. Tegenwoordig zijn deze bedrijven bij wet niet verplicht om de genetische codes die ze ontvangen te screenen voordat ze deze synthetiseren. Dat is potentieel gevaarlijk omdat deze gesynthetiseerde genetische materialen kunnen worden gebruikt om postorderpathogenen te creëren. De auteurs van het artikel bevelen laboratoria aan om hun genetische sequenties te screenen om ze te controleren op schadelijkheid, en dat laboratoria ‘ken uw klant’-procedures implementeren.
Alles bij elkaar genomen zouden al deze waarborgen – indien geïmplementeerd – het risico van een door AI mogelijk gemaakte pandemie terug kunnen brengen tot 0,4%, aldus de gemiddelde voorspeller. (Slechts iets hoger dan de basislijn van 0,3% van waar zij dachten dat de wereld was voordat ze wisten dat de huidige AI zou kunnen helpen een biowapen te creëren.)
“Over het algemeen lijkt het erop dat dit een nieuw risicogebied is dat de moeite waard is om aandacht aan te besteden”, zegt Rosenberg. “Maar er zijn goede beleidsreacties op.”
