Meer dan 100 Britse parlementsleden roepen de regering op om bindende regels in te voeren voor krachtigere kunstmatige-intelligentiesystemen, nu de bezorgdheid groeit dat ministers te langzaam handelen in het creëren van waarborgen onder druk van de technologiesector.
Een voormalige AI-minister en minister van Defensie behoren tot een partijoverschrijdende groep parlementsleden uit Westminster, collega’s en gekozen leden van de Schotse, Welshe en Noord-Ierse wetgevers die oproepen tot strengere controles op grenssystemen, daarbij verwijzend naar de vrees dat superintelligente AI “de nationale en mondiale veiligheid in gevaar zou brengen”.
Het streven naar strengere regelgeving wordt gecoördineerd door een non-profitorganisatie genaamd Control AI, die onder meer Skype-medeoprichter Jaan Tallinn ondersteunt. Hij roept Keir Starmer op om blijk te geven van onafhankelijkheid van het Witte Huis van Donald Trump, dat zich verzet tegen de regulering van kunstmatige intelligentie. Een van de ‘peetvaders’ van de technologie, Yoshua Bengio, zei onlangs dat het minder gereguleerd was dan een broodje.
Tot de campagnevoerders behoren Labour-collega en voormalig minister van Defensie Des Browne, die zei dat superintelligente kunstmatige intelligentie “de gevaarlijkste technologische ontwikkeling zou zijn sinds we de mogelijkheid hebben gekregen om een nucleaire oorlog te voeren”. Volgens hem kan alleen internationale samenwerking “een roekeloze jacht op voordeel voorkomen dat ons allemaal in gevaar zou kunnen brengen.”
Conservatieve collega en voormalig minister van Milieu Zac Goldsmith zei dat “hoewel zeer belangrijke en vooraanstaande figuren op het gebied van AI zich uitspreken, overheden ver achterlopen op AI-bedrijven en hen de ontwikkeling ervan vrijwel zonder regulering laten nastreven.”
Groot-Brittannië organiseerde in 2023 een AI-veiligheidstop in Bletchley Park, waar werd geconcludeerd dat er “het potentieel bestaat voor ernstige, zelfs catastrofale, opzettelijke of onopzettelijke schade” door de meest geavanceerde AI-systemen. Hij richtte het AI Safety Institute op, nu het AI Security Institute genoemd, dat een internationaal gerespecteerd orgaan is geworden. Er werd echter minder nadruk gelegd op de oproep van de top om risico’s aan te pakken door middel van internationale samenwerking.
Goldsmith zei dat Groot-Brittannië “zijn mondiale leiderschap op het gebied van AI-veiligheid moet hervatten door een internationale overeenkomst te steunen om de ontwikkeling van superintelligentie te verbieden totdat we weten waar we mee te maken hebben en hoe we deze in bedwang kunnen houden”.
De roep om staatsinterventie in de AI-race komt nadat een van de leidende AI-wetenschappers van Silicon Valley tegen de Guardian zei dat de mensheid tegen 2030 zal moeten beslissen of ze het ‘laatste risico’ wil nemen om AI-systemen te laten trainen om krachtiger te worden. Jared Kaplan, mede-oprichter en hoofdwetenschapper bij grensbedrijf Anthropic, zei: “We willen echt niet dat het een Spoetnik-achtige situatie wordt waarin de regering plotseling wakker wordt en zegt: Oh, wauw, AI is een groot probleem.”
Het programma van Labour, dat in juli 2024 werd opgesteld, was bedoeld om wetgeving uit te vaardigen “om eisen op te leggen aan degenen die werken aan de ontwikkeling van de krachtigste AI-modellen”. Maar er is nog geen wetsvoorstel gepubliceerd en de regering heeft te maken gehad met druk van het Witte Huis om de commerciële ontwikkeling van kunstmatige intelligentie, waarvan het merendeel een pionier is van Amerikaanse bedrijven, niet te belemmeren.
Een woordvoerder van het ministerie van Wetenschap, Innovatie en Technologie zei: “AI is al gereguleerd in Groot-Brittannië, met een aantal regels die al van kracht zijn. We zijn duidelijk geweest over de noodzaak om ervoor te zorgen dat het Verenigd Koninkrijk en zijn wetten klaar zijn voor de uitdagingen en kansen die AI met zich meebrengt, en deze positie is niet veranderd.”
De bisschop van Oxford, Steven Croft, die de Control AI-campagne steunt, heeft opgeroepen tot een onafhankelijke AI-waakhond om het gebruik in de publieke sector te monitoren en om van AI-bedrijven te eisen dat ze aan minimale testnormen voldoen voordat ze nieuwe modellen uitbrengen.
“Er zijn allerlei soorten risico’s en de regering lijkt geen voorzorgsprincipe te hebben aangenomen,” zei hij. “Er zijn momenteel aanzienlijke risico’s: de geestelijke gezondheid van kinderen en volwassenen, de milieukosten en andere grote risico’s in termen van de afstemming van gegeneraliseerde AI en (de vraag van) wat goed is voor de mensheid. De overheid lijkt af te stappen van regulering.”
na de promotie van de nieuwsbrief
De eerste AI-minister van Groot-Brittannië onder Rishi Sunak, Jonathan Berry, zei dat de tijd eraan komt dat bindende regels moeten worden toegepast op modellen die existentiële risico’s met zich meebrengen. Hij zei dat de regels mondiaal zouden moeten zijn en valstrikken zouden creëren, dus als AI-modellen een bepaalde kracht bereikten, zouden hun makers moeten bewijzen dat ze waren getest, ontworpen met uitgeschakelde schakelaars en in staat waren om te worden omgeschoold.
“AI-beveiliging aan de internationale grenzen heeft niet zoveel vooruitgang geboekt als we hadden gehoopt”, zei hij. Hij haalde recente gevallen aan van chatbots die betrokken waren bij het aanmoedigen van zelfmoord, waarbij mensen ze als therapeuten gebruikten en geloofden dat ze goden waren. “De risico’s zijn nu zeer ernstig en we moeten voortdurend op onze hoede zijn”, zei hij.
Control AI-topman Andrea Miotti bekritiseerde de huidige ‘timide aanpak’ en zei: ‘Er is veel druk uitgeoefend vanuit Groot-Brittannië en de VS. AI-bedrijven lobbyen bij de Britse en Amerikaanse regeringen om regelgeving te blokkeren, met het argument dat dit voorbarig is en innovatie zou vernietigen. Sommige van deze bedrijven zijn dezelfde bedrijven die zeggen dat AI de mensheid zou kunnen vernietigen.’
Hij zei dat de snelheid waarmee de kunstmatige-intelligentietechnologie zich ontwikkelt, betekent dat er binnen een jaar of twee verplichte standaarden nodig kunnen zijn.
“Het is behoorlijk dringend”, zei hij.
