Britse consumenten en het financiële systeem worden blootgesteld aan “ernstige schade” als gevolg van het falen van de overheid Bank van Engeland om de risico’s van kunstmatige intelligentie onder controle te houden, waarschuwde een invloedrijke parlementaire commissie.
In een nieuw rapport bekritiseren parlementsleden van de commissie van Financiën de ministers en toezichthouders van de stad, waaronder de Autoriteit voor financieel gedrag (FCA), voor het hanteren van een afwachtende houding ten aanzien van het gebruik van AI in de financiële sector.
Dit ondanks dreigende zorgen over de manier waarop de ontluikende technologie de toch al kwetsbare consumenten zou kunnen benadelen zelfs een financiële crisis veroorzakenals AI-gedreven bedrijven uiteindelijk soortgelijke financiële beslissingen zullen nemen als reactie op economische schokken.
Meer dan 75% van de stadsbedrijven maakt nu gebruik van AIwaarbij verzekeraars en internationale banken tot de grootste gebruikers behoren. Het wordt gebruikt om administratieve taken te automatiseren of zelfs kernactiviteiten te vergemakkelijken, waaronder het verwerken van verzekeringsclaims en het beoordelen van de kredietwaardigheid van klanten.
Maar Groot-Brittannië is er niet in geslaagd specifieke wet- en regelgeving te ontwikkelen om het gebruik van AI te regelen, waarbij de FCA en de Bank of England beweren dat algemene regels voldoende zijn om positieve resultaten voor consumenten te garanderen. Dit betekent dat bedrijven moeten bepalen hoe ze de bestaande richtlijnen op kunstmatige intelligentie moeten toepassen, waardoor wetgevers zich zorgen maken dat dit de consumenten en de financiële stabiliteit in gevaar zou kunnen brengen.
“Het is de verantwoordelijkheid van de Bank of England, de FCA en de regering om ervoor te zorgen dat de veiligheidsmechanismen binnen het systeem gelijke tred houden”, zegt Meg Hillier, voorzitter van de commissie van Financiën. “Op basis van het bewijsmateriaal dat ik heb gezien, weet ik niet zeker of ons financiële systeem voorbereid is op het geval van een groot AI-gerelateerd incident, en dat is zorgwekkend.”
Het rapport signaleerde een gebrek aan transparantie over de manier waarop AI financiële beslissingen zou kunnen beïnvloeden, wat mogelijk de toegang van kwetsbare consumenten tot leningen of verzekeringen zou kunnen aantasten. Het is ook onduidelijk of dataproviders, technologieontwikkelaars of financiële bedrijven aansprakelijk zouden worden gesteld als er iets mis zou gaan.
Kamerleden zeiden dat AI ook de kans op fraude en de verspreiding van dergelijke informatie vergroot ongereguleerd en misleidend financieel advies.
In termen van financiële stabiliteit constateerden wetgevers dat het toenemende gebruik van kunstmatige intelligentie de cyberveiligheidsrisico’s van bedrijven vergroot, waardoor ze voor essentiële diensten te afhankelijk worden van een klein aantal Amerikaanse technologiebedrijven, zoals Google. De adoptie ervan zou ook het ‘kuddegedrag’ kunnen versterken, waarbij bedrijven tijdens economische schokken soortgelijke financiële beslissingen nemen en ‘een financiële crisis riskeren’.
De commissie van het ministerie van Financiën dringt er nu bij de toezichthouders op aan actie te ondernemen, waaronder het lanceren van nieuwe stresstests die de paraatheid van de stad voor door AI aangestuurde marktschokken moeten beoordelen. Kamerleden willen ook dat de FCA tegen het einde van het jaar ‘praktische richtlijnen’ publiceert, waarin wordt verduidelijkt hoe de regels voor consumentenbescherming van toepassing zijn op het gebruik van kunstmatige intelligentie en wie aansprakelijk wordt gehouden als consumenten schade lijden.
“Door een afwachtende houding aan te nemen ten aanzien van AI in de financiële dienstverlening stellen de drie autoriteiten consumenten en het financiële systeem bloot aan potentieel ernstige schade”, aldus het rapport.
De FCA zei dat het al “uitgebreid werk heeft verricht om ervoor te zorgen dat bedrijven kunstmatige intelligentie veilig en verantwoord kunnen gebruiken”, maar dat het de bevindingen van het rapport “zorgvuldig” zou beoordelen.
Een woordvoerder van het ministerie van Financiën zei: “Het is ons duidelijk geworden dat we de juiste balans zullen vinden tussen het beheersen van de risico’s van kunstmatige intelligentie en het ontsluiten van het enorme potentieel ervan.”
Ze voegden eraan toe dat dit inhoudt dat we moeten samenwerken met toezichthouders om “onze aanpak te versterken naarmate de technologie evolueert” en dat we nieuwe “AI-kampioenen” moeten benoemen op het gebied van financiële diensten “om ervoor te zorgen dat we de kansen die dit biedt veilig en verantwoord benutten”.
Een woordvoerder van de Bank of England zei dat zij “al actieve stappen heeft ondernomen om AI-gerelateerde risico’s te beoordelen en de veerkracht van het financiële systeem te versterken, inclusief het publiceren van een gedetailleerde risicobeoordeling en het benadrukken van de mogelijke implicaties van een scherpe daling van de prijzen van door AI getroffen activa. We zullen de aanbevelingen van de commissie zorgvuldig overwegen en te zijner tijd volledig reageren.”
