Wat gebeurt er als de software die iedereen haastig adopteert, voor niemand te riskant wordt om te verzekeren? Seconde berichtgeving door de Financial Timeswe staan op het punt erachter te komen.
Grote verzekeraars, waaronder AIG, Great American en WR Berkley, vragen de Amerikaanse toezichthouders om toestemming om AI-gerelateerde verplichtingen uit te sluiten van het bedrijfsbeleid. Eén abonnee omschrijft de resultaten van de AI-modellen aan de FT als “een te grote black box”.
De industrie heeft goede redenen om bang te zijn, zo herinnert de geschiedenis ons. Het AI-overzicht van Google beschuldigde een zonne-energiebedrijf valselijk van juridische problemen, wat leidde tot een $ 110 miljoen want al in maart. Vorig jaar bleef Air Canada vasthouden aan het honoreren van een korting de chatbot uitgevonden. En vorig jaar gebruikten oplichters een digitaal gekloonde versie van een leidinggevende om te stelen $ 25 miljoen van het Londense ingenieurs- en ontwerpbureau Arup tijdens een videogesprek dat volkomen echt aanvoelde.
Wat verzekeraars echt angst aanjaagt, is niet een enorme uitbetaling; het is het systeemrisico van duizenden gelijktijdige claims wanneer een veelgebruikt kunstmatige-intelligentiemodel ingrijpt. Zoals een topman van Aon zei: verzekeraars kunnen een verlies van $400 miljoen voor een bedrijf verwerken. Wat ze niet aankunnen, is een AI-crash van een agent die in één keer 10.000 verliezen veroorzaakt.
