Bedrijven gaan snel over tot adoptie Agentische AI—kunstmatige intelligentie systemen die functioneren zonder menselijke begeleiding, maar veel langzamer zijn geweest in het opzetten van een bestuur om daar toezicht op te houden, a toont een nieuwe peiling. Deze discrepantie is een grote bron van risico bij de adoptie van AI. Naar mijn mening is het ook een zakelijke kans.
Ik ben een hoogleraar managementinformatiesystemen aan de Drexel Universiteit LeBow College of Businessdie onlangs via haar onderzoek meer dan 500 dataprofessionals heeft ondervraagd Centrum voor Toegepaste Kunstmatige Intelligentie en Business Analytics. Wij hebben het gevonden 41% van de organisaties gebruikt AI via agenten in hun dagelijkse werkzaamheden. Het gaat niet alleen om proefprojecten of eenmalige tests. Ze maken deel uit van reguliere workflows.
Tegelijkertijd blijft het bestuur achter. Slechts 27% van de organisaties zegt dat hun governanceframeworks volwassen genoeg zijn om deze systemen effectief te monitoren en te beheren.
In deze context gaat governance niet over regulering of onnodige regels. Het betekent dat er beleid en praktijken moeten zijn die mensen in staat stellen de werking van autonome systemen duidelijk te beïnvloeden, inclusief wie verantwoordelijk is voor beslissingen, hoe gedrag wordt gecontroleerd en wanneer mensen erbij betrokken moeten worden.
Deze discrepantie kan een probleem worden wanneer autonome systemen in reële situaties optreden voordat iemand kan ingrijpen.
Bijvoorbeeld, tijdens een recente stroomstoring in San Franciscoautonome robotaxis kwam vast te zitten op kruispunten, waardoor hulpvoertuigen werden geblokkeerd en andere bestuurders in verwarring raakten. De situatie toonde aan dat zelfs wanneer autonome systemen zich ‘zoals verwacht’ gedragen, onverwachte omstandigheden tot ongewenste uitkomsten kunnen leiden.
Dit roept een grote vraag op: als er iets misgaat met AI, wie is dan verantwoordelijk en wie kan ingrijpen?
Waarom bestuur ertoe doet
Wanneer AI-systemen op zichzelf handelen, ligt de verantwoordelijkheid niet langer daar waar organisaties dat verwachten. Er worden nog steeds beslissingen genomen, maar het eigendom is moeilijker te volgen. In de financiële dienstverlening bijvoorbeeld systemen voor fraudedetectie handelen steeds vaker in realtime om verdachte activiteiten te blokkeren voordat een mens de zaak onderzoekt. Vaak komen klanten daar pas achter als hun kaart wordt geweigerd.
Wat gebeurt er als uw kaart per ongeluk wordt afgewezen door een AI-systeem? In die situatie ligt het probleem niet bij de technologie zelf – die werkt zoals deze is ontworpen – maar bij de verantwoordelijkheid. Uit onderzoek naar menselijk AI-beheer blijkt dat er problemen optreden wanneer organisaties niet duidelijk definiëren hoe mensen en autonome systemen werken ze zouden moeten samenwerken. Dit gebrek aan duidelijkheid maakt het moeilijk om te weten wie verantwoordelijk is en wanneer zij moeten ingrijpen.
Zonder bestuur dat op autonomie is gericht, kunnen kleine problemen gemakkelijk een sneeuwbaleffect krijgen. Het toezicht wordt sporadisch en het vertrouwen verzwakt, niet omdat systemen volledig falen, maar omdat mensen moeite hebben uit te leggen of te ondersteunen wat systemen doen.
Wanneer mensen te laat in de kring komen
In veel organisaties zijn mensen technisch gezien ‘op de hoogte’, maar pas nadat autonome systemen al actie hebben ondernomen. Mensen raken vaak betrokken wanneer een probleem duidelijk wordt, wanneer een prijs verkeerd lijkt, een transactie wordt gemarkeerd of een klant klaagt. Op dat moment is er al besloten over het systeem en wordt de menselijke beoordeling eerder corrigerend dan toezichthoudend.
Laattijdig ingrijpen kan de gevolgen van individuele beslissingen beperken, maar maakt zelden duidelijk wie verantwoordelijk is. De resultaten kunnen correct zijn, maar de verantwoordelijkheid blijft onduidelijk.
Recente oriëntatie laat zien dat wanneer autoriteit onduidelijk is, de menselijke controle informeel en inconsistent wordt. Het probleem is niet de menselijke betrokkenheid, maar de timing. Zonder vooraf ontworpen bestuur fungeren mensen als een veiligheidsklep in plaats van als verantwoordelijke besluitvormers.
Hoe governance bepaalt wie voorop komt
Agentic AI levert vaak snelle en vroege resultaten op, vooral wanneer taken voor de eerste keer worden geautomatiseerd. Uit ons onderzoek blijkt dat veel bedrijven deze vroege voordelen al zien. Maar naarmate autonome systemen groeien, voegen organisaties vaak handmatige controles en goedkeuringsstappen toe om risico’s te beheersen.
Naarmate de tijd verstrijkt, wordt wat ooit eenvoudig was, langzaam ingewikkelder. De besluitvorming vertraagt, de oplossingen nemen toe en de voordelen van automatisering verdwijnen. Dit gebeurt niet omdat de technologie niet meer werkt, maar omdat mensen vertrouwen autonome systemen nooit volledig.
Deze vertraging mag niet optreden. Ons onderzoek laat een duidelijk verschil zien: veel organisaties zien al vroeg voordelen van autonome AI, maar organisaties met een sterker bestuur zullen deze voordelen veel eerder omzetten in langetermijnresultaten, zoals grotere efficiëntie en omzetgroei. Het belangrijkste verschil is niet ambitie of technische vaardigheden, maar voorbereiding.
Goed bestuur beperkt de autonomie niet. Het maakt dit werkbaar door duidelijk te maken wie de beslissingen neemt, hoe het functioneren van systemen wordt gemonitord en wanneer mensen moeten ingrijpen. Internationale gids van de OESO– de Organisatie voor Economische Samenwerking en Ontwikkeling – benadrukt dit punt: menselijke verantwoordelijkheid en controle moeten vanaf het begin in AI-systemen worden geïntegreerd, en niet later worden toegevoegd.
In plaats van innovatie te vertragen, schept governance het vertrouwen dat organisaties nodig hebben om hun autonomie uit te breiden, in plaats van deze stilletjes in te trekken.
Het volgende voordeel is slimmer bestuur
Het volgende concurrentievoordeel op het gebied van AI zal niet voortkomen uit een snellere adoptie, maar uit een slimmer bestuur. Naarmate autonome systemen meer verantwoordelijkheid op zich nemen, zal het succes toebehoren aan organisaties die vanaf het begin duidelijk eigenaarschap, toezicht en interventie definiëren.
In het tijdperk van AI zal het vertrouwen uitgaan naar de organisaties die het beste regeren, en niet alleen naar de organisaties die het eerst adopteren.
Murugan Anandarajan is hoogleraar beslissingswetenschappen en managementinformatiesystemen bij Drexel Universiteit.
Dit artikel is opnieuw gepubliceerd van Het gesprek onder een Creative Commons-licentie. Lees de origineel artikel.
