Fintech Brex gokt erop dat de toekomst van zakelijke AI niet een betere orkestratie is, maar juist minder.
Terwijl generatieve AI-agenten overstappen van co-piloten naar autonome systemen, zegt Brex CTO James Reggio dat traditionele agent-orkestratiesystemen eerder een beperking dan een enabler worden. In plaats van te vertrouwen op een centrale coördinator of rigide workflows, heeft Brex wat zij de ‘Agent Mesh’ noemt gebouwd: een netwerk van smalle, rolspecifieke agenten die in duidelijke taal communiceren en onafhankelijk opereren, maar met volledige zichtbaarheid.
“Ons doel is om AI te gebruiken om Brex daadwerkelijk te laten verdwijnen”, vertelde Reggio aan VentureBeat. “Wij streven naar totale automatisering.”
Brex heeft geleerd dat agenten voor haar doeleinden in beperkte, specifieke rollen moeten werken om modulair, flexibeler en controleerbaarder te zijn.
Volgens Reggio is het architectonische doel om elke manager van een onderneming “één enkel aanspreekpunt binnen Brex te laten hebben dat al hun verantwoordelijkheden beheert, of het nu gaat om het beheren van uitgaven, het aanvragen van reizen of het goedkeuren van aanvragen voor bestedingslimieten.”
De reis van de Brex-assistent
De financiële dienstverleningssector heeft kunstmatige intelligentie en machinaal leren al lang omarmd om de enorme hoeveelheden gegevens die zij verwerkt te beheren. Maar als het gaat om het introduceren van AI-modellen en agenten, is de de sector heeft een voorzichtiger pad gekozen aan het begin. Nu hebben meer financiële dienstverleners dat ook gedaan, waaronder de Brex gelanceerde op AI gebaseerde platforms EN verschillende agentworkflows.
Brex’s eerste uitstapje naar generatieve AI kwam met de Brex Assistant, uitgebracht in 2023, die klanten hielp bepaalde financiële en uitgaventaken te automatiseren. Biedt suggesties voor het invullen van uitgaven, vult automatisch informatie in en volgt uitgaven op die in strijd zijn met het beleid.
Reggio erkent dat de Brex-assistent werkt, maar dat is niet genoeg. “Ik denk dat het tot op zekere hoogte een technologie blijft waarvan we de grenzen niet volledig kennen”, zei hij. “Er moet een groot aantal modellen omheen bestaan, die door de industrie worden ontwikkeld naarmate de technologie volwassener wordt en steeds meer bedrijven ermee bouwen.”
Brex Assistant gebruikt meerdere sjablonen, waaronder Claude van Antropisch en aangepaste Brex-modellen, evenals de OpenAI API. De assistent automatiseert sommige taken, maar is nog steeds beperkt in hoe laag deze kan zijn.
Reggio zei dat Brex Assistant nog steeds een belangrijke rol speelt in de autonomie van het bedrijf, vooral omdat het Agent Mesh-product in de applicatie stroomt.
Agent Mesh om orkestratie te vervangen
De consensus in de sector is dat ecosystemen met meerdere agenten, waar agenten communiceren om taken uit te voeren, een orkestratieraamwerk nodig hebben om hen te begeleiden.
Reggio heeft echter een andere visie. “De deterministische orkestratie-infrastructuur… was een oplossing voor de problemen die we twee jaar geleden hadden, namelijk dat agenten, net als modellen, veel hallucineren,” zei Reggio. “Ze zijn niet erg goed met meerdere tools, dus je moet ze deze vrijheidsgraden geven, maar dan in een meer gestructureerd en rigide systeem. Maar naarmate de modellen beter worden, denk ik dat het de reeks mogelijkheden die zich uitbreidt, begint te beperken.”
Meer traditionele agent-orkestratie-architecturen richten zich op één enkele agent die alles doet, of, vaker, op een coördinator/orkestrator plus tool-agents die expliciet workflows definiëren. Volgens Reggio zijn beide raamwerken te rigide en lossen ze problemen op die vaker voorkomen in traditionele software dan in kunstmatige intelligentie.
Het verschil, zo betoogt Reggio, is structureel:
-
Traditionele orkestratie: vooraf gedefinieerde workflows, centrale coördinator, deterministische routes
-
Agenten overhemd: gebeurtenisgestuurde, rolgespecialiseerde agenten, op berichten gebaseerde coördinatie
Agent Mesh is gebaseerd op het samenvoegen van netwerken van vele kleine agenten, die elk gespecialiseerd zijn in één enkele taak. Agenten communiceren, wederom met behulp van de hybride mix van modellen zoals bij de Brex Assistant, ‘in gewone taal’ via een gedeelde berichtenstroom met andere agenten. Een routeringsmodel bepaalt snel welke tools moeten worden aangeroepen, zei hij.
Eén enkel terugbetalingsverzoek activeert verschillende activiteiten: een nalevingscontrole om af te stemmen op het uitgavenbeleid, budgetvalidatie, het matchen van ontvangsten en vervolgens het initiëren van de betaling. Hoewel een agent zeker kan worden gecodeerd om dit allemaal te doen, is deze methode “fragiel en foutgevoelig” en reageert nog steeds op nieuwe informatie die via een berichtenstroom wordt gedeeld.
Reggio zei dat het de bedoeling is om al deze afzonderlijke taken te verduidelijken en ze in plaats daarvan aan kleinere agenten toe te wijzen. Hij vergeleek de architectuur met een Wi-Fi-netwerk, waarbij geen enkel knooppunt het systeem bestuurt: de betrouwbaarheid komt voort uit vele kleine, overlappende bijdragers.
“We hebben feitelijk een geweldige oplossing gevonden met het idee om specifieke rollen als agenten op het beste platform te belichamen om specifieke verantwoordelijkheden af te handelen, net zoals je crediteuren aan het ene team zou kunnen delegeren versus het onkostenbeheer aan een ander team”, aldus Reggio.
Brex definieert drie kernideeën in de Agent Mesh-architectuur:
-
Config, waar de agent-, sjabloon-, tools- en abonnementsdefinities zich bevinden
-
MessageStream, een logboek van elk bericht, elke tooloproep en elke statusovergang
-
Klok, die deterministische ordening garandeert
Brex heeft ook beoordelingen in het systeem geïntegreerd, waarbij de LLM als rechter optreedt en een auditagent de beslissingen van elke agent beoordeelt om ervoor te zorgen dat deze voldoen aan het nauwkeurigheids- en gedragsbeleid.
Succes tot nu toe
Brex zegt dat het substantiële efficiëntieverbeteringen heeft gezien bij zijn klanten in zijn AI-ecosysteem. Brex heeft geen benchmarks van derden of klantspecifieke gegevens verstrekt om deze winsten te valideren.
Maar Reggio zei dat zakelijke klanten die Brex Assistant en de machine learning-systemen van het bedrijf gebruiken “in staat zijn om 99% automatisering te bereiken, vooral voor klanten die echt op AI leunen.”
Dit is een duidelijke verbetering ten opzichte van de 60 tot 70 procent van de Brex-klanten die vóór de lancering van Brex Assistant hun bestedingsprocessen konden automatiseren.
Het bedrijf staat nog steeds aan het begin van zijn onafhankelijkheidsreis, zei Reggio. Maar als de Agent Mesh-aanpak werkt, kan het meest succesvolle resultaat onzichtbaar zijn: werknemers zullen niet langer aan de uitgaven denken.
