In de race om AI naar de onderneming te brengen, doet een kleine maar goed gefinancierde startup een gewaagde uitspraak: het probleem dat de adoptie van AI in complexe industrieën tegenhoudt, zijn nooit de modellen zelf geweest.
Contextuele AIeen bedrijf dat twee en een half jaar geleden werd opgericht, ondersteund door onder meer investeerders Bezos-expedities EN Bain Capital Venturesmaandag gepresenteerd Componist-agenteen platform dat is ontworpen om ingenieurs in de lucht- en ruimtevaart, de productie van halfgeleiders en andere technisch veeleisende industrieën te helpen AI-agenten te creëren die het soort kennisintensieve werk kunnen automatiseren dat zich lange tijd tegen automatisering heeft verzet.
De aankondiging komt op een cruciaal moment voor zakelijke AI. Vier jaar nadat ChatGPT een golf aan AI-initiatieven van bedrijven teweegbracht, blijven veel organisaties vastzitten in pilotprogramma’s en hebben ze moeite om experimentele projecten om te zetten in volledige productie. CFO’s en leiders van bedrijfsonderdelen worden steeds ongeduldiger met interne inspanningen die miljoenen dollars hebben gekost maar een beperkt rendement hebben opgeleverd.
Beste KeelaCEO van Contextual AI is van mening dat de industrie zich op het verkeerde knelpunt heeft gericht. “Het model is op dit moment bijna gecommoditiseerd”, zei Kiela in een interview met VentureBeat. “Het knelpunt is de context: kan AI daadwerkelijk toegang krijgen tot uw documenten, specificaties en bedrijfseigen institutionele kennis? Dat is het probleem dat we oplossen.”
Waarom zakelijke AI blijft falen en wat verbeterde herstelgeneratie zou moeten oplossen
Om te begrijpen wat Contextuele AI probeert, helpt het een concept te begrijpen dat centraal is geworden in de moderne ontwikkeling van kunstmatige intelligentie: augmentedgeneration met herstel, of VOD.
Wanneer grote taalmodellen zoals die van OpenAI, GooglenOF Antropisch reacties genereren, gebruik maken van de kennis die tijdens de training is belichaamd. Maar die kennis heeft een tijdslimiet en kan niet de bedrijfseigen documenten, technische specificaties en institutionele kennis omvatten die de levensader van de meeste bedrijven vormen.
RAG-systemen proberen dit probleem op te lossen door relevante documenten uit bedrijfsdatabases op te halen en deze samen met de vraag van de gebruiker in het model in te voegen. Het model kan zijn reactie dan baseren op echte bedrijfsgegevens in plaats van uitsluitend op zijn training te vertrouwen.
Kiela hielp bij het pionieren van deze aanpak tijdens haar tijd als onderzoeker bij Facebook AI-onderzoek en later als hoofd onderzoek bij Knuffelend gezichthet invloedrijke open source kunstmatige intelligentiebedrijf. Hij heeft een Ph.D. uit Cambridge en werkt als adjunct-professor in symbolische systemen aan Stanford University.
Maar vroege RAG-systemen, zo erkent Kiela, waren primitief.
“De eerste RAG’s waren behoorlijk grof: neem een standaard retriever, sluit hem aan op een generator en hoop er het beste van”, zei hij. “Er ontstonden steeds meer fouten in de pijpleiding. Hallucinaties kwamen vaak voor omdat de generator niet was getraind om op de grond te blijven.”
Toen Kiela werd opgericht Contextuele AI in juni 2023 besloten deze problemen systematisch op te lossen. Het bedrijf heeft een zogenaamde ‘unified context layer’ ontwikkeld, een set tools die zich tussen de gegevens van een bedrijf en zijn AI-modellen bevinden en ervoor zorgen dat de juiste informatie het model in het juiste formaat op het juiste moment bereikt.
De aanpak heeft erkenning gekregen. Volgens een casestudy van Google Cloud heeft contextuele AI dit doel bereikt hogere prestaties in de FACTS-benchmark van Google voor geaarde en hallucinatiebestendige resultaten. Het bedrijf heeft de open source Llama-modellen van Meta afgestemd op het Vertex AI-platform van Google Cloud, waarbij de nadruk specifiek ligt op het verminderen van de neiging van AI-systemen om informatie te fabriceren.
Inside Agent Composer, het platform dat belooft complexe technische workflows in enkele minuten werk te transformeren
Componist-agent breidt het bestaande contextuele AI-platform uit met orkestratiemogelijkheden: de mogelijkheid om meerdere AI-tools in meerdere stappen te coördineren om complexe workflows te voltooien.
Het platform biedt drie manieren om AI-agenten te creëren. Gebruikers kunnen aan de slag met kant-en-klare agents die zijn ontworpen voor algemene technische workflows, zoals analyse van de hoofdoorzaak of controle op naleving. Ze kunnen een workflow in natuurlijke taal beschrijven en het systeem automatisch een werkende agentarchitectuur laten genereren. Of ze kunnen helemaal opnieuw creëren met behulp van een visuele interface met slepen en neerzetten, waarvoor geen codering nodig is.
Wat Agent Composer onderscheidt van concurrerende benaderingen, zegt het bedrijf, is de hybride architectuur. Teams kunnen strenge, deterministische regels voor stappen met een hoog risico (compliancecontroles, gegevensvalidatie, goedkeuringspoorten) combineren met dynamisch redeneren voor verkennende analyses.
“Voor zeer kritische workflows kunnen gebruikers volledig deterministische stappen kiezen om het gedrag van agenten te controleren en onzekerheden te voorkomen”, aldus Kiela.
Het platform bevat ook wat het bedrijf noemt “Agentoptimalisatie met één klik”, dat gebruikersfeedback verzamelt en automatisch de prestaties van de agent aanpast. Elke stap van het redeneringsproces van een agent kan worden gevolgd en de reacties komen binnen met citaten op zinsniveau die precies laten zien waar de informatie in de brondocumenten vandaan komt.
Van acht uur tot twintig minuten: wat vroege klanten zeggen over de prestaties van het platform in de echte wereld
Contextuele AI zegt dat vroege klanten aanzienlijke efficiëntieverbeteringen hebben gemeld, hoewel het bedrijf erkent dat deze cijfers afkomstig zijn van zelfrapportages van klanten en niet van onafhankelijke verificatie.
“Deze komen rechtstreeks voort uit klantbeoordelingen, die een benadering zijn van workflows in de echte wereld”, zegt Kiela. “De cijfers worden door onze klanten gerapporteerd terwijl ze het scenario beschrijven voor en na de adoptie van contextuele AI.”
De bekendgemaakte resultaten zijn niettemin verrassend. Een geavanceerde fabrikant heeft de analysetijd van de hoofdoorzaak teruggebracht van acht uur naar twintig minuten door de analyse van sensorgegevens en logcorrelatie te automatiseren. Een speciaal chemisch bedrijf bracht productonderzoek terug van uren naar minuten door gebruik te maken van patentzoekers en regelgevende databases. Een fabrikant van testapparatuur genereert nu testcode in minuten in plaats van dagen.
Keith Schaub, vice-president technologie en strategie bij Avvantesteen bedrijf voor testapparatuur voor halfgeleiders bood zijn steun aan. “Contextuele AI is een belangrijk onderdeel geweest van onze inspanningen op het gebied van AI-transformatie”, aldus Schaub. “De technologie is uitgerold over meerdere Advantest-teams en geselecteerde eindklanten, waardoor aanzienlijke tijdbesparingen mogelijk zijn bij taken variërend van het genereren van testcodes tot de engineeringworkflows van klanten.”
Andere klanten van het bedrijf zijn onder meer Qualcommde halfgeleidergigant; SchipBobeen op technologie gebaseerde logistieke dienstverlener die beweert een 60x snellere probleemoplossing te hebben bereikt; EN Nvidiade chipmaker wiens grafische processors de meeste kunstmatige-intelligentiesystemen aandrijven.
Het eeuwige zakelijke dilemma: moeten bedrijven hun eigen AI-systemen bouwen of kant-en-klare systemen kopen?
Misschien wel de grootste uitdaging Contextuele AI gezichten zijn geen concurrerende producten, maar het instinct van technische organisaties om hun eigen oplossingen te bouwen.
‘Het grootste bezwaar is: ‘we gaan het zelf bouwen”, erkende Kiela. “Sommige teams proberen het. Het klinkt spannend om te doen, maar het is uitzonderlijk moeilijk om het op grote schaal goed te doen. Veel van onze klanten zijn begonnen met doe-het-zelf en merkten dat ze twaalf tot achttien maanden later nog steeds bezig waren met het debuggen van herstelpijplijnen in plaats van dat ze echte problemen oplosten.”
Het alternatief – kant-en-klare oplossingen – brengt zijn eigen problemen met zich mee, zegt het bedrijf. Dergelijke tools worden snel ingezet, maar zijn vaak inflexibel en moeilijk aan te passen aan specifieke gebruikssituaties.
Componist-agent probeert een middenweg in te nemen door een platformbenadering aan te bieden die kant-en-klare componenten combineert met uitgebreide aanpassingsmogelijkheden. Het systeem ondersteunt modellen van OpenAI, Anthropic en Google, evenals het Grounded Language Model van Contextual AI, dat speciaal is getraind om trouw te blijven aan de opgehaalde inhoud.
Prijzen beginnen bij $ 50 per maand voor selfservicegebruik, met aangepaste ondernemingsprijzen voor grotere implementaties.
“De rechtvaardiging voor CFO’s is eigenlijk om de productiviteit te verhogen en hen sneller aan de slag te krijgen met hun AI-initiatieven”, aldus Kiela. “Elk technisch team heeft moeite met het aannemen van technisch toptalent, dus het productiever maken van bestaande teams is een grote prioriteit in deze sectoren.”
De weg vooruit: coördinatie van meerdere agenten, schrijf-en-run-acties om samengestelde AI-systemen te bouwen
Vooruitkijkend schetste Kiela drie prioriteiten voor het komende jaar: workflowautomatisering met daadwerkelijke schrijfacties op bedrijfssystemen in plaats van alleen maar lezen en analyseren; betere coördinatie tussen meerdere gespecialiseerde agenten die samenwerken; en snellere specialisatie door machinaal leren van productiefeedback.
“Het samengestelde effect is hier belangrijk”, zei hij. “Elk document dat je erin stopt, elke feedbacklus die je sluit, deze verbeteringen stapelen zich op. Bedrijven die deze infrastructuur nu bouwen, zullen moeilijk te vangen zijn.”
De zakelijke AI-markt blijft hevig concurrerend, met aanbiedingen van grote cloudproviders, gevestigde softwareleveranciers en tientallen startups die allemaal op dezelfde klanten jagen. Of de inzet van contextuele AI op context in plaats van op modellen loont, zal afhangen van de vraag of bedrijven Kiela’s mening gaan delen dat basismodeloorlogen er minder toe doen dan de infrastructuur eromheen.
Maar er schuilt een zekere ironie in de positionering van het bedrijf. Jarenlang heeft de AI-industrie zich gefocust op het bouwen van steeds grotere en krachtigere modellen, waarbij miljarden zijn geïnvesteerd in de race om kunstmatige algemene intelligentie. Contextuele AI voert een rustiger argument aan: voor het meeste werk in de echte wereld zit de magie niet in het model. Het is weten waar je moet kijken.
