Orchestral vervangt de complexiteit van LangChain door reproduceerbare, leveranciersneutrale LLM-orkestratie

Een nieuw raamwerk van onderzoekers Alexander en Jacob Roman verwerpt de complexiteit van de huidige AI-tools en biedt een synchroon, typeveilig alternatief dat is ontworpen voor reproduceerbaarheid en kostenbewuste wetenschap.

In de haast om autonome AI-agents te bouwen, zijn ontwikkelaars grotendeels tot een binaire keuze gedwongen: de controle afstaan ​​aan enorme, complexe ecosystemen zoals LangChain, of zichzelf opsluiten in SDK’s van één leverancier van leveranciers als Anthropic of OpenAI. Voor software-ingenieurs is dit vervelend. Voor wetenschappers die AI proberen te gebruiken voor reproduceerbaar onderzoek is dit een mislukking.

Binnenkomen Orkestrale AIeen nieuw Python-framework uitgebracht Github deze week een poging om een ​​derde pad in kaart te brengen.

Ontwikkeld door theoretisch natuurkundige Alexander Roman en computeringenieur Jacob RomanOrchestral positioneert zichzelf als het “wetenschappelijke computer”-antwoord op agent-orkestratie, waarbij prioriteit wordt gegeven aan deterministische uitvoering en duidelijkheid over debuggen boven de “magie” van zeer asynchrone alternatieven.

De ‘anti-framework’-architectuur

De filosofie achter Orchestral is een opzettelijke afwijzing van de complexiteit die de huidige markt teistert. Terwijl raamwerken als AutoGPT en LangChain sterk afhankelijk zijn van asynchrone gebeurtenislussen, waardoor het opsporen van fouten een nachtmerrie kan worden, gebruikt Orchestral een strikt synchroon uitvoeringsmodel.

“Reproduceerbaarheid vereist dat je precies begrijpt welke code wordt uitgevoerd en wanneer”, stellen de oprichters in hun technische paper. Door operaties te dwingen zich in een lineaire, voorspelbare volgorde te ontvouwen, zorgt het raamwerk ervoor dat het gedrag van een agent deterministisch is, een sleutelvereiste voor wetenschappelijke experimenten waarbij een ‘mooie’ variabele of rasconditie een onderzoek ongeldig zou kunnen maken.

Ondanks deze focus op eenvoud is het raamwerk leveranciersonafhankelijk. Het wordt geleverd met een uniforme interface die werkt op OpenAI, Anthropic, Google Gemini, Mistral en lokale modellen via Ollama. Hierdoor kunnen onderzoekers één keer een agent schrijven en het onderliggende ‘brein’ ruilen voor een enkele regel code, wat van cruciaal belang is voor het vergelijken van modelprestaties of het beheren van subsidiefondsen door over te schakelen naar goedkopere modellen voor concepten.

LLM-UX: Ontwerp voor het model, niet voor de eindgebruiker

Orchestral introduceert een concept dat de oprichters ‘LLM-UX’ noemen: gebruikerservaring ontworpen vanuit het perspectief van het model zelf.

Het raamwerk vereenvoudigt het maken van tools door automatisch JSON-schema’s te genereren op basis van standaard Python-type suggesties. In plaats van gedetailleerde beschrijvingen in een apart formaat te schrijven, kunnen ontwikkelaars eenvoudigweg hun Python-functies annoteren. Orchestral zorgt voor de vertaling en zorgt ervoor dat de gegevenstypen die worden doorgegeven tussen LLM en uw code veilig en consistent blijven.

Deze filosofie strekt zich uit tot geïntegreerde tools. Het raamwerk omvat een persistente terminaltool die de status ervan (zoals werkmappen en omgevingsvariabelen) tussen oproepen door behoudt. Dit bootst de manier na waarop menselijke zoekers omgaan met opdrachtregels, waardoor de cognitieve belasting van het model wordt verminderd en de algemene foutmodus wordt voorkomen waarin een agent “vergeet” dat hij drie stappen geleden van map is veranderd.

Gebouwd voor het laboratorium (en het budget)

De oorsprong van Orchestral in de hoge-energiefysica en het onderzoek naar exoplaneten is duidelijk zichtbaar in de functies. Het raamwerk omvat native ondersteuning voor LaTeX-export, waardoor onderzoekers geformatteerde logboeken van de redenering van agenten rechtstreeks in academische documenten kunnen invoegen.

Het gaat ook in op de praktische realiteit van het beheer van LLM’s: de kosten. Het raamwerk omvat een geautomatiseerde module voor kostenbewaking die het tokengebruik van verschillende providers samenvoegt, waardoor laboratoria de verbruikscijfers in realtime kunnen volgen.

Misschien wel het allerbelangrijkste voor veiligheidsbewuste industrieën is dat Orchestral vangrails implementeert die ‘lezen voordat u verandert’. Als een agent probeert een bestand te overschrijven dat hij tijdens de huidige sessie niet heeft gelezen, blokkeert het systeem de actie en vereist het dat het model het bestand eerst leest. Dit voorkomt de “blinde overschrijf”-fouten waar iedereen die zelfstandige codeermiddelen gebruikt bang voor is.

Het licentiebericht

Hoewel Orchestral eenvoudig te installeren is via pip install Orchestral-ai, moeten potentiële gebruikers de licentie zorgvuldig onderzoeken. In tegenstelling tot de MIT- of Apache-licenties die gebruikelijk zijn in het Python-ecosysteem, wordt Orchestral vrijgegeven onder een eigen licentie.

In de documentatie wordt expliciet vermeld dat “ongeoorloofd kopiëren, verspreiden, wijzigen of gebruiken… ten strengste verboden is zonder voorafgaande schriftelijke toestemming.” Dit ‘beschikbaar bij de bron’-model stelt onderzoekers in staat de code te bekijken en te gebruiken, maar voorkomt dat ze deze zonder overeenkomst vervalsen of commerciële concurrenten creëren. Dit duidt op een bedrijfsmodel dat zich in de toekomst richt op bedrijfslicenties of dubbele licentiestrategieën.

Bovendien zullen early adopters op de hoogte moeten zijn van Python-omgevingen: het raamwerk vereist Python 3.13 of hoger, waardoor de ondersteuning voor het veelgebruikte Python 3.12 expliciet wordt geëlimineerd vanwege compatibiliteitsproblemen.

Waarom het ertoe doet

‘De beschaving gaat vooruit door het aantal belangrijke operaties uit te breiden dat we kunnen uitvoeren zonder na te denken’, schrijven de stichters, waarbij ze de wiskundige Alfred North Whitehead citeren.

Orkestrale pogingen om het te operationaliseren voor het tijdperk van kunstmatige intelligentie. Door het ‘loodgieterswerk’ van API-verbindingen en schemavalidatie te abstraheren, wil het wetenschappers in staat stellen zich te concentreren op de logica van hun agenten in plaats van op de eigenaardigheden van de infrastructuur. Het valt nog te bezien of de academische en ontwikkelaarsgemeenschappen een gepatenteerde tool zullen omarmen in een ecosysteem dat wordt gedomineerd door open source, maar voor degenen die verdrinken in asynchrone tracebacks en kapotte tooloproepen, biedt Orchestral een prikkelende belofte van gezond verstand.