De huidige AI-uitdaging omvat de coördinatie, context en samenwerking van agenten. Hoe zorgen we ervoor dat ze echt samen kunnen denken, met al het contextuele begrip, de onderhandeling en het gedeelde doel dat dit met zich meebrengt? Het is een cruciale stap in de richting van een nieuw soort gedistribueerde intelligentie die mensen betrokken houdt.
In de laatste stop in de AI Impact-serie van VentureBeat gingen Vijoy Pandey, SVP en GM van Outshift bij Cisco, en Noah Goodman, Stanford-professor en mede-oprichter van Humans&, praten over hoe we verder kunnen gaan dan agenten die eenvoudigweg verbinding maken met agenten die zijn ondergedompeld in collectieve intelligentie.
De behoefte aan collectieve intelligentie, niet aan gecoördineerde acties
De grootste uitdaging, zei Pandey, is dat “agenten tegenwoordig met elkaar in contact kunnen komen, maar niet echt samen kunnen denken.”
Hoewel protocollen als MCP en A2A de basisconnectiviteit hebben opgelost, en AGNTCY de problemen van ontdekking, identiteitsbeheer, communicatie tussen agenten en waarneembaarheid aanpakt, hebben ze alleen het equivalent aangepakt van het voeren van een telefoongesprek tussen twee mensen die niet dezelfde taal spreken. Maar het team van Pandey identificeerde iets diepers dan een eenvoudig technisch probleem: de noodzaak voor agenten om collectieve intelligentie te verkrijgen, en niet alleen gecoördineerde acties.
Hoe gedeelde intentie en gedeelde kennis collectieve innovatie mogelijk maken
Om te begrijpen waar multi-agent AI heen moet, verwezen beide sprekers naar de geschiedenis van menselijke intelligentie. Terwijl mensen ongeveer 300.000 jaar geleden individueel intelligent werden, ontstond echte collectieve intelligentie pas ongeveer 70.000 jaar geleden met de komst van geavanceerde taal.
Deze doorbraak maakte drie belangrijke mogelijkheden mogelijk: gedeelde intentie, gedeelde kennis en collectieve innovatie.
“Als je eenmaal een gedeelde intentie hebt, een gedeeld doel, heb je een hoeveelheid kennis die je kunt aanpassen, evolueren en ontwikkelen, en vervolgens richting collectieve innovatie kunt gaan”, aldus Pandey.
Goodman, wiens werk computerwetenschappen en psychologie combineert, legde uit dat taal veel meer is dan alleen het coderen en decoderen van informatie.
“Taal is dit soort coderen dat vereist dat je de context begrijpt, de intenties van de spreker, de wereld, en hoe dat van invloed is op wat mensen zullen zeggen, om te begrijpen wat ze bedoelen,” zei hij.
Dit verfijnde begrip is wat menselijke samenwerking en cumulatieve culturele evolutie ondersteunt, en is wat momenteel ontbreekt in de interactie tussen agenten.
Het aanpakken van de hiaten in het internet van cognitie
“We moeten de menselijke evolutie nabootsen,” legde Pandey uit. “Naast dat agenten steeds intelligenter worden, net als individuele mensen, moeten we een infrastructuur bouwen die collectieve innovatie mogelijk maakt, wat inhoudt het delen van intenties, het coördineren en vervolgens delen van kennis of context en het ontwikkelen van die context.”
Pandey noemt het het Internet of Cognition: een drielaagse architectuur ontworpen om collectief denken tussen heterogene agenten mogelijk te maken:
Protocolniveau: Naast de basisconnectiviteit maken deze protocollen begrip, het delen van intenties, coördinatie, onderhandeling en ontdekking tussen agenten van verschillende leveranciers en organisaties mogelijk.
Stoflaag: Een gedeeld geheugensysteem waarmee agenten een collectieve context kunnen opbouwen en ontwikkelen, met opkomende eigenschappen die voortvloeien uit hun interacties.
Cognitief motorisch niveau: Accelerators en vangrails die agenten helpen sneller te denken terwijl ze binnen de noodzakelijke compliance-, beveiligings- en kostenbeperkingen opereren.
De moeilijkheid is dat organisaties collectieve intelligentie moeten opbouwen over de grenzen van de organisatie heen.
“Denk heterogeen aan gedeelde herinneringen”, zei Pandey. “We hebben agenten uit verschillende delen die samenkomen. Dus hoe zorg je ervoor dat dat geheugen evolueert en opkomende eigenschappen krijgt?”
Nieuwe basistrainingprotocollen om de verbinding met agenten te verbeteren
Bij Humans& verandert het team van Goodman, in plaats van uitsluitend te vertrouwen op aanvullende protocollen, fundamenteel de manier waarop basismodellen worden getraind, niet alleen tussen een mens en een agent, maar ook tussen een mens en meerdere agenten, en belangrijker nog, tussen een agent en meerdere mensen.
“Door de training die we geven aan de onderliggende modellen te veranderen en de training te richten op interacties met een extreem lange horizon, zullen ze gaan begrijpen hoe de interacties moeten verlopen om de juiste langetermijnresultaten te verkrijgen,” zei hij.
En, zo voegt hij eraan toe, dit is een bewuste afwijking van het pad van langere autonomie dat door veel grote laboratoria wordt nagestreefd.
“Ons doel is niet een steeds langere autonomie. Het is een steeds betere samenwerking”, zei hij. “Humans& bouwt agenten met een diep sociaal inzicht: entiteiten die weten wie wat weet, samenwerking kunnen bevorderen en de juiste specialisten op het juiste moment met elkaar kunnen verbinden.”
Creëer barrières die de cognitie ondersteunen
Guardrails blijven een centrale uitdaging bij het implementeren van multifunctionele agenten die elk onderdeel van het systeem van een organisatie raken. De vraag is hoe we grenzen kunnen versterken zonder innovatie te belemmeren. Organisaties hebben strikte, regelachtige barrières nodig, maar mensen werken feitelijk niet op die manier. In plaats daarvan handelen mensen volgens het principe van de minste schade, dat wil zeggen: vooraf nadenken over de gevolgen en contextuele oordelen vellen.
“Hoe kunnen we vangrails bieden op een manier die op regels lijkt, maar ook op uitkomsten gebaseerde cognitie ondersteunt wanneer modellen daarvoor intelligent genoeg worden?” vroeg Goodman.
Pandey breidde dit denken uit naar de realiteit van innovatieteams die regels oordeelkundig moeten toepassen, en ze niet alleen maar mechanisch moeten volgen. Uitzoeken wat openstaat voor interpretatie is een “zeer collaboratieve taak”, zei hij. “En je begrijpt het niet via een reeks predicaten. Je begrijpt het niet via een document. Je begrijpt het via gemeenschappelijk begrip, inbedding, ontdekking en onderhandeling.”
Gedistribueerde intelligentie: het pad naar superintelligentie
Ware superintelligentie zal niet voortkomen uit steeds krachtigere individuele modellen, maar uit gedistribueerde systemen.
“Terwijl we steeds betere modellen en steeds betere agenten bouwen, geloven we uiteindelijk dat echte superintelligentie zal gebeuren via gedistribueerde systemen”, aldus Pandey.
De intelligentie zal zich uitbreiden langs twee assen: zowel verticale, of beter gezegd individuele agenten, als horizontale, of meer collaboratieve netwerken, op een manier die sterk lijkt op traditioneel gedistribueerd computergebruik.
Goodman zei echter: “We kunnen niet naar een toekomst gaan waarin AI’s zichzelf uitschakelen en op zichzelf gaan draaien. We moeten naar een toekomst gaan waarin er een geïntegreerd ecosysteem is, een gedistribueerd ecosysteem dat mensen en AI naadloos samenbrengt.”
