Alleen dat wat leeft kan bewust zijn

Anil Seth is uitgeroepen tot winnaar van de Berggruen-essayprijs voor het Engels 2025. Seth, bekend als een vooraanstaand voorstander van de materialistische theorie van het bewustzijn, is een Britse neurowetenschapper en hoogleraar cognitieve en computationele neurowetenschappen aan de Universiteit van Sussex.

Zijn verstandigGepubliceerd op Noema, ‘The Mythology Of Conscious AI’, is een rigoureuze en overtuigende uitdaging voor het idee dat complexe berekeningen aanleiding kunnen geven tot bewustzijn, dat volgens Seth onlosmakelijk verbonden is met biologisch leven.

Het biedt een contrasterend perspectief op een eerdere Noema verstandig van Google Blaise Agüera en Arcas EN James Manadedie beweren dat “het leven intrinsiek computationeel is”. Hoewel ze niet beweren dat AI bewustzijn kan bereiken, veronderstellen ze een pad in die richting, aangezien ze zien dat organische en anorganische intelligentie dezelfde regels volgen voor zelfgeorganiseerde ontwikkeling om zich voort te planten, te groeien en te genezen.

In veel opzichten is het betoog van Seth een fundamentele verfijning en actualisering van de argumenten van Nobelprijswinnaar Gerald Edelman voor het tijdperk van de kunstmatige intelligentie.

Zoals Edelman zei in een gesprek in 2004, lang vóór het idee dat kunstmatige neurale netwerken en grote taalmodellen ooit bewustzijn zouden kunnen voortbrengen:

“De hersenen zijn belichaamd en het lichaam is ingebed in zijn omgeving. Dit trio moet op een geïntegreerde manier functioneren. Het is niet mogelijk om de activiteit en ontwikkeling van de hersenen te scheiden van de omgeving of het lichaam. Er is een constante interactie tussen wat wordt herinnerd en voorgesteld – een beeld – en wat er daadwerkelijk in de zintuigen gebeurt.

“Het brein kan tegen zichzelf praten, en het bewuste brein kan zijn onderscheidingsvermogen gebruiken om de toekomst te plannen, het verleden te vertellen en een sociaal zelf te ontwikkelen.

“Het belangrijkste om te begrijpen is dat de hersenen ‘contextgebonden’ zijn. Het is geen logisch systeem zoals een computer dat alleen geprogrammeerde informatie verwerkt; het produceert geen vooraf bepaalde resultaten zoals een klok.”

Voor Edelman komt bewustzijn naar voren via een ‘selectief repertoire’, gesmeed door meerdere recursieve interacties van het biologische apparaat van het lichaam met de omgeving. “Er bestaat niet één enkele mapping om de geest te creëren; er is eerder een onverwachte veelheid aan mogelijkheden”, zei hij ooit hij vertelde het mij.

Wat voor logische berekeningen ruis is, verklaart de variatie bij mensen en het vermogen om te innoveren, poëzie te schrijven, muziek te componeren, meesterwerken te schilderen en stemmingen aan te voelen.

Seth ziet de neiging om intelligentie en bewustzijn op één hoop te gooien als het resultaat van drie ‘ingebedde psychologische vooroordelen’.

“De eerste is antropocentrisme. Dit is de neiging om dingen door de lens van de mens te zien: om het menselijke voorbeeld als definitie te nemen, in plaats van als een voorbeeld van hoe verschillende eigenschappen samen kunnen komen.

De tweede is menselijk exceptionisme: onze ongelukkige gewoonte om de menselijke soort bovenaan elke stapel te plaatsen, en soms op een heel andere stapel (misschien dichter bij engelen en goden dan bij andere dieren, zoals in de middeleeuwen De schaal van de natuur). En de derde is antropomorfisme. Dit is de neiging om menselijke eigenschappen op niet-menselijke dingen te projecteren, gebaseerd op wat misschien slechts oppervlakkige overeenkomsten zijn.

Zodra we de verleiding van deze gebrekkige metaforen hebben overwonnen, is het mogelijk duidelijker af te bakenen waar de algoritmisch aangestuurde intelligentieverwerking via een anorganisch substraat fundamenteel verschilt van de biologische symbiose die zich in de loop van millennia met buitengewone efficiëntie heeft ontwikkeld.

Onvergelijkbare wetware

“Binnen een brein”, schrijft Seth, “is er geen duidelijke scheiding tussen ‘mindware’ en ‘wetware’ zoals er wel is tussen software en hardware in een computer. Hoe verder je verdiept in de fijne kneepjes van het biologische brein, hoe meer je beseft hoe rijk en dynamisch het is, vergeleken met het dode zand van silicium.

Patronen van hersenactiviteit evolueren over meerdere schalen van ruimte en tijd, variërend van grootschalige corticale gebieden tot de fijnkorrelige details van neurotransmitters en neurale circuits, allemaal diep verweven met een moleculaire storm van metabolische activiteit. Zelfs een enkel neuron is een spectaculair gecompliceerde biologische machine, toegewijd aan het behouden van zijn eigen integriteit en het regenereren van de omstandigheden en materiële fundamenten voor zijn voortbestaan. (Dit proces wordt genoemd autopoieseuit het Grieks voor ‘zelfproductie’. Autopoiese is waarschijnlijk een bepalend en onderscheidend kenmerk van levende systemen.)

In tegenstelling tot computers, zelfs computers die neurale netwerkalgoritmen uitvoeren, zijn hersenen het soort dingen waarvoor het moeilijk en waarschijnlijk onmogelijk is om de hersenen van elkaar te scheiden. wat ze doen van wat ze zijn.

Er is ook geen goede reden om een ​​dergelijke duidelijke scheiding te verwachten. De duidelijke scheiding tussen software en hardware in moderne computers wordt opgelegd door menselijk ontwerp. Biologische evolutie opereert onder verschillende beperkingen en met verschillende doelstellingen. Vanuit evolutionair perspectief bestaat er geen duidelijke selectieve druk voor het soort volledige scheiding dat een perfecte interoperabiliteit tussen verschillende hersenen mogelijk zou maken, zoals we dat wel doen tussen verschillende computers. In feite is waarschijnlijk het tegenovergestelde waar: het onderhouden van een efficiënte software/hardware-divisie kost energie, zoals tegenwoordig maar al te duidelijk blijkt uit de enorme energiebudgetten van moderne serverparken.”

Biologische tijd versus rekentijd

Seth biedt ook fascinerend inzicht in het verschil tussen contextgebonden biologische tijd en rekentijd.

Bij computationele verwerking, zo schrijft hij, “is alleen de volgorde van belang: van A naar B, van 0 naar 1. Het kan een microseconde of een miljoen jaar duren tussen elke toestandsovergang, en het zou nog steeds hetzelfde algoritme zijn, dezelfde berekening.

Voor de hersenen en biologische systemen in het algemeen is tijd daarentegen fysiek, continu en onvermijdelijk. Levende systemen moeten voortdurend weerstand bieden aan het verval en de wanorde die op het traject naar de entropische identiteit liggen, opgelegd door de onschendbare tweede wet van de thermodynamica. Dit betekent dat neurobiologische activiteit verankerd is in de continue tijd op manieren die algoritmen per definitie niet zijn.

Bovendien, veel onderzoekers – vooral die van de fenomenologische traditie – hebben lang benadrukt dat bewuste ervaring zelf rijkelijk dynamisch en intrinsiek temporeel is. Het stottert niet van de ene toestand naar de andere; het stroomt. Het abstraheren van de hersenen in de dorre opeenvolgende ruimte van algoritmen doet geen recht aan onze biologie, noch aan de fenomenologie van de bewustzijnsstroom.”

Kortom, dit alles wijst op het inzicht dat bewustzijn geworteld is in de noodzaak van levende organismen om hun perceptie van waar en hoe ze zich in de wereld bevinden te verfijnen, en zo gedrag te selecteren dat hun biologische overleving bevordert. Zoals neurowetenschapper Antonio Damasio op soortgelijke wijze heeft opgemerkt, zijn positieve en negatieve feedbacksignalen van succes of falen in deze poging om te overleven en te gedijen – ‘gevoelens’ – de oorsprong van emoties die, bij wezens van hogere orde, evolueren naar cultuur.

Zoals Seth de conclusies van zijn onderzoek samenvat:

“Ten eerste hebben we een glimp van een verklarend verband tussen leven en bewustzijn. Bewuste ervaringen van emotie, stemming en zelfs basislijn gevoel van leven ze zijn allemaal perfect verbonden met de perceptuele voorspellingen die betrokken zijn bij de controle en regulering van lichamelijke aandoeningen.

Ten tweede zijn de processen die ten grondslag liggen aan deze perceptuele voorspellingen diep, en misschien wel onlosmakelijk, geworteld in onze aard als biologische systemen, als zelfherstellende levensstormen die weerstand bieden aan de aantrekkingskracht van entropische identiteit.

En ten derde is dit allemaal niet computationeel, of in ieder geval niet algoritmisch. Het minimaliseren van voorspellingsfouten in echte hersenen en lichamen is een continu dynamisch proces dat aantoonbaar onlosmakelijk verbonden is met de materiële basis ervan, en niet zozeer een in het vlees geïmplementeerd algoritme dat bestaat in een ongerept universum van symbolen en sequenties.”

De levensadem

Uiteindelijk ziet Seth iets essentieels aan het werk: ‘We ervaren de wereld om ons heen en onszelf daarin – met, door en vanwege onze levende lichamen. Misschien is het het leven, en niet de informatieverwerking, dat de ervaringsvergelijkingen in vuur en vlam zet.

Als we de rijkdom van het biologische brein en de menselijke ervaring verwarren met de informatieverwerkende machinaties van deepfake-chatbots, of wat de nieuwste magie van kunstmatige intelligentie ook is, doen we onze geest, onze hersenen en ons lichaam ernstig onrecht. Als we onszelf te goedkoop verkopen voor onze machinecreaties, overwaarderen we ze en onderwaarderen we onszelf.

Misschien wat ons maakt ons, Seth reflecteert, “grijpt terug naar het oude Griekenland en de vlakten van India, waar onze diepste essentie naar voren komt als een ontluikend gevoel van rechtvaardige wees levend – meer adem dan gedachte en meer vlees dan machine.

Noot van de redactie over de Berggruen-prijs voor Chinese taal 2025:

De Berggruen Essayprijs in de Chinese taal 2025 was dat toegekend aan Xin Huang voor “Taal, bewustzijn en berekeningen: een filosofische analyse van het concept van tokens in het tijdperk van intelligentie” en aan Xiaoben Liu voor “Het eerste paradigma van het uploaden van bewustzijn: mechanismen van bewustzijnsevolutie in het axiale tijdperk van kunstmatige intelligentie en een perspectief op Web4”.

Huang onderzoekt hoe ervaring en intentie worden vertaald in berekenbare ‘tokens’, waarbij hij het bewustzijnsprobleem in het tijdperk van intelligente systemen opnieuw formuleert en nieuwe wegen voor mens-machine-interactie voorstelt. Liu stelt een raamwerk voor voor de evolutie van het bewustzijn, met het argument dat taal de basiseenheid van bewustzijn is, en schetst een routekaart naar het uploaden van bewustzijn, digitale onsterfelijkheid en een toekomstig ‘internet van bewustzijn’.

Deze essays zijn gepubliceerd in Cuiling, Noema’s tegenhanger in China.