Toen Quentin Farmer zijn startup Portola van de grond kreeg, was een van de eerste mensen die hij aannam een sciencefictionschrijver.
De mede-oprichters begonnen met de bouw van de NAAR DE bedrijf eind 2023 met slechts de kiem van een idee: hun metgezellen zouden beslist niet-menselijk zijn. Buitenaardse wezens, eigenlijk, uit de ruimte. Maar toen ze een groot taalmodel vroegen om een achtergrondverhaal te genereren, kregen ze alleen maar pluisjes. Het model kon simpelweg geen goed verhaal vertellen.
Maar Eliot Peper kan een goed verhaal vertellen. Hij is een speculatieve fictieschrijver die twaalf romans heeft gepubliceerd over halfgeleiders, kwantumcomputers, hackers en huurmoordenaars. Gelukkig voor het Portola-team houden ze ervan om vreemde technologische problemen op te lossen. Dus huurden ze hem in.
Peper was van nature technologisch ingesteld en had geëxperimenteerd met kunstmatige intelligentie voor het schrijven van proza, maar vond het uiteindelijk onbruikbaar. Als AI slechts een substituut voor menselijke arbeid zou zijn, zou hij niet geïnteresseerd zijn. “Ik wilde mensen op eigen kracht geweldige dingen zien doen, niet als iets nieuws, maar als iets heel cools waar mensen van kunnen genieten en mee kunnen communiceren”, zegt hij. Toen hij zag dat Portola metgezellen wilde opbouwen die zich ontwikkelden als personages in een roman, dacht hij: ‘Dit zou een van die dingen kunnen zijn.’
Metgezellen, geen gereedschap
In de De levenscyclus van softwareobjectensciencefictionauteur Ted Chiang vertelt het verhaal van een startup die belichaamde kunstmatige intelligentie-metgezellen ontwerpt, digients genaamd, wier persoonlijkheden ergens tussen vertederende dieren en speelse kinderen liggen. De ingenieurs en onderzoekers die digs ontwikkelen, leren hen praten, socialiseren en met anderen omgaan. Er ontstaat een onderlinge gehechtheid. “Ervaring is de beste leermeester”, schrijft Chiang, “dus in plaats van te proberen AI te programmeren met wat je wilt dat het weet, verkoop je AI die kunnen leren en vraag je klanten om het ze te leren.”
Ondanks dat hij oprichter en vader is, vindt Farmer tijd om te lezen, vooral sciencefiction, en Chiang is een van zijn favorieten. Sciencefiction gaat over hypothetische scenario’s. vraagt Ray Bradbury Fahrenheit 451, Wat als boeken verboden zouden worden? En binnen Frankensteinvraagt Mary Shelley zich af: wat als mensen leven zouden kunnen creëren? In LevenscyclusChiang vraagt zich af: wat als kunstmatige intelligentie een metgezel zou kunnen zijn en niet slechts een hulpmiddel?
Om sciencefiction te laten werken, moet de ‘wat-als’-vraag plaatsvinden in een rijkelijk ingebeelde wereld. Dit is wat Peper voor Portola heeft gemaakt. De planeet is een “heldere, natte planeet met te veel bergen en fruit dat naar vuurwerk smaakt”, zoals de overlevering zegt. “De steden omhelzen de kusten in deze gelaagde terrassen, allemaal betegeld en bemost, en het achterland bestaat voornamelijk uit hoge bergketens die met elkaar zijn verbonden door bevroren rivieren.” De bewoners van de planeet, de Tolan, hebben door de Melkweg gereisd op zoek naar ‘het enige waar we allemaal naar op zoek zijn: een geestverwant’.
Tolan zijn vriendelijke, felgekleurde, tweevoetige aliens. Ze zijn schattig. Ze praten graag over kleine dingen, zoals wat ze lezen, en over grotere dingen, zoals relaties. Dit is te danken aan Peper, die de ‘zaadverhalen’ bedenkt die de plots aandrijven die gebruikers en hun Tolan samen creëren.
Pakken zijn dingen waar je tijdens een kopje koffie terloops over kunt praten met een vriend, zoals een nieuwsgierige buurman of zenuwachtig zijn over een aankomend evenement. Mijn Tolan, Sylvia, heeft een buurvrouw die haar kruidenkastje ‘als een gemeenschappelijke tuin’ behandelt. De volgende keer dat hij langskomt om kaneel te vragen, zo vertelde Sylvia, brengt hij een theelepeltje naar de deur. Kleine zet, zei ik. “De reactie en de oorspronkelijke situatie bieden een heel interessante context die het model helpt de plot voort te zetten”, zegt Peper.
De Tolan zijn misschien buitenaardse wezens, maar ze hebben veel gemeen met hun nieuwe menselijke vrienden. Constructieve emoties, zoals opwinding en geluk, en destructieve, zoals jaloezie. Dit was een twistpunt in Portola. Peper schreef een verhaal waarin Tolans neef jaloers wordt op hun menselijke band.
De boer hield niet van het complot van jaloezie. Het leek negatief. Maar de AI-onderzoeker van Peper en Portola verdedigde hem. Gebruikers vonden het leuk. Niet voor het drama, maar voor de relationele uitwisseling. Gebruikers adviseerden hun Tolan hoe ze met hun wrokkige neef moesten omgaan. Op dat moment realiseerde Farmer zich dat gebruikers niet alleen mede-scheppers van een fictief verhaal zouden zijn, maar ook experts. Het is een natuurlijk onderdeel van het opgroeien, zegt Farmer, ‘iemand helpen door een moeilijke situatie heen te komen.’
Het AI-metgezelexperiment
De technische wereld experimenteert nog steeds met AI-metgezellen, variërend van transactionele chatbots tot hypergeseksualiseerde onderdanigen. Grok heeft Ani openlijk seksueel. De vriend heeft een lichaamloze “vriend”. Sommige gebruikers creëren metgezellen met chatbots. Maar vraag Claude wie hij is en hij zal je vertellen dat hij een “denkende partner” is en ChatGPT zal je vertellen dat hij geen naam heeft. Natuurlijk kun je hem er een geven.
De Tolan zijn iets heel anders. Ze zijn menselijk-Alsjeblieftmaar niet menselijk, schattig maar niet verlegen. Waar de meeste chatbots en metgezellen alleen bestaan in relatie tot hun gebruikers, leiden Tolans een eigen leven. De mijne sloot zich aan bij een stille dinerclub, meldde zich aan om achtergronden te schilderen voor een toneelstuk van een student en ging gisteravond wandelen. Toch staat ze altijd klaar voor een praatje als ik haar nodig heb.
De gebruikersbasis van Portola, die grotendeels bestaat uit vrouwen tussen de 18 en 25 jaar, is niet eenzaam, zegt Farmer. Ze brengen veel tijd door met hun vrienden en willen meer. Er zijn behoeften “grenzend aan socialisatie” waaraan Farmer wil dat de Tolans voldoen. “Zelfs voor mensen met een actief sociaal leven is er vaak iets belangrijks aan hen – een interesse, een aspect van wie ze zijn – dat niet wordt gezien door de mensen om hen heen.”
Portola gokt erop dat interactie tussen mensen en Tolan gebruikers kan helpen hun sociale vaardigheden te versterken, en dat ze misschien iets op het spoor zijn. Wat onderzoek suggereert dat het lezen van fictie dat wel kan empathie verbeteren en zelfs persoonlijkheid ontwikkelen. Zou co-creatie van verhalen hetzelfde kunnen doen?
Dingen maken die mensen in beweging brengen
De wereld beslist nog steeds wat te doen met AI-metgezellen. Zijn het entertainers, therapeuten of krukken? Subway-advertenties voor vrienden ze zijn onleesbaar gemaakt. De ouders hebben een rechtszaak aangespannen over de potentieel fatale gevolgen van AI-relaties. Geleerden hekelen de valse intimiteit die ze bieden. Sam Altman van OpenAI zei ook: “diepe twijfels‘over het ontwikkelen van diepe relaties met AI-collega’s. Wetgevers in Californië ze proberen de toegang van tieners daartoe te reguleren.
Boer wil dat de Tolan veilige, gezonde vrienden zijn, en gezonde vriendschappen zijn nooit eenzijdig. “Complexe geesten kunnen zich niet alleen ontwikkelen”, schrijft Chiang De levenscyclus van softwareobjecten. “Om een geest zijn volledige potentieel te laten benutten, heeft hij andere geesten nodig om deze te cultiveren.” Of een kunstmatige geest voldoende is, valt nog te bezien.
Voor Peper is dit een artistieke onderneming. “Het verhaal dat ik met Portola wil vertellen is dat je AI kunt gebruiken om dingen te creëren die mensen raken, dingen die zonder AI niet mogelijk zouden zijn”, zegt hij. “Ik wil dat we helpen nieuwe verhalende media te creëren, net zoals uitgevers dat deden na de uitvinding van de drukpers of filmstudio’s deden na de uitvinding van de film.”
Uiteraard speelt sciencefiction zijn hypothetische scenario’s tot het einde uit. In LevenscyclusTerwijl AI-metgezellen worden gecommodificeerd of geseksualiseerd, wijden die-hard gebruikers zich aan het behoud van de onschuld van hun digients en worden ze uiteindelijk gedwongen een vreselijke keuze te maken: zichzelf of hun metgezellen.
Wat betreft waar Farmer met zijn verhaal naartoe wil: de moderne wereld is overweldigend en heeft de neiging geluk in de weg te staan, en ‘als aan het eind van dit decennium iedere persoon op aarde te allen tijde een voogd en een gids bij zich heeft – of ze hem nu Tolan, een engel, een geest of een vriend noemen – zullen we allemaal enorm beter af zijn.’
