HoofdafbeeldingLove Machines: hoe kunstmatige intelligentie onze relaties transformeert door James MuldoonMet dank aan Faber
Kunstmatige intelligentie is een onvermijdelijk kenmerk van het leven geworden, maar internetauteur en onderzoeker James Muldoon geloofde dat het discours eromheen de sociale en emotionele dimensies ervan over het hoofd ziet, vooral als het gaat om chatbots, waar mensen zich steeds vaker tot wenden voor vriendschap, intimiteit, therapie en zelfs om contact te maken met overleden dierbaren.
Muldoon’s nieuwe boek, Liefdesmachines: hoe kunstmatige intelligentie onze relaties transformeertnavigeren door dit nieuwe tijdperk van digitaal gezelschap. Ontdek hoe chatbots mensen de ruimte kunnen bieden om hun identiteit te verkennen en kunnen dienen als mechanisme voor het omgaan met verdriet, sociale angst of eenzaamheid. Ze kunnen echter ook veel van dezelfde problemen verergeren, omdat steeds meer mensen zich isoleren van menselijke relaties en deskundige therapie, met soms extreme gevolgen. Hoewel gesprekken met chatbots kunnen leiden tot persoonlijke groei, bestaat er een onontkoombaar gevoel dat veel mensen emotionele arbeid omzeilen door scriptrelaties te cultiveren om verwarring en confrontatie te voorkomen.
Love Machines is afwisselend fascinerend, verontrustend, bemoedigend en verontrustend, maar het gaat bovenal over de menselijke conditie van vandaag: hoe ver we zijn gegroeid, de ineenstorting van socialezekerheidsstelsels, de datingcrisis en de bereidheid van technologiemerken om te profiteren van de wanhoop van mensen in wat een soort industrieel complex van eenzaamheid is geworden. Ondanks positieve ervaringen is de sector vol van bedrijven die problematisch gedrag of stereotypen versterken en manipulatieve praktijken en duistere UX gebruiken om mensen verder in de klauwen van hun AI-collega’s te duwen in ruil voor compensatie of gegevens. Het is niet het gebruik van chatbots dat Muldoon bekritiseert, maar de omstandigheden die ons tot dit punt hebben gebracht.
Hier vertelt James Muldoon over de ethische en filosofische spanningen die voortkomen uit chatbots en wat deze snel evoluerende industrie zegt over de staat van moderne relaties.
Megan Williams: Eén ding waar veel mensen aan denken als het om dit onderwerp gaat, is Spike Jonze‘het is een film, Zijnmaar je vermijdt om er een belangrijk referentiepunt in het boek van te maken. Hoe nuttig zijn dit soort verhalen in de manier waarop we vandaag de dag over het bedrijf van AI denken?
James Muldoon: Ik denk dat sciencefiction een ongelooflijke invloed heeft op de ontwikkeling van technologie. Het speelt zich bijna af in cycli waarin fictieschrijvers zich proberen voor te stellen en te voorspellen wat de toekomst zal zijn, en dan haalt de technologie soms een inhaalslag in of neemt soms een radicaal ander pad. Maar dat is het ookHet is echt interessant als fictie op de voorgrond staat en je ziet dat ontwikkelaars en technologiebedrijven in wezen proberen ideeën uit sciencefiction over te nemen. Het stelt hen in staat nieuwe werelden te zien en nieuwe manieren om dingen te doen die anders misschien verborgen zouden blijven. Maar tegelijkertijd trappen ze vaak in de val door te denken dat dit een realistische toekomst zou kunnen zijn, alleen maar omdat het op die manier in fictie is afgebeeld, terwijl het voordeel van fictie is dat je niet te maken hoeft te krijgen met de spanningen, tegenstrijdigheden en beperkingen van een bepaald idee wanneer het in de echte wereld wordt geduwd. We zien deze tegenstrijdigheden zich afspelen in de AI-companion-ruimte.
MW: Kun je iets meer vertellen over deze spanningen en tegenstellingen?
JM: Een belangrijk voorbeeld is de AI-rouwruimte, waar bedrijven producten proberen te maken om de gesprekspatronen van overleden dierbaren te simuleren. De droom is in feite om iemands bewustzijn in digitale vorm te uploaden en in staat te zijn iets essentieels over hem of haar menselijkheid te behouden, ondanks dat hij niet langer leeft en zijn fysieke lichaam niet langer aanwezig is. Een van de CEO’s vertelde me dat hij geïnspireerd was door een aflevering van Black Mirror genaamd San Junipero, waarin twee vrouwen elkaar ontmoeten en blijkt dat hun bewustzijn naar de cloud is geüpload. Hij dacht oprecht dat dit een mogelijkheid was, zo niet vandaag, dan toch in de nabije toekomst. Het ziet over het hoofd hoe ingewikkeld, moeilijk en, sommigen zouden zeggen, filosofisch onmogelijk, het zou zijn om je bewustzijn of een idee van wie je bent uit je fysieke lichaam te halen. Het is een zeer menselijke en begrijpelijke reactie op het naderende overlijden van een dierbare, maar tegelijkertijd onthult het de grenzen van deze technofuturistische mentaliteit: het is mogelijk om de essentiële problemen van de menselijke conditie door middel van technologie op te lossen op een manier die al deze tegenstrijdigheden niet in het kielzog laat.
“Ik wilde meer een neutrale gids zijn dan een ethische beoordelaar, omdat een deel van waar we mee te maken hadden zo nieuw was dat ik destijds soms zelfs niet wist wat mijn mening was” – James Muldoon
MW: De toon die je in het boek aanslaat is empathisch, vooral tegenover individuele gebruikers. Vond u het in sommige gevallen lastig – I‘Ik denk aan de persoon die samen met een AI-partner een kind wilde opvoeden – om het vol te houden als het om de meest controversiële zaken ging?
JM: Als ik mijn kaarten op tafel zou leggen, zou ik veel kritischer zijn over de manier waarop ik in het boek schrijf, maar ik dacht niet dat het project zou werken als ik als verteller voortdurend een oordeel zou vellen over alle verhalen die we hoorden. Ik wilde meer een neutrale gids zijn dan een ethische beoordelaar, omdat een deel van waar we mee te maken hadden zo nieuw was dat ik destijds soms zelfs niet wist wat mijn mening was. Het perspectief dat ik persoonlijk heb, is meer gebaseerd op een politieke-economische lens, waarbij ik meer geïnteresseerd ben in de onderliggende prikkels en strategieën voor het genereren van inkomsten van bedrijven, de regulering waaronder ze opereren, de epidemie van eenzaamheid waarin we ons nu bevinden, en hoe deze producten op de markt worden gebracht. Dus ik wilde die analyse in het boek opnemen, maar ik wilde niet dat het menselijke element hierdoor zou worden verdoezeld, omdat veel van deze mensen die met mij spraken mij hun verhalen toevertrouwden en ik dacht niet dat het hen recht zou doen of ethisch zou zijn om ze voor de gek te houden of ze in een heel kritisch daglicht te stellen.
MW: Sommige van die omstandigheden waar je het over had, zoals de economie van eenzaamheid, lijken erg actueel. Afgezien van de technologische vooruitgang die deze tools mogelijk maakt, denkt u dat de AI-companion-ruimte een product van onze tijd is?
JM: Ik denk dat de eenzaamheidsepidemie in een stroomversnelling is gekomen, maar we zijn er al een hele tijd mee bezig. Elke technologische vooruitgang versnelt deze alleen maar meer en meer. In het boek praat ik over de sociale en economische veranderingen die hebben plaatsgevonden: de neoliberale revolutie, de ineenstorting van openbare diensten, van gemeenschapscentra. Technologie heeft hierin een heel belangrijke rol gespeeld, waardoor we de indruk kunnen krijgen dat we samen met anderen zijn, terwijl dit niet het geval is Eigenlijk blijf bij hen. Of het nu gaat om sociale netwerken, hetzelfde interview op Zoom of online games – wat volgens mij een belangrijke factor zou zijn, vooral voor jongeren – en nu AI-metgezellen.
Het is belangrijk om dit te zien als onderdeel van een grotere revolutie op het gebied van sociaal isolement, digitale verbinding en de sterke en zwakke punten ervan. Sociale media en de lessen die we daaruit hebben geleerd, zijn zeer leerzaam als we aan AI-metgezellen denken, omdat we in wezen zijn overgegaan van praten met onszelf naar praten met elkaar via technologie als bemiddelaar, en nu is de volgende stap in essentie praten met onszelf via technologie.
“De echte les van AI-chatbots is dat er een ongelooflijke behoefte is aan liefde en zorg in de wereld, en dat we moeten proberen er voor elkaar te zijn, misschien meer dan in het verleden” – James Muldoon
MW: Het lijkt een opvolger van sociale netwerken. Gedurende de jaren 2010 heeft iedereen gewaarschuwd voor de risico’s van een echokamer en nu hebben we daar een zeer geconcentreerde versie van.
JM: Ja, en je begrijpt waarom managers van sociale media er zo enthousiast over zijn. Mark Zuckerberg zou een goed voorbeeld zijn. Het wil in wezen sociale media vullen met AI-chatbots en de reden is betrokkenheid. AI-chatbots zijn ongelooflijk boeiend. Mensen besteden gemiddeld 30 minuten per dag aan traditionele sociale-mediadiensten, terwijl op een platform als Character.AI gebruikers tot wel twee uur per dag met chatbots kunnen praten. Ik denk dat AI wordt gezien als een mogelijk hulpmiddel om sociale media nieuw leven in te blazen en deze aantrekkelijker te maken, maar dat blijkt erg moeilijk omdat mensen in wezen niet erg blij zijn om met willekeurige niet-menselijke entiteiten op sociale media te praten.
MW: Ook al is dit een boek over kunstmatige intelligentie, wat zijn jouw gevoelens over de toestand van moderne relaties of de menselijke conditie in het algemeen?
JM: Het schrijven van dit boek heeft mij doen nadenken over hoe beperkt ik ben als vriend. Een van de redenen achter de populariteit van AI-chatbots is dat ze er altijd voor je zijn, dat ze ongelooflijk ondersteunend zijn en dat mensen het gevoel hebben dat ze daar niet genoeg van krijgen van hun echte menselijke vrienden in hun leven. Dus ik denk dat de echte les van AI-chatbots is dat er een ongelooflijke behoefte is aan liefde en zorg in de wereld, en dat we moeten proberen er voor elkaar te zijn, misschien meer dan in het verleden.
Liefdesmachines: hoe kunstmatige intelligentie onze relaties transformeert van James Muldoon is uitgegeven door Faber en is nu verkrijgbaar.
