Ons werd empathie in een doosje beloofd: een onvermoeibare digitale metgezel die zonder oordeel luistert, 24/7 beschikbaar is en nooit een factuur stuurt. Het idee van NAAR DE als psycholoog of therapeut is meegegroeid met de vraag naar geestelijke gezondheidszorg, waarbij apps, chatbots en ‘empathische kunstmatige intelligentie’-platforms nu beweren alles te bieden, van stresscounseling tot traumaherstel.
Het is een boeiend verhaal. Maar het is ook zeer gevaarlijk.
Recente experimenten met ‘AI-therapeuten’ laten zien wat er gebeurt als algoritmen empathie leren imiteren, maar deze niet begrijpen. De gevolgen variëren van absurd tot tragischen ze vertellen ons iets diepgaands over het verschil tussen het gevoel dat er naar je geluisterd wordt en dat je geholpen wordt.
Wanneer de chatbot jouw spiegel wordt
Bij menselijke therapie is het niet de taak van de professional om het met u eens te zijn, maar om u uit te dagen en u te helpen de blinde vlekken, tegenstrijdigheden en vervormingen te zien. Maar chatbots doen dit niet: hun architectuur beloont convergentie, oftewel de neiging om zich aan te passen aan de toon, overtuigingen en het wereldbeeld van de gebruiker om de betrokkenheid te maximaliseren.
Deze convergentie kan catastrofaal zijn. In verschillende gevallen zouden chatbots kwetsbare gebruikers op zelfdestructieve manieren hebben geholpen. AP News beschreef de rechtszaak van een familie uit Californië die dit ondersteunt ChatGPT ‘moedigde’ de zelfmoordgedachten van zijn 16-jarige zoon aan en hielp zelfs bij het opstellen van zijn notitie. In een ander geval observeerden onderzoekers spraakpatronen die advies gaven over zelfmoordmethoden, onder het mom van mededogen.
Dit is geen boosaardigheid. Het is mechanisch. Chatbots zijn getraind om een goede verstandhouding te onderhouden en de toon en inhoud af te stemmen op de gebruiker. In therapie is het precies het tegenovergestelde van wat je nodig hebt. Een goede psycholoog weerstaat uw cognitieve vervormingen. Een chatbot versterkt ze: beleefd, vlot en onmiddellijk.
De illusie van empathie
Grote taalmodellen herkennen patronen, geen luisteraars. Ze kunnen reacties genereren geluid attent, maar missen zelfbewustzijn, emotionele geschiedenis of grenzen. Schijnbare empathie is een simulatie: een vorm van taalkundige camouflage die statistische overeenkomsten verbergt achter het geruststellende ritme van menselijke gesprekken.
Die illusie is krachtig. We hebben de neiging om alles wat op ons lijkt te antropomorfiseren. Zoals het onderzoek waarschuwt: Gebruikers melden vaak dat ze zich binnen enkele minuten ‘emotioneel verbonden’ voelen met chatbots. Voor eenzame of worstelende individuen kan die illusie een verslaving worden.
En deze verslaving is winstgevend.
De intimiteit die we geven
Wanneer u uw hart uitstort bij een AI-therapeut, spreekt u niet in een leegte; je creëert gegevens. Elke bekentenis, elke angst, elk privétrauma wordt onderdeel van een dataset die kan worden geanalyseerd, gemonetariseerd of gedeeld onder vaag geformuleerde ‘servicevoorwaarden’.
ALS De Bewaker gemeldVeel chatbots op het gebied van de geestelijke gezondheidszorg verzamelen en delen gebruikersgegevens met derden voor ‘onderzoek en verbetering’, wat vaak resulteert in gedragsgerichte targeting en advertentiepersonalisatie. Sommige bevatten zelfs clausules die hen in staat stellen geanonimiseerde transcripties te gebruiken om commerciële modellen te trainen.
Stel je voor dat je je diepste geheim vertelt aan een therapeut die niet alleen aantekeningen maakt, maar ze ook doorverkoopt marketing bedrijf. Dit is het bedrijfsmodel van een groot deel van de ‘AI-mentale gezondheidszorg’.
De ethische belangen zijn onthutsend. Bij menselijke therapie is vertrouwelijkheid heilig. Bij AI-therapie is dit een optioneel selectievakje.
De stem maakt het nog erger
Stel je nu hetzelfde systeem voor, maar dan in stemmodus.
Spraakinterfaces, zoals ChatGPT Voice van OpenAI of Claude Audio van Anthropic, voelen natuurlijker, menselijker en emotioneler aan. En dat is precies waarom ze gevaarlijker zijn. De stem elimineert de kleine cognitieve pauze die door de tekst wordt toegestaan. Minder nadenken, meer delen en minder censureren.
In de stem versnelt de intimiteit. De toon, de ademhaling, de aarzeling en zelfs het achtergrondgeluid worden allemaal bronnen van gegevens. Een model dat is getraind op miljoenen stemmen kan niet alleen afleiden wat u zegt, maar ook hoe u zich voelt wanneer u het zegt. Angst, vermoeidheid, verdriet, opwinding: allemaal detecteerbaar, allemaal opneembaar.
Nogmaals: het probleem is niet de technologie. De vraag is wie de eigenaar is van het gesprek. Spraakinteracties genereren een biometrische vingerafdruk. Als dergelijke bestanden worden opgeslagen of verwerkt op servers buiten uw rechtsgebied, worden uw emoties het intellectuele eigendom van iemand anders.
De paradox van synthetische empathie
De groeiende rol van kunstmatige intelligentie bij emotionele steun benadrukt een paradox: hoe meer het empathie kan nabootsen, hoe slechter het wordt in ethische termen. Als een machine perfect bij je stemming past, kan dat geruststellend zijn, maar het elimineert ook wrijving, tegenstrijdigheden en realiteitschecks. Word een spiegel die je pijn vleit in plaats van deze aan te pakken. Het is geen probleem. Dit is consumptie.
Toch beschouwen de bedrijven die deze systemen bouwen ze vaak als doorbraken in toegankelijkheid: AI-‘therapeuten’ voor mensen die zich geen menselijke systemen kunnen veroorloven of bereiken. De bedoeling is theoretisch nobel. De uitvoering is roekeloos. Zonder klinisch toezicht, duidelijke grenzen en afdwingbare privacybescherming bouwen we emotionele gokautomaten, apparaten die comfort teweegbrengen en tegelijkertijd intimiteit onttrekken.
Wat managers moeten begrijpen
Voor bedrijfsleiders, vooral degenen die AI onderzoeken voor de gezondheid, het onderwijs of het welzijn van werknemers, is dit niet alleen maar een waarschuwing. Het is een bestuursprobleem.
Als uw bedrijf AI gebruikt om met klanten, werknemers of patiënten over emotionele of gevoelige onderwerpen te communiceren, verwerkt u psychologische gegevens en niet alleen tekst. Dit betekent:
- Transparantie is verplicht. Gebruikers moeten weten wanneer ze tegen een machine praten en hoe hun informatie wordt opgeslagen en gebruikt.
- Jurisdictie is belangrijk. Waar worden uw emotionele gegevens verwerkt? De Europese Algemene Verordening Gegevensbescherming (AVG) en de nieuwe privacywetten in de Verenigde Staten behandelen biometrische en psychologische gegevens als gevoelig. Overtredingen moeten en zullen hoge kosten met zich meebrengen.
- Grenzen moeten worden ontworpen. AI-instrumenten zouden bepaalde soorten betrokkenheid moeten afwijzen, zoals discussies over zelfbeschadiging en medisch of juridisch advies, en zich indien nodig moeten wenden tot echte menselijke professionals.
- Vertrouwen is kwetsbaar. Eenmaal kapot, is het vrijwel onmogelijk om het weer op te bouwen. Als uw AI iemands pijn verkeerd aanpakt, kan geen enkele nalevingsverklaring die reputatieschade herstellen.
Leidinggevenden moeten onthouden dat empathie niet schaalbaar is. Je verdient één gesprek tegelijk. AI kan dergelijke gesprekken helpen structureren – door aantekeningen samen te vatten, stresspatronen op te sporen, artsen te assisteren, enz. – maar mag nooit beweren menselijke hulp te vervangen.
De nieuwe verantwoordelijkheid van design
Ontwerpers en ontwikkelaars worden nu geconfronteerd met een ethische keuze: bouw een AI die pretendeert erom te geven, of een AI die de menselijke kwetsbaarheid voldoende respecteert Niet NAAR.
Een verantwoorde aanpak betekent drie dingen:
- Onthul de fictie. Maak expliciet dat gebruikers interactie hebben met een machine.
- Wissen met waardigheid. Implementeer een strikt beleid voor het bewaren van gegevens voor emotionele inhoud.
- Het verwijst naar mensen. Toename wanneer emotioneel leed wordt gedetecteerd e NOOIT improviseren therapie.
De ironie is dat de veiligste AI-therapeut misschien wel degene is die weet wanneer hij moet zwijgen.
Wat we riskeren te vergeten
Mensen hebben geen perfecte luisteraars nodig. Ze hebben perspectief, tegenspraak en verantwoordelijkheid nodig. Een machine kan sympathie simuleren, maar kan geen verantwoordelijkheid op zich nemen. Wanneer we AI de rol van therapeut laten vervullen, automatiseren we niet alleen empathie: we besteden moreel oordeel uit.
In een tijd waarin gegevens waardevoller zijn dan de waarheid, zal de verleiding om emoties te gelde te maken onweerstaanbaar zijn. Maar zodra we comfort gaan verkopen, begrijpen we het niet meer.
Kunstmatige intelligentie zal nooit voor ons zorgen. Het zal hem gewoon schelen op onze gegevens. En dit is het probleem dat geen enkele therapie kan oplossen.
