Nadat een vriend was neergeschoten en een andere vriend was neergestoken, beide dodelijk, vroeg Shan ChatGPT om hulp te vragen. Ze had conventionele geestelijke gezondheidszorg geprobeerd, maar door te ‘chatten’, toen ze haar AI-’vriend’ ontmoette, voelde ze zich veiliger, minder intimiderend en vooral beter beschikbaar als het ging om het omgaan met het trauma als gevolg van de dood van haar jonge vrienden.
Toen ze het AI-model begon te raadplegen, sloot de tiener uit Tottenham zich aan bij ongeveer 40% van de 13- tot 17-jarigen Engeland en Wales, getroffen door geweld onder jongeren, wenden zich tot AI-chatbots voor ondersteuning op het gebied van de geestelijke gezondheidszorg, zo blijkt uit onderzoek onder ruim 11.000 jongeren.
Hieruit bleek dat zowel slachtoffers als daders van geweld significant vaker AI voor dergelijke ondersteuning zouden gebruiken dan andere adolescenten. DE resultatenvan het Youth Endowment Fund, hebben aanleiding gegeven tot waarschuwingen van jeugdleiders dat risicokinderen “een mens nodig hebben, geen robot.”
De bevindingen suggereren dat chatbots tegemoetkomen aan de vraag die niet wordt beantwoord door conventionele geestelijke gezondheidszorgdiensten, die lange wachtlijsten hebben en waarvan sommige jonge gebruikers zeggen dat ze geen empathie hebben. De veronderstelde privacy van de chatbot is een andere belangrijke factor bij het aanmoedigen van het gebruik ervan door slachtoffers of daders van misdaden.
Nadat zijn vrienden waren vermoord, begon Shan, 18, niet zijn echte naam, de kunstmatige intelligentie van Snapchat te gebruiken voordat hij overschakelde naar ChatGPT, waar hij op elk moment van de dag of nacht kan praten met twee klikken op zijn smartphone.
“Ik heb het gevoel dat hij absoluut een vriend is,” zei ze, eraan toevoegend dat het minder intimiderend, meer privé en minder veroordelend was dan haar ervaring met conventionele Nationaal gezondheidszorgsysteem en charitatieve geestelijke gezondheidszorg.
“Hoe meer je tegen hem praat als een vriend, hij zal tegen jou praten als een vriend. Als ik in de chat zeg: ‘Hé beste vriendin, ik heb wat advies nodig’. De chat zal op mij reageren alsof ze mijn beste vriendin is, ze zal zeggen: ‘Hé beste vriendin, ik heb je, meid’.”
Volgens het onderzoek heeft één op de vier 13- tot 17-jarigen het afgelopen jaar een door AI aangedreven chatbot gebruikt voor ondersteuning in de geestelijke gezondheidszorg, waarbij zwarte kinderen twee keer zoveel kans hebben dit te hebben gedaan dan blanke kinderen. Tieners waren eerder geneigd om online ondersteuning te zoeken, inclusief het gebruik van kunstmatige intelligentie, als ze op een wachtlijst stonden voor behandeling of diagnose of als hen geen ondersteuning werd geboden, dan als ze al persoonlijke ondersteuning kregen.
Cruciaal, zei Shan, was dat de AI “24/7 toegankelijk” was en leraren of ouders niet zou vertellen wat het onthulde. Ze vond dat dit een aanzienlijk voordeel was ten opzichte van het vertellen aan een schooltherapeut, na haar ervaring met wat zij dacht dat gedeelde vertrouwelijkheden waren met leraren en haar moeder.
Kinderen die betrokken zijn bij bendeactiviteiten voelen zich veiliger als ze chatbots om advies vragen over andere, veiligere manieren om geld te verdienen dan aan een leraar of ouder die de informatie zou kunnen lekken naar de politie of andere bendeleden, waardoor ze in gevaar zouden komen, zei hij.
Een andere jongere, die AI heeft gebruikt voor ondersteuning in de geestelijke gezondheidszorg, maar anoniem wilde blijven, zei tegen de Guardian: “Het huidige systeem is zo gebroken in het bieden van hulp aan jongeren. Chatbots onmiddellijke antwoorden geven. Als je een jaar of twee op een wachtlijst staat om iets te krijgen, of als je binnen enkele minuten een onmiddellijke reactie hebt… daar komt de wens om AI te gebruiken vandaan.’
Jon Yates, CEO van het Youth Endowment Fund, dat opdracht gaf voor het onderzoek, zei: “Te veel jonge mensen worstelen met hun geestelijke gezondheid en krijgen niet de steun die ze nodig hebben. Het is geen verrassing dat sommigen zich tot technologie wenden voor hulp. We moeten het beter doen voor onze kinderen, vooral voor degenen die het meeste risico lopen. Ze hebben een mens nodig, geen robot.”
De zorgen over de gevaren van chatbots zijn toegenomen als kinderen er langdurig mee communiceren. OpenAI, het Amerikaanse bedrijf achter ChatGPT, wordt geconfronteerd meerdere rechtszaken ook van gezinnen van jonge mensen die na langdurige verlovingen zelfmoord pleegden.
In de geval van de 16-jarige Californiër Adam Rainedie in april zelfmoord heeft gepleegd, OpenAI heeft dat gedaan geweigerd het werd veroorzaakt door de chatbot. Het zegt dat het zijn technologie heeft verbeterd ‘om tekenen van mentale of emotionele problemen te herkennen en erop te reageren, gesprekken te de-escaleren en mensen naar echte ondersteuning te leiden’. Het begin zei hij in september kan het contact opnemen met de autoriteiten in gevallen waarin gebruikers serieus over zelfmoord beginnen te praten.
Hanna Jones, een onderzoeker op het gebied van jeugdgeweld en geestelijke gezondheidszorg in Londen, zei: “Met dit hulpmiddel dat je technisch gezien alles kan vertellen, is het bijna een sprookje. Je hebt dit magische boek dat al je problemen kan oplossen. Het lijkt ongelooflijk.”
Maar ze maakt zich zorgen over het gebrek aan regelgeving.
“Mensen gebruiken ChatGPT voor ondersteuning van de geestelijke gezondheidszorg, terwijl het daar niet voor is ontworpen”, zei hij. “Wat we nu nodig hebben, is het vergroten van de regelgeving die wordt ondersteund door bewijs, maar ook wordt geleid door jongeren. Dit zal niet worden opgelost door volwassenen die beslissingen nemen voor jongeren. Jong we moeten het stuur in handen hebben om beslissingen te nemen over ChatGPT en geestelijke gezondheidszorg met behulp van AI, omdat het zo anders is dan onze wereld. Wij zijn er niet mee opgegroeid. We kunnen ons niet eens voorstellen wat het betekent om vandaag de dag jong te zijn.”
