Miljoenen mensen beschouwen AI-aangedreven chatbots nu als hun eerste stop voor alledaagse vragen, van recepten tot thuisprojecten. Maar een YouTuber waarschuwde dat misplaatst vertrouwen in die antwoorden gevaarlijk kan zijn, nadat haar beste vriendin herhaaldelijk door ChatGPT werd gerustgesteld dat een zeer giftige plant veilig was.De waarschuwing kwam van Kristi, die het incident met haar bijna een half miljoen volgers op Instagram deelde. In een reeks berichten en video’s legde ze uit dat haar vriendin ChatGPT-foto’s had gestuurd van een onbekende plant die in haar tuin groeide, met een simpele vraag: welke plant is dit?
Wanneer vertrouwen de plaats inneemt van voorzichtigheid
Volgens door Kristi gedeelde screenshots identificeerde de chatbot de plant als wortelgebladerte. Het vermeldde “fijn verdeelde, geveerde bladeren” als een klassiek teken van worteltoppen en sprak vertrouwen uit in de conclusie en zei dat het “zeer onwaarschijnlijk” was dat het gif hemlockspar was. Het bevatte ook lijsten met veel voorkomende lookalikes, waaronder peterselie, koriander, shockhorror en Queen Anne’s lace.Bezorgd vroeg Kristi’s vriendin rechtstreeks of de plant misschien giftige hemlockspar was. ChatGPT verzekerde haar verschillende keren dat dit niet het geval was.“Ik weet niet of jullie het weten: je eet het en je gaat dood. Als je het aanraakt, kun je doodgaan”, zei Kristi tegen haar volgers, waarmee ze het gevaar van giftige hemlockspar benadrukte. Later deelde hij informatie die hij onafhankelijk had gevonden, waarbij hij erop wees dat hemlock systemische vergiftiging veroorzaakt en geen tegengif heeft.De geruststellingen gingen door, zelfs nadat haar vriendin aanvullende afbeeldingen had gestuurd. ChatGPT wees de mogelijkheid van gif-hemlock opnieuw af en stelde dat de plant geen gladde, holle stengels met paarse vlekken vertoonde, hoewel Kristi erop wees dat deze kenmerken duidelijk zichtbaar waren op de foto’s. Op een gegeven moment suggereerde de chatbot zelfs dat de plant het blad zou kunnen zijn van een wortel die groeit in een gedeelde schooltuin waar Kristi’s vriend werkt.
(@rawbeautybykristi/Instagram)
Gealarmeerd liet Kristi dezelfde afbeeldingen door Google Lens lopen, die de plant onmiddellijk identificeerde als giftige hemlockspar. Haar vriendin uploadde de foto’s vervolgens naar een aparte ChatGPT-sessie op haar telefoon en kreeg deze keer te horen dat de plant giftig was.“Ze is volwassen en wist me meer te vragen dan wat ChatGPT zei, godzijdank,” Je hebt Kristi. ‘Want wat als dat niet zo was? Ze zouden letterlijk dood zijn. Daar bestaat geen tegengif voor.’In een krachtig geformuleerd bijschrift bij haar bericht schreef Kristi:“Chat GPT vermoordde bijna mijn beste vriendin door haar te vertellen dat de giftige hemlockspar wortel was. Hij zei niet alleen dat het POSITIEF was, maar hij bevestigde keer op keer met ABSOLUTE zekerheid dat het in feite GEEN gifhemlock was, dat het IN FEITELIJK wilde wortel was. Spoiler, het is gifhemlock. Waarvoor geen tegengif bestaat en het is EXTREEM dodelijk.Hij sloot af met een botte waarschuwing aan zijn publiek:“Dit is een waarschuwing voor u dat ChatGPT en andere grote taalmodellen en andere kunstmatige intelligentie niet uw vrienden zijn, niet te vertrouwen zijn, niet nuttig zijn, verschrikkelijk zijn en grote schade kunnen aanrichten.”
Een dodelijke dubbelganger
Gif-hemlockspar (Conium maculatum) is geen obscuur toxine. In het oude Athene was het de door de staat gekozen executiemethode, die vooral werd gebruikt om Socrates in 399 voor Christus te vermoorden. De moderne geneeskunde begrijpt de effecten ervan veel gedetailleerder, maar het resultaat kan hetzelfde zijn. Volgens de Cleveland-kliniekelk deel van de plant is giftig, zaden, wortels, stengels, bladeren en vruchten, en inname kan zelfs in kleine hoeveelheden dodelijk zijn.
Het verschil tussen giftige hemlockspar (Conium maculatum) en wortel (Daucus carota), beide van dezelfde familie, ligt in de toxiciteit, stengelmarkeringen en bladstructuur.
Het gevaar schuilt deels in het gemak waarmee hemlocks worden aangezien voor goedaardige leden van de wortelfamilie. Het lijkt sterk op wilde wortel of Queen Anne’s kant, met delicate peterselie-achtige bladeren en trossen kleine witte bloemen. De belangrijkste waarschuwingssignalen, een holle stengel gemarkeerd met paarse vlekken en een snelle groei die enkele meters kan reiken, worden vaak onopgemerkt door niet-specialisten.Klinisch gezien werkt hemlockvergiftiging snel. De symptomen kunnen binnen 15 minuten na inname beginnen en kunnen bestaan uit zweten, braken, verwijde pupillen, overmatige speekselvloed, droge mond, snelle hartslag, hoge bloeddruk, verwarring, spiertrekkingen, trillingen en toevallen. In ernstige gevallen kunnen patiënten spierverlamming, gevaarlijk lage bloeddruk, nierfalen en depressie van het centrale zenuwstelsel ontwikkelen. De giftige alkaloïden van de plant verstoren de neuromusculaire verbindingen die de spierbewegingen controleren; wanneer de ademhalingsspieren falen, stopt de ademhaling. Er bestaat geen specifiek tegengif. De diagnose is grotendeels gebaseerd op de symptomen en de geschiedenis van blootstelling, soms geholpen door een monster van de plant zelf.
Omdat dit soort fouten ertoe doen
Deze combinatie – visuele gelijkenis met onschadelijke planten, snel optredende symptomen en afwezigheid van een tegengif – is precies de reden waarom botanici en artsen waarschuwen voor toevallige identificatie. Kristi’s verhaal laat zien hoe gemakkelijk een zelfverzekerd maar onjuist antwoord van de AI die voorzichtigheid kan kortsluiten, waardoor een routinevraag kan veranderen in een bijna-ongeval met een gif dat ooit werd gebruikt om het leven van een van de beroemdste filosofen uit de geschiedenis te beëindigen.
