Heb ik griep of Covid? Waarom word ik moe wakker? Wat veroorzaakt de pijn op de borst? Al meer dan twintig jaar levert het typen van medische vragen in de populairste zoekmachine ter wereld een lijst met websitelinks met de antwoorden op. Googlen deze gezondheidsvragen vandaag de dag en het antwoord zal waarschijnlijk door kunstmatige intelligentie worden geschreven.
Sundar Pichai, de CEO van Google, schetste voor het eerst de plannen van het bedrijf om kunstmatige intelligentie in zijn zoekmachine te integreren tijdens zijn jaarlijkse conferentie in Mountain View, Californië, in mei 2024. Vanaf die maand zullen Amerikaanse gebruikers, zei hij, een nieuwe functie te zien krijgen, AI Overviews, die samenvattingen van informatie boven de traditionele zoekresultaten zou bieden. De verandering markeerde de grootste verandering in het kernproduct van Google in een kwart eeuw. In juli 2025 was de technologie uitgebreid naar meer dan 200 landen in 40 talen, waarbij 2 miljard mensen maandelijks AI-overzichten ontvingen.
Met de snelle lancering van AI Overviews probeert Google zijn traditionele zoekactiviteiten, die jaarlijks ongeveer $200 miljard (£147 miljard) genereren, te beschermen voordat nieuwe AI-rivalen deze kunnen laten ontsporen. “We lopen in een ongelooflijk tempo voorop op het gebied van kunstmatige intelligentie en scheepvaart”, zei Pichai afgelopen juli. Vooral AI-overzichten “werkten goed”, voegde hij eraan toe.
Maar panorama’s brengen risico’s met zich mee, zeggen experts. Ze gebruiken generatieve AI om momentopnamen van informatie over een onderwerp of vraag te bieden, en in een oogwenk conversatieantwoorden toe te voegen aan de traditionele zoekresultaten. Ze kunnen bronnen citeren, maar ze weten niet noodzakelijkerwijs wanneer die bron onjuist is.
Slechts een paar weken na de lancering van de functie in de Verenigde Staten, gebruikers zijn onwaarheden tegengekomen over een breed scala aan onderwerpen. Een overzicht van kunstmatige intelligentie zei Andrew Jackson, de zevende president van de Verenigde Staten, hij studeerde in 2005 af aan de universiteit. Elizabeth Reid, hoofd zoeken bij Google, reageerde op de kritiek in een blogpost. Het gaf toe dat AI Overviews “in een klein aantal gevallen” de taal van webpagina’s verkeerd had geïnterpreteerd en onnauwkeurige informatie had gepresenteerd. “Op de schaal van het internet, waar elke dag miljarden zoekopdrachten binnenkomen, zijn er ongetwijfeld eigenaardigheden en fouten”, schreef hij.
Maar als deze vragen over gezondheid gaan, zijn nauwkeurigheid en context essentieel en niet onderhandelbaar, zeggen experts. Google zal vervolgens te maken krijgen met toenemende controle van zijn AI-overzichten op medische vragen een Guardian-onderzoek ze ontdekten dat mensen het risico liepen schade te lijden door valse en misleidende gezondheidsinformatie.
Het bedrijf zegt dat AI-overzichten “betrouwbaar“. Maar ontdekte de Guardian Sommige medische rapporten bevatten onnauwkeurige gezondheidsinformatie en brachten mensen in gevaar. In één geval, dat experts ‘echt gevaarlijk’ noemden, adviseerde Google mensen met alvleesklierkanker ten onrechte om vetrijk voedsel te vermijden. Deskundigen hebben gezegd dat dit precies het tegenovergestelde is van wat zou moeten worden aanbevolen en dat het risico van patiënten om aan de ziekte te overlijden zou kunnen toenemen.
In een ander ‘alarmerend’ voorbeeld verstrekte het bedrijf valse informatie over cruciale leverfunctietests, waardoor mensen met een ernstige leverziekte ten onrechte konden denken dat ze gezond waren. Wat AI Overviews normaal noemt, kan dramatisch verschillen van wat feitelijk als normaal wordt beschouwd, zeggen experts. De samenvattingen kunnen ertoe leiden dat ernstig zieke patiënten ten onrechte denken dat ze een normaal testresultaat hebben en niet de moeite nemen om op vervolgafspraken te verschijnen.
Er werden ook AI-overzichten van kankertesten bij vrouwen verstrekt.”helemaal verkeerd“Informatie waarvan experts zeggen dat ze ertoe kunnen leiden dat mensen echte symptomen negeren.
In eerste instantie Google probeerde te minimaliseren de conclusies van de Guardian. Op basis van wat de eigen artsen konden beoordelen, zei het bedrijf, heeft de AI-overzichten gealarmeerde experts gekoppeld aan gerenommeerde bronnen en aanbevolen om deskundig advies in te winnen. “We investeren aanzienlijk in de kwaliteit van AI-overzichten, vooral voor onderwerpen als gezondheid, en de overgrote meerderheid levert nauwkeurige informatie op”, aldus een woordvoerder.
Binnen een paar dagen echter het bedrijf is verwijderd enkele van de AI-overzichten voor gezondheidsvragen gerapporteerd door de Guardian. “Wij geven geen commentaar op individuele verwijderingen binnen de zoekopdracht”, aldus een woordvoerder. “In gevallen waarin AI-overzichten enige context verliezen, werken we aan brede verbeteringen en ondernemen we waar nodig ook actie op basis van ons beleid.”
Hoewel experts de verwijdering van enkele AI-samenvattingen voor gezondheidsvragen hebben verwelkomd, blijven velen zich zorgen maken. “Onze grootste zorg bij dit alles is dat het een enkel zoekresultaat belachelijk maakt en Google daarvoor AI-overzichten gewoon kan uitschakelen, maar het grotere probleem van AI-overzichten voor de gezondheid wordt hiermee niet aangepakt”, zegt Vanessa Hebditch, directeur communicatie en beleid bij de British Liver Trust, een liefdadigheidsinstelling voor levergezondheid.
“Er zijn nog steeds te veel voorbeelden waarbij Google AI Overview mensen onnauwkeurige gezondheidsinformatie geeft”, zegt Sue Farrington, voorzitter van het Patient Information Forum, dat op bewijs gebaseerde gezondheidsinformatie promoot bij patiënten, het publiek en professionals in de gezondheidszorg.
A nieuwe studie verdere zorgen geuit. Toen onderzoekers de antwoorden op meer dan 50.000 gezondheidsgerelateerde zoekopdrachten in Duitsland analyseerden om te zien op welke bronnen AI Overviews het meest vertrouwt, kwam er onmiddellijk één resultaat naar voren. Het meest geciteerde domein was YouTube.
“Dit is belangrijk omdat YouTube geen medische uitgever is”, schreven de onderzoekers. “Het is een videoplatform voor algemeen gebruik. Iedereen kan daar content uploaden (bijvoorbeeld gecertificeerde artsen, ziekenhuiskanalen, maar ook wellness-influencers, life coaches en makers zonder enige medische opleiding).”
In de geneeskunde is het probleem niet alleen waar de antwoorden vandaan komen, of de nauwkeurigheid ervan, maar ook hoe ze aan gebruikers worden gepresenteerd, zeggen experts. “Met AI Overviews hebben gebruikers niet langer een reeks bronnen die ze kunnen vergelijken en kritisch kunnen evalueren”, zegt Hannah van Kolfschooten, onderzoeker op het gebied van kunstmatige intelligentie, gezondheid en recht aan de Universiteit van Basel. “In plaats daarvan krijgen ze één zelfverzekerd antwoord, gegenereerd door AI, dat blijk geeft van medische autoriteit.
“Dit betekent dat het systeem niet simpelweg online gezondheidsinformatie weergeeft, maar deze actief herstructureert. Wanneer die reactie gebaseerd is op bronnen die nooit zijn ontworpen om aan medische normen te voldoen, zoals YouTube video creëert dit een nieuwe vorm van ongereguleerde online medische autoriteit.”
Google zegt dat er AI-overzichten zijn gemaakt om informatie naar boven te halen die wordt ondersteund door de beste webresultatenen links bevatten naar webinhoud die de informatie in de samenvatting ondersteunt. Mensen kunnen deze links gebruiken om dieper op een onderwerp in te gaan, vertelde het bedrijf aan The Guardian.
Maar individuele tekstblokken in AI Overviews, waarin gezondheidsinformatie uit meerdere bronnen wordt gecombineerd, kunnen verwarrend zijn, zegt Nicole Gross, universitair hoofddocent bedrijfskunde en samenleving aan het National College of Ireland.
“Zodra gebruikers de AI-samenvatting zien, is de kans veel kleiner dat ze verder zoeken, wat betekent dat hen de mogelijkheid wordt ontzegd om informatie kritisch te evalueren en te vergelijken, of zelfs hun gezond verstand te gebruiken als het gaat om gezondheidsgerelateerde zaken.”
Deskundigen brachten andere zorgen naar voren bij de Guardian. Zelfs als en wanneer AI-overzichten nauwkeurige feiten over een specifiek medisch onderwerp opleveren, maken ze mogelijk geen onderscheid tussen sterk bewijs uit gerandomiseerde onderzoeken en zwakker bewijs uit observationele onderzoeken, zeggen ze. Sommigen houden ook geen rekening met belangrijke kanttekeningen bij dergelijk bewijsmateriaal, voegen ze eraan toe.
Het naast elkaar zetten van dergelijke uitspraken in een AI-overzicht kan bovendien de indruk wekken dat sommige uitspraken beter ingeburgerd zijn dan ze in werkelijkheid zijn. Antwoorden kunnen ook veranderen naarmate AI-overzichten evolueren, zelfs als de wetenschap niet is veranderd. “Dit betekent dat mensen verschillende antwoorden krijgen, afhankelijk van wanneer ze zoeken, en dat is niet goed genoeg”, zegt Athena Lamnisos, directeur van de kankerliefdadigheidsinstelling Eve Appeal.
Google vertelde de Guardian dat de links in AI-overzichten dynamisch waren en veranderden op basis van de meest relevante, nuttige en actuele informatie voor een bepaalde zoekopdracht. Als AI Overviews webinhoud verkeerd zou interpreteren of enige context zou verliezen, zou het bedrijf deze fouten gebruiken om zijn systemen te verbeteren en indien nodig ook actie ondernemen, zei hij.
De grootste zorg is dat valse en gevaarlijke medische informatie of adviezen in AI-overzichten “uiteindelijk worden vertaald in de dagelijkse praktijken, routines en het leven van een patiënt, zelfs in aangepaste vormen”, zegt Gross. “In de gezondheidszorg kan dit een kwestie van leven of dood worden.”
