Google verwijdert AI-overzichten voor sommige medische vragen

Volgende een Guardian-onderzoek waarin werd vastgesteld dat de AI-overzichten van Google misleidende informatie bieden als antwoord op bepaalde gezondheidsgerelateerde vragen, lijkt het bedrijf voor een aantal van die vragen AI-overzichten te hebben verwijderd.

The Guardian meldde bijvoorbeeld aanvankelijk dat wanneer gebruikers vroegen ‘wat is het normale bereik voor leverbloedtesten’, ze cijfers te zien kregen waarin geen rekening werd gehouden met factoren als nationaliteit, geslacht, etniciteit of leeftijd, waardoor ze mogelijk dachten dat hun resultaten gezond waren terwijl dat niet het geval was.

Nu, zegt de Guardian AI-overzichten zijn verwijderd uit de resultaten voor “wat is het normale bereik voor leverbloedtesten” en “wat is het normale bereik voor leverfunctietesten”. Het bleek echter dat variaties op dergelijke zoekopdrachten, zoals ‘lft-referentiebereik’ of ‘lft-testreferentiebereik’, nog steeds konden leiden tot door AI gegenereerde samenvattingen.

Toen ik deze vragen vanochtend probeerde, enkele uren nadat de Guardian zijn verhaal had gepubliceerd, leverde geen van hen de AI-overzichten op, hoewel Google mij nog steeds de mogelijkheid gaf om dezelfde vraag in de AI-modus te stellen. In veel gevallen was het beste resultaat het Guardian-artikel over de verwijdering.

Een Google-woordvoerder vertelde de Guardian dat het bedrijf “geen commentaar geeft op individuele verwijderingen binnen Search”, maar dat het eraan werkt “over de hele linie verbeteringen aan te brengen”. De woordvoerder zei ook dat een intern team van artsen de door The Guardian benadrukte vragen heeft beoordeeld en heeft vastgesteld dat “de informatie in veel gevallen niet onnauwkeurig was en ook werd ondersteund door websites van hoge kwaliteit.”

TechCrunch heeft contact opgenomen met Google voor verder commentaar. Vorig jaar maakte het bedrijf bekend nieuwe functies om Google Zoeken te verbeteren voor toepassingen in de gezondheidszorginclusief verbeterde overzichten en op gezondheid gerichte AI-modellen.

Vanessa Hebditch, directeur communicatie en beleid bij de British Liver Trust, vertelde de Guardian dat de verwijdering “geweldig nieuws” is, maar voegde eraan toe: “Onze grootste zorg bij dit alles is dat het een enkel zoekresultaat bekritiseert en Google daarvoor gewoon AI-overzichten kan uitschakelen, maar het grotere probleem van AI-overzichten voor de gezondheid wordt daarmee niet aangepakt.”