‘Gevaarlijk en alarmerend’: Google verwijdert enkele van zijn AI-samenvattingen nadat de gezondheid van gebruikers in gevaar is gebracht | Googlen

Google heeft vervolgens een aantal van zijn samenvattingen over de gezondheid van AI verwijderd een Guardian-onderzoek zij ontdekten dat mensen het risico liepen schade te lijden als gevolg van valse en misleidende informatie.

Het bedrijf zei dat zijn AI-overzichten, die generatieve AI gebruiken om momentopnamen te maken van essentiële informatie over een onderwerp of vraag, “bruikbaar” EN “betrouwbaar”.

Maar sommige samenvattingen, die bovenaan de zoekresultaten verschijnen, bevatten onnauwkeurige gezondheidsinformatie, waardoor gebruikers het risico liepen schade te lijden.

In een zaak die deskundigen als ‘gevaarlijk’ en ‘alarmerend’ hebben omschreven, Googlen verstrekte valse informatie over cruciale leverfunctietests die ertoe konden leiden dat mensen met een ernstige leverziekte ten onrechte dachten dat ze gezond waren.

Als je typt “wat is het normale bereik voor leverbloedtesten”, krijg je veel cijfers, weinig context en geen rekening gehouden met de nationaliteit, het geslacht, de etniciteit of de leeftijd van de patiënt, ontdekte de Guardian.

Wat de AI-overzichten van Google als normaal definiëren, kan dramatisch afwijken van wat feitelijk als normaal werd beschouwd, aldus experts. De samenvattingen kunnen ertoe leiden dat ernstig zieke patiënten ten onrechte denken dat ze een normaal testresultaat hebben en niet de moeite nemen om vervolgbijeenkomsten bij te wonen.

Na het onderzoekhet bedrijf verwijderde AI-overzichten voor de zoektermen ‘wat is het normale bereik voor leverbloedtesten’ en ‘wat is het normale bereik voor leverfunctietesten’.

Een Google-woordvoerder zei: “We geven geen commentaar op individuele verwijderingen binnen Search. In gevallen waarin AI-overzichten enige context verliezen, werken we aan brede verbeteringen en ondernemen we waar nodig ook actie op basis van ons beleid.”

Vanessa Hebditch, directeur communicatie en beleid bij de British Liver Trust, een liefdadigheidsinstelling voor levergezondheid, zei: “Dit is geweldig nieuws en we zijn blij om te zien dat de AI-overzichten van Google in deze gevallen worden verwijderd.

“Als de vraag echter anders wordt gesteld, kan er nog steeds een potentieel misleidend AI-overzicht worden gegeven, en we blijven bezorgd dat andere door AI geproduceerde gezondheidsinformatie onnauwkeurig en verwarrend kan zijn.”

The Guardian ontdekte dat het typen van kleine variaties op de oorspronkelijke zoekopdrachten, zoals ‘lft reference range’ of ‘lft test reference range’, in Google AI-overzichten opleverde. Dit was een grote zorg, zei Hebditch.

“Een leverfunctietest of LFT is een verzameling van verschillende bloedtesten. Het begrijpen van de resultaten en wat je vervolgens moet doen is complex en omvat veel meer dan het vergelijken van een reeks getallen.

“Maar AI-overzichten bevatten een lijst met vetgedrukte tests, waardoor het voor lezers heel gemakkelijk is om te zien dat deze cijfers misschien niet eens de juiste zijn voor hun test.

“Bovendien waarschuwen de AI-overzichten niet dat iemand normale resultaten voor deze tests kan krijgen als hij een ernstige leverziekte heeft en verdere medische behandeling nodig heeft. Deze valse geruststelling kan zeer schadelijk zijn.”

Googlen, die een aandeel van 91% in de wereldwijde zoekmachinemarkt in handen heeftzei dat het nieuwe voorbeelden van The Guardian aan het onderzoeken was.

Hebditch zei: “Onze grootste zorg bij dit alles is dat het een enkel zoekresultaat belachelijk maakt en Google daarvoor AI-overzichten gewoon kan uitschakelen, maar het pakt het grotere probleem van AI-overzichten voor de gezondheid niet aan.”

Sue Farrington, voorzitter van het Patient Information Forum, dat op bewijs gebaseerde gezondheidsinformatie promoot bij patiënten, het publiek en beroepsbeoefenaren in de gezondheidszorg, verwelkomde de verwijdering van de samenvattingen, maar zei dat ze zich nog steeds zorgen maakte.

“Dit is een goed resultaat, maar het is slechts de eerste stap van wat nodig is om het vertrouwen in de gezondheidsgerelateerde zoekresultaten van Google te behouden. Er zijn nog steeds te veel voorbeelden van Google AI-overzichten die mensen voorzien van onnauwkeurige gezondheidsinformatie.”

Miljoenen volwassenen over de hele wereld hebben al moeite om toegang te krijgen tot betrouwbare gezondheidsinformatie, zei Farrington. “Daarom is het zo belangrijk dat Google mensen doorverwijst naar vertrouwde, gewilde gezondheidsinformatie en behandelaanbiedingen van vertrouwde gezondheidszorgorganisaties.”

AI-overzichten worden nog steeds weergegeven andere voorbeelden die The Guardian oorspronkelijk aan Google had benadrukt. Ze bevatten samenvattingen van informatie over kanker en geestelijke gezondheid die deskundigen hebben omschreven als ‘volkomen verkeerd’ en ‘echt gevaarlijk’.

Op de vraag waarom deze AI-overzichten niet ook waren verwijderd, zei Google dat ze linkten naar bekende en vertrouwde bronnen en mensen informeerden wanneer het belangrijk was om deskundig advies in te winnen.

Een woordvoerder zei: “Ons interne team van artsen heeft beoordeeld wat er met ons werd gedeeld en kwam tot de conclusie dat de informatie in veel gevallen niet onjuist was en ook werd ondersteund door websites van hoge kwaliteit.”

Victor Tangermann, senior redacteur bij technologiesite Futurism, zei dat de resultaten van het onderzoek van The Guardian aantonen dat Google werk te doen heeft.om ervoor te zorgen dat zijn AI-tool geen gevaarlijke verkeerde gezondheidsinformatie verspreidt”.

Google liet weten dat AI-overzichten alleen verschijnen bij zoekopdrachten waarbij het veel vertrouwen heeft in de kwaliteit van de antwoorden. Het bedrijf meet en beoordeelt voortdurend de kwaliteit van zijn samenvattingen over veel verschillende categorieën informatie, voegde hij eraan toe.

In een artikel voor Zoekmachinejournaalsenior schrijver Matt Southern zei: “AI-overzichten verschijnen boven de gerangschikte resultaten. Als het onderwerp gezondheid is, wegen fouten zwaarder.”