Mind lanceert onderzoek naar kunstmatige intelligentie en geestelijke gezondheid na Guardian-onderzoek | AI (kunstmatige intelligentie)

Mind lanceert een belangrijk onderzoek naar kunstmatige intelligentie en geestelijke gezondheid nadat uit een Guardian-onderzoek bleek hoe de AI-overzichten van Google mensen ‘zeer gevaarlijk’ medisch advies gaven.

In een commissie van een jaar zal de liefdadigheidsinstelling voor de geestelijke gezondheidszorg, die actief is in Engeland en Wales, de risico’s en waarborgen onderzoeken die nodig zijn nu kunstmatige intelligentie steeds meer invloed heeft op de levens van miljoenen mensen met geestelijke gezondheidsproblemen over de hele wereld.

Het onderzoek – het eerste in zijn soort wereldwijd – zal ’s werelds meest vooraanstaande artsen en professionals in de geestelijke gezondheidszorg samenbrengen, maar ook mensen met ervaring, gezondheidszorgprofessionals, politici en technologiebedrijven. Mind zegt dat het ernaar streeft een veiliger digitaal ecosysteem voor de geestelijke gezondheidszorg vorm te geven, met strenge regels, normen en waarborgen.

De lancering komt nadat The Guardian onthulde hoe mensen in gevaar werden gebracht door valse en misleidende gezondheidsinformatie in de AI-overzichten van Google. Door AI gegenereerde samenvattingen worden elke maand aan 2 miljard mensen getoond en verschijnen boven de traditionele zoekresultaten op de meest bezochte website ter wereld.

Na het rapport, Google verwijderde AI-overzichten voor sommige, maar niet alle medische onderzoeken. Dr. Sarah Hughes, CEO van Mind, zei dat het publiek nog steeds ‘gevaarlijk onjuist’ advies over geestelijke gezondheid krijgt. In het slechtste geval kan valse informatie levens in gevaar brengen, zei hij.

Hughes zei: “Wij geloven dat AI een enorm potentieel heeft om de levens van mensen met geestelijke gezondheidsproblemen te verbeteren en de toegang tot ondersteuning en versterking van openbare diensten te vergroten. Maar dat potentieel zal alleen worden gerealiseerd als het op verantwoorde wijze wordt ontwikkeld en gebruikt, met waarborgen die evenredig zijn aan de risico’s.

“De kwesties die in het Guardian-rapport aan het licht komen, zijn onder meer de redenen waarom we de Mind-commissie voor kunstmatige intelligentie en geestelijke gezondheid lanceren, om de risico’s, kansen en waarborgen te onderzoeken die nodig zijn naarmate kunstmatige intelligentie dieper verankerd raakt in het dagelijks leven.

“We willen ervoor zorgen dat innovatie niet ten koste gaat van het welzijn van mensen en dat degenen onder ons die ervaring hebben met geestelijke gezondheidsproblemen de kern vormen van het vormgeven van de toekomst van digitale media.”

Google zei dat zijn AI-overzichten, die generatieve AI gebruiken om momentopnamen te maken van essentiële informatie over een onderwerp of vraag, “bruikbaar” EN “betrouwbaar”.

Maar de Guardian ontdekte dat sommige AI-overzichten onnauwkeurige gezondheidsinformatie gaven en mensen het risico op schade brachten. Het onderzoek bracht vals en misleidend medisch advies aan het licht over een reeks kwesties, waaronder kanker, leverziekten en de gezondheid van vrouwen, evenals geestelijke gezondheidsproblemen.

Experts zeiden dat sommige AI-overzichten voor aandoeningen zoals psychose en eetstoornissen “zeer gevaarlijk advies” boden en “onjuist of schadelijk waren of ervoor konden zorgen dat mensen geen hulp zochten”.

Google bagatelliseert ook beveiligingswaarschuwingen dat zijn door AI gegenereerde medische adviezen mogelijk onjuist zijn. ontdekte de Guardian.

Hughes zei dat kwetsbare mensen ‘gevaarlijk onjuiste begeleiding over geestelijke gezondheid’ kregen, waaronder ‘advies dat mensen ervan zou kunnen weerhouden behandeling te zoeken, het stigma of de discriminatie te versterken en, in het ergste geval, levens in gevaar te brengen’.

Hij voegde eraan toe: “Mensen verdienen informatie die veilig, nauwkeurig en op bewijzen gebaseerd is, en niet op ongeteste technologieën die met een laagje vertrouwen worden gepresenteerd.”

De commissie zal een jaar lang bewijs verzamelen op het snijvlak van kunstmatige intelligentie en geestelijke gezondheid en een ‘open ruimte’ bieden waar de ervaringen van mensen met geestelijke gezondheidsproblemen ‘gezien, vastgelegd en begrepen’ zullen worden.

Rosie Weatherley, hoofd informatiecontent bij Mind, zei dat hoewel Google naar informatie over geestelijke gezondheid zocht “niet perfect” was vóór AI Overviews, het meestal goed werkte. Hij zei: “Gebruikers hadden een goede kans om op een geloofwaardige gezondheidszorgwebsite te klikken die hun vraag beantwoordde, en vervolgens verder gingen, met nuance, geleefde ervaring, casestudies, citaten, sociale context en een verder ondersteuningstraject.

“AI Overviews heeft die rijkdom vervangen door een klinisch klinkende samenvatting die de illusie van definitiefheid wekt. Ze geven de gebruiker meer van één vorm van duidelijkheid (beknoptheid en eenvoudig Engels), terwijl ze minder een andere vorm van duidelijkheid bieden (zekerheid over de bron van de informatie en hoeveel te vertrouwen erop). Het is een zeer verleidelijke uitwisseling, maar geen verantwoordelijke.”

Een Google-woordvoerder zei: “We investeren aanzienlijk in de kwaliteit van AI-overzichten, vooral voor onderwerpen als gezondheid, en de overgrote meerderheid biedt nauwkeurige informatie.

“Voor vragen waarbij onze systemen een persoon identificeren die mogelijk in nood verkeert, proberen we relevante lokale crisishotlines weer te geven. Zonder de voorbeelden waarnaar wordt verwezen te kunnen beoordelen, kunnen we geen commentaar geven op de juistheid ervan.”