De mens gecentreerd houden in het AI-gesprek
Tijdens een sessie over het herdefiniëren van het mens-AI-partnerschap in de gezondheidszorg zei Matt Troup, oplossingsmanager voor klinische documentatie bij Abridge, dat toen hij als arts werkte, een van zijn grootste uitdagingen was om uit te vinden hoe hij zijn tijd het beste kon gebruiken, zodat hij aan de behoeften van zowel zijn patiënten als zijn familie kon voldoen. AI kan artsen helpen hun werkdruk te transformeren en hen in staat te stellen patiënten en familie de tijd te geven die ze verdienen.
Pallavi Ranade-Kharkar, bedrijfsdirecteur onderzoeksinformatica en genomica bij Intermountain Health, vertelde hoe haar organisatie artsen weer tijd geeft om zich op patiënten te concentreren door kunstmatige intelligentie te gebruiken om Epic-berichten in de mand te beheren. De tool verwerkt een antwoord op basis van de vraag of opmerking van de patiënt en ondersteund door de context in het medisch dossier van de patiënt. Uw arts kan het bericht beoordelen voordat het wordt verzonden.
“Deze inspanning vereenvoudigde en stroomlijnde de workflows en resulteerde in een realtime besparing van 20-30 seconden per bericht”, zei hij. “Dit vermindert de ‘pyjamatijd’ en helpt artsen zich te concentreren op de dingen waar ze het beste in zijn.”
Bij de implementatie van AI benadrukte Russell Yeager, senior vice-president en CIO bij Encompass Health, dat augmented intelligence en mensen moeten samenwerken. Zijn organisatie richt zich op echte intelligentie in plaats van op kunstmatige intelligentie.
“We combineren kunstmatige intelligentie met onze klinische en zakelijke intelligentie om echte intelligentie te bieden aan de mensen die betrokken zijn bij de besluitvorming”, zei hij. Yeager wees erop dat hoewel AI autonoom kan zijn als het gaat om IT-activiteiten, er vangrails nodig zijn bij gebruik in de patiëntenzorg.
Hoewel AI een enorm potentieel biedt voor de gezondheidszorg, brengt het ook risico’s met zich mee. Ranade-Kharkar zei dat onnauwkeurigheden in gegevens, gebrek aan transparantie en toegenomen beveiligings- en privacykwetsbaarheden enkele van de grootste risico’s zijn.
“De kern van de gezondheidszorg is een mens, een patiënt. Mens-tot-mens interactie is de kern van een positieve patiëntervaring. Met dit in gedachten moeten we vangrails ontwikkelen om het verantwoorde gebruik van AI te garanderen”, zei hij, eraan toevoegend dat het identificeren van belangrijke prestatie-indicatoren en het meten ervan een belangrijk onderdeel is van wat AI-succes betekent.
Tracey Touma, bedrijfscontactpersoon voor cyberbeveiliging bij de Cleveland Clinic, legde uit dat AI-governance een andere belangrijke factor is in het succes van AI.
DUIK DIEPER: Data governance is een menselijke uitdaging, niet alleen een technologisch vraagstuk.
“We moeten daar beginnen. Mensen willen dat glimmende nieuwe speeltje en snel vooruit gaan. AI beweegt zich snel en furieus, maar we moeten ervoor zorgen dat we over governance beschikken om AI veilig te implementeren”, zei hij. “We hebben allemaal gehoord van hallucinaties en valse positieven. Gegevens zijn slechts zo goed als wat er in uw systeem staat. Zorg ervoor dat deze geldig en veilig zijn.”
Volgens Ranade-Kharkar zouden risicobeoordeling en documentatie een sleutelrol moeten spelen in het AI-beheer. Het hebben van een AI-governancecommissie waarmee organisaties interne en externe producten evalueren, is de eerste stap op weg naar de adoptie van AI. Algoritmische drift kan optreden en vooringenomenheid veroorzaken. Het is dus van cruciaal belang dat organisaties continu kwaliteitsmonitoring hebben van de prestaties van hun AI-tools. Organisaties zouden ook een inventaris moeten hebben van hun tools, met transparantie over hoe de leverancier de algoritmen oorspronkelijk heeft getest en gevalideerd, voegde hij eraan toe.
Intermountain Health heeft onlangs zijn elektronische patiëntendossier naar Epic gemigreerd, en de organisatie vertrouwt op hen om het te helpen implementeren en operationeel te maken, vooral als het gaat om de lange lijst met beschikbare AI-tools.
“We hebben ze nog niet allemaal ingeschakeld. We doen het op een opzettelijke en doordachte manier”, zei hij. “We zullen ze één voor één activeren omdat we er vertrouwen in hebben dat we ze kunnen monitoren en dat kwaliteitsniveau kunnen handhaven.”
Touma benadrukte de noodzaak van intentie bij het adopteren van AI in de gezondheidszorg. Het is belangrijk om belanghebbenden uit alle afdelingen en bedrijfsonderdelen te hebben om ervoor te zorgen dat het de organisatie aan niets ontbreekt. En de organisatie moet niet zomaar een gloednieuw hulpmiddel kopen; het instrument zou kostenbesparingen moeten aantonen of problemen met betrekking tot patiëntervaring, patiëntresultaten of zorgervaring moeten aanpakken.
“Uiteindelijk is het onze taak om voor patiënten te zorgen”, voegde hij eraan toe. “Als AI deze drie problemen kan oplossen, moeten we weten hoe, wat de impact, de kosten en de zakelijke use case zijn.”
Houd deze pagina bij uw favorieten voor onze berichtgeving over CHIME Fall Forum 2025. Volg ons op @HealthTechMag en neem deel aan het gesprek op #BEL25.
