Professor Hatim Abdulhussein, algemeen directeur van gezondheidsinnovatie Kent Surrey Sussex
Er is een initiatief gelanceerd met de naam TrustX om agent-AI te helpen verifiëren, inzetten en testen voor gebruik in de NHS en de sociale zorg.
Het is bedoeld om het 10-jarige NHS-gezondheidsplan van de overheid te ondersteunen, dat voorziet in de grootschalige adoptie van hulpmiddelen voor kunstmatige intelligentie, waaronder technologie ter ondersteuning van diagnoses, automatisering van administratieve taken, voorspelling van de vraag naar diensten, en ambient voice agents voor taken zoals het maken van aantekeningen.
TrustX heeft tot doel het risico van vooringenomenheid, potentiële fouten en desinformatie van AI-agenten aan te pakken door te evalueren hoe ze presteren in reële situaties, omgaan met andere technologieën en gegevensbronnen, en hoe ze in de loop van de tijd kunnen veranderen.
Het initiatief wordt uitgevoerd in samenwerking tussen Health Innovation Kent Surrey Sussex (KSS), het Trustworthy AI Lab van de Universiteit van Cambridge, het Responsible AI Institute en The King’s Fund.
Professor Hatim Abdulhussein, CEO van Health Innovation KSS, gezegd: “NHS-frontlinieteams hebben AI nodig die veilig, praktisch en klaar is voor echte druk.
“TrustX verbindt innovatie waar dit het belangrijkst is, waardoor artsen en operationele leiders een vertrouwde manier krijgen om Agentic AI te testen, evalueren en adopteren.
“Dit partnerschap zal de NHS helpen sneller te handelen, wrijving te verminderen en aanzienlijke verbeteringen in de productiviteit en patiëntenzorg te realiseren.”
Er wordt gehoopt dat TrustX de ontwikkeling van een gedeeld ecosysteem voor veilig testen, snel leren en schaalbare adoptie binnen de NHS kan informeren en ondersteunen.
Het zal een ‘vertrouwde AI-technologie’-badge introduceren om professionals en het publiek het vertrouwen te geven dat een softwaresysteem onafhankelijk is geverifieerd en in de loop van de tijd wordt gecontroleerd op veiligheid, nauwkeurigheid en uitlijning.
Sarah Woolnough, CEO van het King’s Fund, zei: “We zijn verheugd om deel uit te maken van het partnerschap om TrustX te lanceren en een rol te spelen bij het ondersteunen van de ontwikkeling, validatie en inzet van agent AI binnen een NHS-omgeving.
“Het tienjarige gezondheidszorgplan stelt terecht dat innovatie en het gebruik van geavanceerde technologie een belangrijke rol kunnen spelen bij het aanpakken van enkele van de operationele druk en uitdagingen waarmee ons gezondheidszorg- en zorgsysteem wordt geconfronteerd.
“Op de lange termijn is er een enorm potentieel voor AI – als het goed wordt geïmplementeerd – om de manier waarop de NHS werkt te transformeren, en om de patiëntenzorg en de manier waarop mensen gezondheidszorgdiensten ervaren te verbeteren.”
TrustX wordt ondersteund door oprichters van Britse gezondheidstechnologiebedrijven, waaronder dr. Dom Pimenta van TORTUS, dr. Haris Shuaib van Newtons Tree, Carmelo Insalaco van Rapid Health, dr. John Jeans van CLEARnotes, Amna Askari en Rachel Finegold van Frontier Health AI en Seb Barker van Beam.
In een gezamenlijke verklaring zeiden de oprichters: “Als oprichters van toonaangevende AI-bedrijven in de gezondheidszorg delen we de toewijding aan het bouwen van technologieën die veilig en betrouwbaar zijn en afgestemd zijn op de behoeften van artsen en patiënten.
“Door bij te dragen aan TrustX willen we een maatstaf zetten voor verantwoorde innovatie en helpen we een ecosysteem te creëren waarin AI meetbare voordelen oplevert zonder de veiligheid in gevaar te brengen.”
Ondertussen werd in september door de Medicines and Healthcare products Regulatory Agency een nationale commissie opgericht om de toegang tot de nieuwste hulpmiddelen voor kunstmatige intelligentie te versnellen, waaronder AI-omgevingsspraaktechnologie voor het maken van klinische aantekeningen.
