Nu miljoenen gebruikers, waaronder grote aantallen jongeren, zich steeds meer tot AI-aangedreven chatbots wenden als eerstelijns “adviseurs” en vertrouwelingen, heeft de in Seattle gevestigde startup sympathiek onderneemt actie om ervoor te zorgen dat digitale agenten geen gevaarlijk advies geven wanneer dat er het meest toe doet.
Het bedrijf, opgericht in 2021 in een poging om meer empathie in de zakelijke communicatie te brengen, kondigde maandag aan dat het uitbreidt om kernmodelontwikkelaars en op LLM gebaseerde applicatieteams te ondersteunen.
Het doel is om de software van mpathic beschikbaar te maken voor een bredere groep AI-ontwikkelaars en bedrijfspartners, aangezien AI steeds meer een interface wordt voor geestelijke gezondheidszorg en medische ondersteuning.
“We produceren in wezen evaluatiesets of trainingsdatasets om modellen veiliger te maken voor kwetsbare gebruikers, zoals kinderen of mensen met geestelijke gezondheidsproblemen, mensen in crisis”, aldus de medeoprichter en CEO. Glimlach Heergecertificeerd psycholoog en NLP-onderzoeker.
De startup maakt gebruik van zijn jarenlange werk in klinische onderzoeken en ziekenhuisomgevingen en helpt AI-teams het gedrag van modellen te testen vóór implementatie, reacties te evalueren en interacties in realtime te monitoren met veiligheidsmaatregelen die kunnen markeren, omleiden of ingrijpen wanneer dat nodig is.
“Het lijkt een beetje op mensen die synthetische data maken voor visuele AI”, zegt Lord. “Het gebeurt niet elke dag dat een kind voor een Waymo rent, maar we kunnen 10.000 manieren simuleren met synthetische data. Dat is eigenlijk wat we doen, maar vanuit psychologisch oogpunt met taal.”
In een van zijn eerste opdrachten zei mpathic dat zijn door artsen geleide programma een modelbouwer hielp ongewenste of gevaarlijke reacties met meer dan 70% te verminderen.
Om zijn expansie te stimuleren heeft mpathic in 2025 nog eens $15 miljoen opgehaald, onder leiding van Foundry VC. Het bedrijf zegt dat de overstap naar basisbeveiliging resulteerde in een vijfvoudige groei vergeleken met het voorgaande kwartaal eind vorig jaar.
Terwijl Mpathic begon met het maken van software om gesprekken te analyseren die plaatsvinden in zakelijke sms-berichten, e-mails, audiogesprekken en meer, ontwikkelt het sinds 2021 modellen voor klinische situaties met een hoog risico. Tegenwoordig omvat het bereik van de ‘human-in-the-loop’-infrastructuur van de startup een wereldwijd netwerk van duizenden erkende klinische experts. Elke week worden er honderden bij geplaatst om aan de vraag te kunnen voldoen.
“Het is een heel ander bedrijf dan een paar kwartalen geleden”, zei Lord.
Mijnheer, een finalist als Startup CEO van het Jaar bij de GeekWire Awards 2023 omschrijft ze zichzelf als een ‘techno-optimist’ en ‘realist’ als het om AI gaat, en voegt eraan toe dat ze het nut van de technologie ‘radicaal accepteert’.
“Het verbaast mij helemaal niet dat als er iets is dat 24/7 beschikbaar is en zich als een therapeut gedraagt, je ermee gaat praten en het gaat gebruiken. En dat is misschien beter dan niets”, zei hij. “Ik denk dat het potentieel van deze technologie om een echt positieve impact te hebben extreem groot is. Ik denk dat we zowel mensen als AI kunnen trainen om nauwkeurig en goed te luisteren en geen schade aan te richten.”
Zonder specifieke bedrijven of modellen te noemen, bevestigde Mpathic dat het samenwerkt met toonaangevende ontwikkelaars van fundamentele AI-modellen die tientallen miljoenen gebruikers bedienen. De startup heeft ook klinische partners, waaronder Panasonic WELL, Seattle Children’s Hospital, Transcend en anderen.
Mpathic, dat ongeveer 34 mensen in dienst heeft en volgens Lord “aanneemt als een lopend vuurtje”, heeft ook zijn leiderschapsteam uitgebreid met de toevoeging van een Chief Marketing Officer. Rebekka Bastian (Zillow, OwnTrail, Glowforge); en wetenschappelijk directeur Alison Cerzo (Adviserend lid van de American Psychological Association AI).
