TikTok en andere sociale mediaplatforms hosten door AI gegenereerde deepfake-video’s van artsen wier woorden zijn gemanipuleerd om supplementen te helpen verkopen en desinformatie over gezondheid te verspreiden.
De factcheckende organisatie Full Fact heeft honderden van dit soort video’s ontdekt met nagebootste versies van artsen en influencers die kijkers naar Wellness Nest leiden, een in de VS gevestigd supplementenbedrijf.
Bij alle deepfakes gaat het om echte beelden van een gezondheidszorgdeskundige, afkomstig van internet. De beelden en audio zijn echter zo herwerkt dat de sprekers vrouwen in de menopauze aanmoedigen om producten zoals probiotica en Himalaya shilajit van de website van het bedrijf te kopen.
De onthullingen hebben socialemediagiganten ertoe aangezet veel voorzichtiger te zijn met het hosten van door AI gegenereerde inhoud en sneller inhoud te verwijderen die de mening van prominente mensen vertekent.
“Dit is zeker een sinistere en zorgwekkende nieuwe tactiek”, zegt Leo Benedictus, de factchecker die het onderzoek op zich heeft genomen, dat vrijdag werd gepubliceerd door Full Fact.
Hij voegde eraan toe dat makers van deepfake-gezondheidsvideo’s kunstmatige intelligentie gebruiken, zodat “iemand die zeer gerespecteerd wordt of een groot publiek heeft, deze supplementen lijkt te onderschrijven om een reeks aandoeningen te behandelen.”
Professor David Taylor-Robinson, een expert op het gebied van ongelijkheid op gezondheidsgebied aan de Universiteit van Liverpool, behoort tot degenen wier imago is gemanipuleerd. In augustus ontdekte hij tot zijn schrik dat TikTok veertien bewerkte video’s hostte waarin werd beweerd dat hij producten aanbeveelde met onbewezen voordelen.
Hoewel Taylor-Robinson een kindergezondheidsspecialist is, sprak haar gekloonde versie in één video over een vermeende bijwerking van de menopauze, genaamd ‘thermometerbeen’.
De nep-Taylor-Robinson adviseerde vrouwen in de menopauze een website te bezoeken genaamd Wellness Nest en een zogenaamd natuurlijk probioticum te kopen met “10 door de wetenschap ondersteunde plantenextracten, waaronder kurkuma, zilverkaars, Dim (diindolylmethaan) en moringa, specifiek gekozen om menopauzeklachten aan te pakken.”
Collega’s melden “vaak een diepere slaap, minder opvliegers en helderdere ochtenden binnen enkele weken”, voegde de deepfake-arts eraan toe.
De echte Taylor-Robinson ontdekte pas dat zijn beeltenis werd gebruikt toen een collega hem waarschuwde. “Het was in het begin erg verwarrend, allemaal behoorlijk surrealistisch”, zei hij. “Mijn kinderen vonden het grappig.
“Ik voelde me niet wanhopig geschonden, maar ik raakte steeds meer geïrriteerd door het idee dat mensen producten verkopen die mijn werk exploiteren en de desinformatie over de gezondheid die dat met zich meebrengt.”
De beelden van Taylor-Robinson die zijn gebruikt om de deepfake-video’s te maken, zijn afkomstig van een vaccinatietoespraak die in het openbaar werd gehouden Gezondheid Engeland (PHE) conferentie in 2017 en een parlementaire hoorzitting over kinderarmoede waar zij in mei van dit jaar getuigenis aflegde.
In een misleidende video werd hij afgebeeld terwijl hij vloekte en vrouwonvriendelijke opmerkingen maakte terwijl hij over de menopauze sprak.
TikTok verwijderde de video’s zes weken na de klacht van Taylor-Robinson. “Aanvankelijk zeiden ze dat sommige video’s in strijd waren met hun richtlijnen, maar sommige waren prima. Het was krankzinnig – en raar – omdat ik er allemaal in zat en het allemaal deepfakes waren. Het was een vergissing om ze te verwijderen”, zei hij.
Uit Full Fact bleek dat TikTok ook acht deepfakes bij zich had met vervalste verklaringen van Duncan Selbie, de voormalige CEO van PHE. Net als Taylor-Robinson werd hem ten onrechte getoond terwijl hij over de menopauze sprak, met behulp van een video van hetzelfde evenement in 2017 waar Taylor-Robinson sprak.
na de promotie van de nieuwsbrief
Eén video, wederom over de ‘thermometerpoot’, was ‘een buitengewone imitatie’, zei Selbie. “Het is van begin tot eind een complete nep. Het was niet grappig in de zin dat mensen aandacht aan deze dingen besteden.”
Full Fact vond ook soortgelijke deepfakes op X, Facebook en YouTube, allemaal gelinkt aan Wellness Nest of een verwante Britse outlet genaamd Wellness Nest UK. Het heeft schijnbare deepfakes gepubliceerd van spraakmakende artsen zoals professor Tim Spector en een andere voedingsdeskundige, wijlen dr. Michael Mosley.
Wellness Nest vertelde Full Fact dat de deepfake-video’s die mensen aanmoedigden om de website van het bedrijf te bezoeken “100% niet verbonden” waren met het bedrijf. Het zegt dat het “nooit gebruik heeft gemaakt van door AI gegenereerde inhoud”, maar “filialen wereldwijd niet kan controleren of monitoren.”
Helen Morgan, woordvoerster van de liberaal-democratische gezondheidszorg, zei: “Van nepdokters tot robots die zelfmoord aanmoedigen, kunstmatige intelligentie wordt gebruikt om op onschuldige mensen te jagen en de steeds groter wordende scheuren in ons gezondheidszorgsysteem te exploiteren.
“De liberaal-democraten roepen op om AI-deepfakes die zich voordoen als medische professionals uit te roeien, waarbij klinisch goedgekeurde hulpmiddelen zwaar worden gepromoot, zodat ze de leegte kunnen opvullen.
“Als dit individuen waren die zich op frauduleuze wijze voordeden als artsen, zouden ze vervolgd worden. Waarom wordt het digitale equivalent getolereerd?”
“Als iemand gezondheidsadvies vraagt aan een AI-robot, moet hij of zij automatisch worden doorverwezen naar NHS-ondersteuning, zodat hij de diagnose en behandeling kan krijgen die hij daadwerkelijk nodig heeft, met strafrechtelijke aansprakelijkheid voor degenen die profiteren van medische desinformatie.”
Een TikTok-woordvoerder zei: “We hebben deze inhoud (gerelateerd aan Taylor-Robinson en Selbie) verwijderd vanwege het schenden van onze regels tegen schadelijke desinformatie en gedrag dat onze community probeert te misleiden, zoals nabootsing van identiteit.
“Schadelijk misleidende, door AI gegenereerde inhoud vormt een uitdaging voor de hele sector, en we blijven investeren in nieuwe manieren om inhoud te detecteren en te verwijderen die in strijd is met onze communityrichtlijnen.”
Er is contact opgenomen met het ministerie van Volksgezondheid en Sociale Zaken voor commentaar.
