OFOp de veranda van het huis van haar familie, met haar laptop op een stuk modder in de muur, werkt Monsumi Murmu vanaf een van de weinige plekken waar mobiel signaal beschikbaar is. De bekende geluiden van het huiselijk leven komen van binnenuit: gerinkel van keukengerei, voetstappen, stemmen.
Op zijn scherm speelt zich een heel ander tafereel af: een vrouw wordt vastgepind door een groep mannen, de camera trilt, er zijn geschreeuw en ademhalingsgeluiden te horen. De video is zo verontrustend dat Murmu de video versnelt, maar haar werk vereist dat ze hem tot het einde bekijkt.
Murmu, 26, is contentmoderator voor een wereldwijd technologiebedrijf en logt in vanuit haar dorp in de Indiase deelstaat Jharkhand. Het heeft tot taak afbeeldingen, video’s en teksten te classificeren die door geautomatiseerde systemen zijn gemarkeerd als mogelijke overtredingen van de regels van het platform.
Op een gemiddelde dag bekijkt het tot 800 video’s en afbeeldingen, waarbij het oordelen maakt die algoritmen trainen om geweld, misbruik en schade te herkennen.
Dit werk vormt de kern van recente doorbraken op het gebied van machinaal leren, die berusten op het feit dat kunstmatige intelligentie slechts zo goed is als de gegevens waarop deze is getraind. In India wordt dit werk in toenemende mate uitgevoerd door vrouwen, die deel uitmaken van een beroepsbevolking die vaak wordt omschreven als “spookwerkers”.
“De eerste paar maanden kon ik niet slapen”, zegt hij. “Ik sloot mijn ogen en zag nog steeds dat het scherm werd geladen.” De beelden volgden haar in haar dromen: dodelijke ongelukken, verlies van familieleden, seksueel geweld dat ze niet kon stoppen of ontsnappen. Op die avonden, zegt ze, werd haar moeder wakker en kwam bij haar zitten.
Nu, zegt ze, shockeren de beelden haar niet meer zoals vroeger. “Uiteindelijk voel je je niet gestoord, je voelt je leeg.” Er zijn nog steeds enkele nachten, zegt hij, waarin de dromen terugkeren. “Dan weet je dat het werk iets met je heeft gedaan.”
Onderzoekers zeggen dat deze emotionele verdoving – gevolgd door uitgestelde psychologische gevolgen – een kenmerk is van contentmoderatiewerk. “Er kunnen moderators zijn die aan psychologische schade ontsnappen, maar daar heb ik nog geen bewijs van gezien”, zegt Milagros Miceli, een socioloog die leiding geeft aan de Enquête over datawerkerseen project dat de rol van werknemers in kunstmatige intelligentie onderzoekt.
“In termen van risico”, zegt hij, “hoort contentmoderatie thuis in de categorie van gevaarlijk werk, vergelijkbaar met welke dodelijke industrie dan ook.”
Studies wijzen uit moderatie van inhoud veroorzaakt langdurige cognitieve en emotionele inspanning, wat vaak resulteert in gedragsveranderingen zoals verhoogde alertheid. Werknemers melden opdringerige gedachten, angst en slaapstoornissen.
A onderzoek naar contentmoderators die afgelopen december werd gepubliceerd en waaraan ook werknemers in India deelnamen, identificeerde traumatische stress als het meest uitgesproken psychologische risico. Uit het onderzoek bleek dat zelfs waar interventies en ondersteuningsmechanismen op de werkplek bestonden, aanzienlijke niveaus van secundair trauma bleven bestaan.
In 2021 werkten al ongeveer 70.000 mensen in India aan data-annotatie, wat een marktwaarde van ongeveer $250 miljoen (£180 miljoen) in 2021volgens de nationale IT-industrieorganisatie Nasscom. Ongeveer 60% van de omzet kwam uit de Verenigde Staten, terwijl slechts 10% uit India kwam.
Van 80% van de gegevensannotatie en contentmoderators komen uit landelijke, semi-landelijke of gemarginaliseerde achtergronden. Bedrijven opereren doelbewust in kleinere steden en dorpen, waar de huren en arbeidskosten lager zijn, en een groeiend aantal afgestudeerden van de eerste generatie op zoek is naar werk.
Verbeteringen op internet connectiviteit ze maakten het mogelijk om deze plaatsen rechtstreeks te verbinden met de mondiale AI-toeleveringsketens, zonder dat werknemers naar de steden moesten verhuizen.
Vrouwen vormen de helft of meer van deze beroepsbevolking. Voor bedrijven worden vrouwen gezien als betrouwbaar en gedetailleerd, en is het waarschijnlijker dat ze thuiswerk of werk op contractbasis accepteren dat als ‘veilig’ of ‘respectabel’ kan worden beschouwd. Deze banen bieden zeldzame toegang tot inkomen zonder migratie.
Een aanzienlijk aantal werknemers in deze centra komt uit Dalit- en Adivasi-gemeenschappen (stammen). Voor velen van hen, digitaal werk van welke aard dan ook vertegenwoordigt een opwaartse verschuiving; schonere, regelmatigere en beter betaalde banen dan werk in de landbouw of de mijnbouw.
Maar werken vanuit huis of dichtbij huis kan ook de marginale positie van vrouwen versterken, aldus Priyam Vadaliya, een onderzoeker die zich bezighoudt met kunstmatige intelligentie en datagestuurd werken, voorheen verbonden aan het in Bangalore gevestigde Aapti Institute.apti Institute.
“De respectabiliteit van de baan, en het feit dat deze als zeldzame bron van betaald werk op je stoep terechtkomt, schept vaak een verwachting van dankbaarheid”, zegt hij. “Een dergelijke verwachting kan werknemers ervan weerhouden om de psychologische schade die het veroorzaakt in twijfel te trekken.”
Raina Singh was 24 jaar oud toen ze begon met het annoteren van gegevens. Ze was pas afgestudeerd en lesgeven was haar plan geweest, maar de zekerheid van een maandelijks inkomen leek noodzakelijk voordat ze het zich kon veroorloven dit na te streven.
Hij keerde terug naar zijn geboorteplaats Bareilly, Uttar Pradesh, en logde elke ochtend in vanuit zijn slaapkamer, waarbij hij werkte via een extern gecontracteerd bedrijf voor wereldwijde technologieplatforms. Het loon – ongeveer £330 per maand – leek redelijk. De taakomschrijving was vaag, maar de taak leek beheersbaar.
Zijn eerste opdrachten omvatten op tekst gebaseerde taken: het screenen van korte berichten, het rapporteren van spam, het identificeren van oplichtingsachtig taalgebruik. “Het leek niet alarmerend”, zegt hij. “Gewoon saai. Maar er was ook iets spannends aan. Ik had het gevoel dat ik achter de AI werkte. Voor mijn vrienden was de AI gewoon ChatGPT. Ik zag wat het dreef.”
Maar ongeveer zes maanden later veranderden de opdrachten. Zonder waarschuwing werd Singh verplaatst naar een nieuw project gerelateerd aan een entertainmentplatform voor volwassenen. Zijn taak was het melden en verwijderen van inhoud met betrekking tot seksueel misbruik van kinderen.
“Ik had nooit gedacht dat dit bij het werk zou horen”, zegt hij. Het materiaal was grafisch en meedogenloos. Toen ze haar bezorgdheid uitte tegenover haar manager, herinnert ze zich dat haar werd verteld: ‘Dit is Gods werk: jij zorgt ervoor dat kinderen veilig zijn.’
Kort daarna veranderde de taak opnieuw. Raina en zes andere leden van zijn team kregen de taak om pornografische inhoud te classificeren. “Ik kan de hoeveelheid porno waaraan ik ben blootgesteld niet eens tellen”, zegt ze. “Het was constant, uur na uur.”
Het werk beïnvloedde zijn persoonlijke leven. “Het idee van seks begon me te walgen”, zegt ze. Ze trok zich terug uit de intimiteit en voelde zich steeds meer losgekoppeld van haar partner.
Toen Singh klaagde, was het antwoord bot: “In je contract staat data-annotatie – dat is data-annotatie.” Ze heeft haar baan opgezegd, maar een jaar later zegt ze dat de gedachte aan seks gevoelens van misselijkheid of dissociatie kan veroorzaken. “Soms, als ik bij mijn partner ben, voel ik me een vreemde in mijn lichaam. Ik wil nabijheid, maar mijn geest dwaalt steeds af.”
Vadaliya zegt dat vacatures zelden uitleggen wat de baan eigenlijk inhoudt. “Mensen worden aangenomen onder dubbelzinnige labels, maar pas nadat ze contracten hebben getekend en een opleiding zijn gestart, beseffen ze wat de eigenlijke baan is.”
Externe en parttime functies worden online agressief gepromoot als ‘makkelijk geld verdienen’ of ‘geen investeringen’ en via deze kanalen verspreid YouTube-video’s, LinkedIn-posts, Telegram-kanalen en door influencers geleide tutorials die werk als flexibel, laaggeschoold en veilig omschrijven.
The Guardian sprak met acht data-annotatie- en contentmoderatiebedrijven in India. Slechts twee zeiden dat ze psychologische steun boden aan werknemers; de anderen voerden aan dat het werk niet uitdagend genoeg was om geestelijke gezondheidszorg te vereisen.
Vadaliya zegt dat waar er steun is, het individu die moet zoeken en de last van de hulp moet afwentelen op de werknemers. “Het negeert de realiteit dat veel datawerkers, vooral degenen met een afgelegen of gemarginaliseerde achtergrond, misschien niet eens de taal hebben om te verwoorden wat ze ervaren”, zegt hij.
De afwezigheid van wettelijke erkenning van psychische schade De Indiase arbeidswetgeving, zo voegt hij eraan toe, laat werknemers ook achter zonder enige bescherming.
De psychologische tol wordt nog verergerd door isolatie. Contentmoderators en databeheerders zijn gebonden aan strikte principes geheimhoudingsovereenkomsten (NDA’s) waardoor ze niet over hun werk kunnen praten, zelfs niet met familie en vrienden. Schending van de NDA kan leiden tot beëindiging of juridische stappen.
Murmu vreesde dat als haar familie haar werk zou begrijpen, zij, net als veel andere meisjes in haar dorp, gedwongen zou worden het betaalde werk op te geven en te trouwen.
Met nog maar vier maanden te gaan op haar contract, dat ongeveer £260 per maand betaalt, weerhoudt het spook van de werkloosheid haar ervan haar zorgen over haar geestelijke gezondheid te uiten. “Het vinden van een andere baan baart mij meer zorgen dan de baan zelf”, zegt hij.
Intussen heeft hij een manier gevonden om met de angst te leven. “Ik maak lange wandelingen in het bos. Ik zit in de frisse lucht en probeer de stilte om me heen op te merken.”
Op sommige dagen verzamelt hij minerale stenen uit de aarde in de buurt van zijn huis of schildert hij traditionele geometrische patronen op de muren van het huis. “Ik weet niet of het echt iets oplost”, zegt Murmu. “Maar ik voel me een beetje beter.”
