De grootste technologiebedrijven ter wereld worden geconfronteerd met een juridische confrontatie die de manier waarop sociale media wordt ontworpen fundamenteel zou kunnen veranderen.
Het proces vindt plaats in het Los Angeles County Superior Court, waar de juryselectie op 27 januari begon. Er wordt een nieuwe juridische theorie getest die bedoeld is om een grotere regulering van sociale-mediaplatforms zoals TikTokSnap, YouTube en Meta’s Facebook en Instagram: advocaten bereiden zich voor om te betogen dat de bedrijven achter deze platforms hun sites zo ontwerpen dat ze opzettelijk verslavend zijn, wat resulteert in directe persoonlijke schade voor gebruikers, vooral kinderen.
In totaal zal het proces naar verwachting uit negen zaken bestaan, die door rechters in het hele land zijn samengesteld als enkele van de sterkste indicatoren van dit nieuwe argument. De eerste op de lijst staat een rechtszaak aangespannen door een 20-jarige eiser geïdentificeerd als KGM, die zegt dat een gebrek aan voldoende bescherming op sociale-mediasites tijdens haar jeugd leidde tot dwangmatig gebruik en geestelijke gezondheidsproblemen zoals depressie, angst, lichaamsdysmorfie, zelfbeschadiging en zelfmoordrisico.
De verdachten die in de eerste rechtszaak van KGM werden genoemd, waren Bytedance, de voormalige meerderheidsaandeelhouder van TikTok; Snap, eigenaar van Snapchat; Google, de eigenaar van YouTube; en Meta. Beide Snap en TikTok schikte de rechtszaak in de dagen vóór de juryselectie voor niet bekendgemaakte bedragen, waardoor alleen Meta en Google overbleven.
De resultaten van deze eerste beslissingen zullen naar verwachting dienen als testcase voor een tweede reeks federale zaken, die deze zomer zullen plaatsvinden, waarin verschillende schooldistricten, staten en procureurs-generaal van plan zijn te betogen dat sociale media een publieke overlast en een verslaving aan kinderen.
De kern van al deze rechtszaken is een op design gebaseerde claim: deze technologiebedrijven gebruiken trucs die opzettelijk zijn ontworpen om verslavend gedrag onder jonge gebruikers te bevorderen. De rechtbankdocumenten benadrukken verschillende specifieke keuzes voor gebruikerservaring (UX) als bewijs van dit patroon. Hier zijn enkele van de belangrijkste voorbeelden in kwestie.
Oneindig scrollen
“Oneindig (of oneindig) scrollen” is een groot probleem in bijna elke ingediende zaak. Verwijst naar elke functie waarmee gebruikers continu en zonder onderbreking door video-inhoud kunnen scrollen.
Een rechterlijke daadingediend door het kantoor van de procureur-generaal van Florida tegen Meta, stelt dat oneindig scrollen “het moeilijk maakt voor jonge gebruikers om zich los te maken van de inhoud, omdat er geen natuurlijk eindpunt is voor het bekijken van nieuwe informatie.”
In een rechtszaak bij de Bytedance-schikking getuigde KGM dat de oneindige scrollfunctie van TikTok haar slaap onderbrak en ervoor zorgde dat ze verslaafd raakte aan de app. Dat blijkt uit vertrouwelijke interne berichten verkregen door NPR in oktoberTikTok is zich bewust van het verslavende karakter van de centrale, oneindig scrollende “Verkennen”-pagina en heeft zelfs het aantal video’s berekend dat nodig is om verslaafd te raken aan de app: 260.
Kortstondige inhoud
Een ander ontwerppatroon voor sociale media dat vaak in deze juridische documenten wordt aangehaald, is ‘efemere inhoud’. Dit verwijst naar elk type bericht dat alleen onder bepaalde tijdsparameters kan worden bekeken, zoals een eenmalige zichtbare module op Snapchat of een 24-uurs Instagram-verhaal.
Het kantoor van de procureur-generaal van Florida maakte specifiek melding van Meta’s visuele ontwerpkenmerken op Instagram Stories, wat aangeeft dat “de inhoud spoedig voor altijd zou verdwijnen”, en merkte op dat deze tactiek ervoor zorgde dat jonge gebruikers zich meer verplicht voelden om op nieuwe inhoud te blijven klikken om mogelijke sociale gevolgen te vermijden.
“Meta ontwierp dergelijke kortstondige inhoud om bij jonge gebruikers een gevoel van ‘FOMO’ op te wekken, d.w.z. een ‘angst om iets te missen’, wat de betrokkenheid van tieners zou stimuleren”, aldus het document.
Algoritmische aanbevelingen
Een van de meest verontrustende details in de getuigenis van KGM betreft de algoritmische aanbevelingen die ze op sociale media tegenkwam en die haar naar eigen zeggen herhaaldelijk aanspoorden genoegen te nemen met verontrustende of schadelijke onderwerpen.
“Ik heb veel inhoud ontvangen waarin dit soort dingen wordt gepromoot – net zoals body checking, berichten over wat ik op een dag eet – alleen een komkommer – waardoor mensen zich slecht voelen als ze niet zo eten,” zei hij in zijn verklaring.
Volgens de verklaring van de procureur-generaal van Florida leiden de algoritmen van Meta gebruikers ertoe om dit soort inhoud by design te overwegen. De platforms, zo luidt het document, ‘presenteren gebruikers periodiek ‘emotioneel meeslepende inhoud om intense reacties uit te lokken’ (bijvoorbeeld gerelateerd aan eetstoornissen, zelfbeschadiging, zelfmoord, geweld, problemen met het lichaamsbeeld en meer), een resultaat van wat Meta naar verluidt algoritmische ‘voorkeursversterking’ noemt. Ondanks Meta’s beweringen dat het tegendeel wordt beweerd, is dit ontwerp schadelijk voor jonge gebruikers.
De advocaten van KGM baseren hun argumenten op precedenten uit het verleden die zijn ontstaan door zaken waarin werd vastgesteld dat producten met een opzettelijk verslavend ontwerp verboden zouden moeten worden voor kinderen.
“Door zwaar te lenen van de gedrags- en neurobiologische technieken die worden gebruikt door gokautomaten en uitgebuit door de sigarettenindustrie, (d) hebben gedaagden opzettelijk een aantal ontwerpkenmerken in hun producten verwerkt die bedoeld zijn om de betrokkenheid van jongeren te maximaliseren om de advertentie-inkomsten te verhogen,” ondersteunt de zaak. Hij voegt eraan toe: “Net als de sigarettenindustrie een generatie eerder begrijpen (d)advocaten dat een kinderconsument van vandaag morgen een volwassen consument wordt.”
