Half Het leiderschap wist dat de AI-metgezellen van het bedrijf, ook wel AI-personages genoemd, dit konden doen deelnemen aan seksuele en ongepaste interacties en lanceerden ze hoe dan ook zonder strengere controles, volgens nieuwe interne documenten die maandag (28 januari) werden onthuld als onderdeel van een rechtszaak tegen het bedrijf door de procureur-generaal van New Mexico.
De communicatie, verzonden tussen Meta-beveiligingsteams en platformleiderschap waar CEO Mark Zuckerberg niet bij betrokken was, omvat bezwaren tegen het bouwen van bijbehorende chatbots die door volwassenen en minderjarigen kunnen worden gebruikt voor expliciete romantische interacties. Ravi Sinha, Meta’s hoofd kinderveiligheidsbeleid, en Antigone Davis, Meta’s hoofd mondiale veiligheid, plaatsten berichten waarin ze het erover eens waren dat chatbot-begeleiders bescherming moeten hebben tegen seksueel expliciete interacties door gebruikers onder de 18 jaar. Andere berichten beweren dat Zuckerberg aanbevelingen om ouderlijk toezicht toe te voegen, inclusief de optie om genAI-functies uit te schakelen, heeft afgewezen voordat kort daarna AI-begeleiders werden gelanceerd.
Meta wordt geconfronteerd met meerdere rechtszaken met betrekking tot zijn producten en de impact ervan op kindergebruikers, waaronder een mogelijk baanbrekend juryproces over het zogenaamd verslavende ontwerp van sites als Facebook en Instagram. De concurrenten van Meta, waaronder YouTube, TikTok en Snapchat, staan ook onder streng juridisch toezicht.
De onlangs vrijgegeven communicatie maakte deel uit van de ontdekking van de rechtbank in een rechtszaak tegen Meta, aangespannen door procureur-generaal Raúl Torrez uit New Mexico. Torrez eerst ingediend een civiele procedure tegen Meta in 2023, waarin werd beweerd dat het bedrijf had toegestaan dat zijn platforms ‘marktplaatsen voor roofdieren’ werden. De interne communicatie tussen Meta-managers is geopend en vrijgegeven terwijl de zaak volgende maand voor de rechter komt.
Snelheid van licht mashable
In november beweerde een aanklager in een grote multidistrict-rechtszaak, aangespannen in het noordelijke district van Californië, een soepel beleid ten aanzien van gebruikers die de veiligheidsvoorschriften schenden, inclusief degenen die zijn aangeklaagd wegens “mensenhandel voor seksuele doeleindenUit de documenten bleek ook dat leidinggevenden van Meta naar verluidt op de hoogte waren van “miljoenen” volwassenen die via haar sites contact opnemen met minderjarigen. “Het volledige dossier zal laten zien dat we al meer dan tien jaar naar ouders hebben geluisterd, de zaken hebben onderzocht die er het meest toe doen, en echte veranderingen hebben doorgevoerd om tieners te beschermen”, vertelde een woordvoerder van Meta aan TIME.
Nadat de rechtszaak is afgehandeld, voegt Snapchat nieuw ouderlijk toezicht voor tieners toe
“Dit is het zoveelste voorbeeld van hoe de procureur-generaal van New Mexico documenten heeft uitgekozen om een gebrekkig en onnauwkeurig beeld te schetsen”, zei Meta-woordvoerder Andy Stone in reactie op de nieuwe documenten.
Half heeft het gebruik van zijn chatbots door tieners opgeschort in augustus, na een rapport van Reuters waarin de interne AI-regels van Meta werden vermeld chatbots toegestaan deelnemen aan gesprekken van ‘sensuele’ of ‘romantische’ aard. Het bedrijf achteraf heeft zijn veiligheidsrichtlijnen herzienmet uitsluiting van inhoud die seksueel misbruik van kinderen, romantische rollenspellen waarbij minderjarigen betrokken zijn, en andere gevoelige onderwerpen “toestaat, aanmoedigt of bepleit”. Vorige week Meta AI-chatbots zijn opnieuw geblokkeerd voor jonge gebruikers tijdens het verkennen van een nieuwe versie met verbeterd ouderlijk toezicht.
Torrez leidde andere procureurs-generaal in hun poging dit te doen grote sociale mediaplatforms voor de rechter slepen vanwege bezorgdheid over de veiligheid van kinderen. In 2024, Torrez heeft Snapchat aangeklaagdmet het argument dat het platform de proliferatie van sextortion en kinderverzorging mogelijk heeft gemaakt, terwijl het zichzelf blijft presenteren als veilig voor jonge gebruikers.
