DE Europese Commissie heeft een onderzoek gestart naar de X van Elon Musk voor de productie van seksueel expliciete afbeeldingen en de verspreiding van mogelijke kinderpornografie door de AI-chatbotfunctie van het platform, Grok.
Het formele onderzoek, dat maandag werd gelanceerd, breidt het onderzoek ook uit naar de aanbevelingssystemen van X, algoritmen die gebruikers helpen nieuwe inhoud te ontdekken.
Grok heeft internationale verontwaardiging gewekt door gebruikers toe te staan vrouwen en kinderen digitaal uit te kleden en provocerend te poseren. Grok AI genereerde ca 3 miljoen geseksualiseerde afbeeldingen in minder dan twee wekenwaaronder 23.000 die kinderen leken af te beelden, volgens onderzoekers van het Center for Countering Digital Hate.
De commissie zei dat haar nieuwe onderzoek zal “beoordelen of het bedrijf de risico’s die voortvloeien uit de activiteiten van Grok in de EU adequaat heeft beoordeeld en beperkt, inclusief risico’s over het delen van illegale inhoud zoals gemanipuleerde seksueel expliciete afbeeldingen en “inhoud die zou kunnen neerkomen op” kinderpornografie.
Het onderzoek werd gelanceerd op grond van de Digital Services Act (DSA) van de EU, een relatief nieuw stuk wetgeving dat tot doel heeft internetgebruikers te beschermen tegen een breed scala aan schade.
In een gesprek met verslaggevers zei een functionaris dat de commissie niet overtuigd was door de verzachtende maatregelen die X had getroffen om het probleem op te lossen. EU-functionarissen onderzoeken of X over systemen beschikt om de risico’s adequaat te beperken.
Bij de aankondiging van het onderzoek zei Henna Virkkunen, topambtenaar bij de Commissie voor Technologische Soevereiniteit, Veiligheid en Democratie: “Seksuele deepfakes van vrouwen en kinderen zonder wederzijds goedvinden zijn een gewelddadige en onaanvaardbare vorm van degradatie. Met dit onderzoek zullen we bepalen of X aan zijn wettelijke verplichtingen onder de DSA heeft voldaan, of dat het de rechten van Europese burgers – inclusief die van vrouwen en kinderen – heeft behandeld als bijkomende schade aan zijn dienstverlening.”
Regina Doherty, een Iers parlementslid, zei dat ze het formele onderzoek verwelkomde. “Wanneer er geloofwaardige rapporten verschijnen over AI-systemen die worden gebruikt op manieren die vrouwen en kinderen schade berokkenen, is het van essentieel belang dat de Europese wetgeving onverwijld wordt onderzocht en gehandhaafd”, aldus Doherty.
In reactie op het onderzoek verstrekte X een link naar een verklaring die op 14 januari werd gepubliceerd: “We blijven ons inzetten voor het maken van
