De Europese Unie opende een formeel onderzoek naar Elon Het socialemediaplatform van Musk X Maandag na die van jou kunstmatige intelligentie schetsen zonder toestemming overgegeven geseksualiseerde deepfake-afbeeldingen op het perron.
Europese toezichthouders breidde ook een afzonderlijk, lopend onderzoek uit naar de aanbevelingssystemen van X nadat het platform zei dat het zou overschakelen naar het kunstmatige intelligentiesysteem van Grok om te kiezen welke berichten gebruikers zien.
De kritiek vanuit Brussel komt nadat Grok een wereldwijde reactie teweegbracht door gebruikers via de AI-beeldgeneratie- en bewerkingsmogelijkheden toe te staan mensen uit te kleden, vrouwen in doorzichtige bikini’s te plaatsen of kleding te onthullen. De onderzoekers zeiden dat sommige afbeeldingen kinderen leken te bevatten. Sommige regeringen hebben de dienst verboden of waarschuwingen afgegeven.
De uit 27 landen bestaande EU-bestuurder zei dat het onderzoekt of X genoeg heeft gedaan zoals vereist door de digitale regelgeving van het blok om de risico’s van het verspreiden van illegale inhoud, zoals “gemanipuleerde seksueel expliciete beelden”, te beperken.
Dit omvat inhoud die “kinderpornografie zou kunnen vormen”, aldus de Europese Commissie. Deze risico’s zijn nu “gematerialiseerd”, aldus de commissie, waardoor de burgers van het blok aan “ernstige schade” zijn blootgesteld.
Toezichthouders zullen onderzoeken of Grok voldoet aan zijn verplichtingen onder de Digital Services Act, de verregaande regelgeving van het blok om internetgebruikers te beschermen tegen schadelijke inhoud en producten.
In reactie op een verzoek om commentaar verwees een woordvoerder van X The Associated Press naar een eerdere verklaring dat het bedrijf “zich blijft inzetten om
In de verklaring van X van 14 januari staat ook dat het gebruikers niet langer zal toestaan mensen af te beelden in ‘bikini’s, ondergoed of andere onthullende kleding’, maar alleen op plaatsen waar dit als illegaal wordt beschouwd.
“Seksuele deepfakes zonder wederzijds goedvinden van vrouwen en kinderen zijn een gewelddadige en onaanvaardbare vorm van degradatie”, zegt Henna Virkkunen, uitvoerend vicevoorzitter van de commissie, in een verklaring.
“Met dit onderzoek gaan we bepalen of dat zo is
Musk’s kunstmatige intelligentiebedrijf, xAI, lanceerde afgelopen zomer de Grok-beeldvormingstool. Maar het probleem begon pas eind vorige maand te sneeuwballen, toen Grok blijkbaar voldeed aan een groot aantal gebruikersverzoeken om afbeeldingen te bewerken die door anderen waren geplaatst. Het probleem is vergroot omdat Musk zijn chatbot presenteert als een moderner alternatief met minder garanties dan rivalen, en omdat Grok’s antwoorden over X publiekelijk zichtbaar zijn en daarom gemakkelijk kunnen worden verspreid.
Het EU-onderzoek heeft alleen betrekking op de dienst van Grok op X en niet op de website en zelfstandige app van Grok. Dit komt omdat DSA’s alleen van toepassing zijn op de grootste online platforms.
Er is geen deadline voor de blokkade om de zaak op te lossen, wat zou kunnen eindigen als X belooft zijn gedrag te veranderen of een flinke boete krijgt.
In december kreeg Brussel een boete
Het blok onderzocht X ook met betrekking tot beschuldigingen dat Grok antisemitisch materiaal produceerde en vroeg de site om meer informatie.
Maleisië en Indonesië blokkeerden eerder deze maand de toegang tot Grok als reactie op de controverse en waren daarmee de eerste landen die dit deden.
Vrijdag zeiden de Maleisische autoriteiten dat ze de tijdelijke beperking hadden opgeheven nadat het bedrijf aanvullende veiligheids- en preventiemaatregelen had geïmplementeerd, zonder verdere details te geven. De Maleisische toezichthouders zeiden dat ze vorige week vertegenwoordigers van X hadden ontmoet en de situatie in de gaten zouden blijven houden.
__
AP-schrijver Eileen Ng uit Kuala Lumpur heeft bijgedragen aan dit rapport
—Kelvin Chan, zakelijk schrijver van AP
