Het AI-bedrijf van Elon Musk heeft de controversiële functie voor het genereren van AI-beelden van Grok beperkt tot betalende abonnees op alleen X, nadat de tool zware kritiek kreeg van over de hele wereld omdat het gebruikers in staat stelde geseksualiseerde en naaktfoto’s van vrouwen en kinderen te genereren.
In reacties op vrijdag zei Grok dat alleen betalende abonnees op X afbeeldingen op het platform kunnen genereren en bewerken. Deze limieten zijn met name niet van toepassing op de Grok-app, waarmee iedereen op het moment van publicatie afbeeldingen kon genereren zonder voor een abonnement te hoeven betalen.
Aanvankelijk beschikbaar voor iedereen met dagelijkse limieten, stelde de functie voor het genereren van afbeeldingen van Grok gebruikers in staat ieders afbeelding te uploaden en hen te vragen deze te bewerken of een geseksualiseerde of naaktversie te genereren. Wat volgde was een echte overstroming van niet-consensuele geseksualiseerde beelden van kinderen, acteurs, modellen en prominente figuren, wat de woede van meerdere naties opwekt.
X en Musk hebben beiden publiekelijk het gebruik van de tool om dergelijke afbeeldingen te produceren aan de kaak gesteld en schreven dat het bedrijf zich zou houden aan zijn beleid tegen het plaatsen van illegale inhoud op het sociale-mediaplatform. “Iedereen die grok gebruikt om illegale inhoud te creëren, zal dezelfde gevolgen ondervinden als wanneer hij illegale inhoud uploadt”, aldus Musk getweet vorige week.
Het Verenigd Koninkrijk, de Europese Unie en India hebben X en Grok allemaal publiekelijk aan de kaak gesteld voor het toestaan van dergelijk gebruik van hun capaciteiten. De EU vroeg xAI donderdag om dit te doen houden alle documentatie met betrekking tot de chatbot en het Indiase communicatieministerie van vorige week netjes X om onmiddellijke wijzigingen door te voeren om te voorkomen dat de mogelijkheden voor het genereren van beelden worden misbruikt of dat de veilige havenbescherming in het land in gevaar komt. De Britse communicatiewaakhond zei hij heeft ook contact gehad met xAI om het probleem op te lossen.
