ELON Musk’s X wordt geconfronteerd met een onderzoek in Groot-Brittannië nadat gebruikers zijn AI-chatbot Grok hebben gevraagd om seksuele afbeeldingen van vrouwen en kinderen te maken.
Britse mediawaakhond Ofcom “dringend contact” met gehad X en zijn AI-afdeling xAI om te beoordelen of de onlineveiligheidswetten zijn overtreden.
De stap volgt op bewijs dat gebruikers foto’s konden uploaden en Grok konden vragen mensen ‘uit te kleden’ of in bikini’s te zetten – verzoeken die hij leek uit te voeren.
Activisten zeggen dat de tool ook geseksualiseerde beelden van kinderen heeft gegenereerd, wat tot wereldwijde verontwaardiging heeft geleid.
Ook al zit X nu ondergedoken GrokMet de beeldfunctie kunnen gebruikers de bot alsnog rechtstreeks op het platform vragen het materiaal te produceren.
In Groot-Brittannië is het creëren of delen van intieme beelden zonder wederzijds goedvinden – inclusief door AI aangedreven deepfakes – een strafbaar feit.
Een woordvoerder van Ofcom zei: “Het aanpakken van illegale online schade en het beschermen van kinderen blijven urgente prioriteiten voor Ofcom.
“We zijn ons bewust van de ernstige zorgen die zijn geuit over een Grok-film op X die afbeeldingen produceert van ongeklede mensen en geseksualiseerde afbeeldingen van kinderen.
“We hebben dringend contact opgenomen met X en xAI om te begrijpen wat stappen hebben besloten te voldoen aan hun wettelijke verplichtingen om gebruikers in Groot-Brittannië te beschermen.
“Op basis van hun reactie zullen we een snelle beoordeling uitvoeren om te bepalen of er mogelijke nalevingsproblemen zijn onderzoek.”
Musk zei dat “iedereen die Grok gebruikt om illegale inhoud te creëren, dezelfde gevolgen zal ondervinden als wanneer hij illegale inhoud uploadt.”
X’s Safety-account zei zondag: “We ondernemen actie tegen illegale inhoud op wet indien nodig aanvragen.”
Labour-parlementslid Alistair Strathern zei tegen de Sun: “Het kan niet juist zijn dat verachtelijke individuen kunstmatige intelligentie-instrumenten op sociale mediasites kunnen gebruiken om geseksualiseerde beelden van kinderen te creëren.
“We kunnen dit niet tolereren. Platforms moeten actie ondernemen, en als ze dat niet doen, moet de overheid alle beschikbare bevoegdheden gebruiken om een einde te maken aan deze trieste praktijk en kinderen online te beschermen”
Kantoor aan huis Minister Sarah Jones vertelde de parlementsleden dat zij en de minister van Binnenlandse Zaken de zaak “zeer serieus” namen.
