Het Information Commissioner’s Office (ICO) heeft een formeel onderzoek geopend naar X en xAI naar de vraag of de bedrijven van Elon Musk de wetgeving inzake gegevensbescherming naleefden nadat de Grok AI-tool werd gebruikt om zonder toestemming seksuele deepfake-beelden te genereren.
De ICO zei dat de rapporten “ernstige zorgen” opriepen onder de Britse wetgeving inzake gegevensbescherming, zoals de vraag of “er adequate waarborgen zijn ingebouwd in het ontwerp en de implementatie van Grok”.
William Malcolm, uitvoerend directeur van Regulatory Risk and Innovation bij de ICO, zei: “De rapporten in Grok roepen diep zorgwekkende vragen op over de manier waarop de persoonlijke gegevens van mensen zijn gebruikt om intieme of geseksualiseerde beelden te genereren zonder hun medeweten of toestemming, en of de noodzakelijke waarborgen zijn getroffen om dit te voorkomen.
“Het op deze manier verliezen van de controle over persoonlijke gegevens kan onmiddellijke en aanzienlijke schade veroorzaken. Dit geldt vooral als er kinderen bij betrokken zijn.”
In een aparte verklaring zei toezichthouder Ofcom dat het geen onderzoek deed naar xAI, dat de zelfstandige Grok-app levert.
Ofcom bevestigde ook zijn onderzoek Xhet sociale netwerk, voorheen bekend als Twitter, waarop gebruikers met Grok kunnen communiceren, was nog steeds bewijsmateriaal aan het verzamelen en waarschuwde dat het onderzoek maanden zou kunnen duren.
Het bedrijf heeft stappen ondernomen om het probleem aan te pakken en moet “volledige gelegenheid krijgen om opmerkingen te maken”, voegde Ofcom eraan toe.
Over de reden waarom het xAI niet onderzocht, luidde de verklaring: “Toen we ons onderzoek naar X openden, zeiden we dat we aan het evalueren waren of we ook xAI moesten onderzoeken, als aanbieder van de zelfstandige dienst van Grok.
“We blijven antwoorden van xAI eisen over de risico’s die het met zich meebrengt. We evalueren of we een onderzoek moeten starten naar de naleving van de regels die vereisen dat diensten die pornografisch materiaal publiceren, zeer effectieve leeftijdscontroles gebruiken om te voorkomen dat kinderen toegang krijgen tot dergelijke inhoud.
“Vanwege de wijze waarop de wet zich verhoudt tot chatbots, zoals hierboven uiteengezet, kunnen wij in dit geval momenteel geen onderzoek doen naar het maken van illegale afbeeldingen door de autonome dienst Grok.”
