eSafety-commissaris Julie Inman Grant zegt dat de wereldwijde aandacht van de toezichthouders gericht is op Elon Musk X heeft een “kritiek punt” bereikt na een inval in de kantoren van het bedrijf in Frankrijk deze week.
De inval van dinsdag het was onderdeel van een onderzoek waaronder vermeende misdaden van medeplichtigheid aan het bezit en de georganiseerde verspreiding van kinderpornografische afbeeldingen, schending van beeldrechten door middel van geseksualiseerde deepfakes en ontkenning van misdaden tegen de menselijkheid.
Een aantal andere landen, waaronder de Verenigd Koninkrijk EN Australië – EN de EU zijn de afgelopen weken onderzoeken naar X gestart nadat zijn AI-chatbot, Grok, werd gebruikt om op verzoek van gebruikers massaal geseksualiseerde afbeeldingen van vrouwen en kinderen te produceren.
Inman Grant vertelde Guardian Australia: “Het is fijn om niet langer solist te zijn en deel uit te maken van een koor.
“We hebben zoveel productieve discussies gehad met andere toezichthouders over de hele wereld en onderzoekers die belangrijk werk op dit gebied doen”, zei hij.
“Ik denk dat dit echt een keerpunt is. Dit is een wereldwijde veroordeling van achteloos ontwikkelde technologie die op grote schaal kinderpornografie en niet-consensuele seksuele beelden zou kunnen genereren.”
Na het protest, X heeft het genereren van Grok-afbeeldingen uitgeschakeld voor alle gebruikers, behalve voor betalende gebruikersen beloofde veranderingen aan te brengen om te voorkomen dat gebruikers echte mensen uitkleden.
Aanmelden: e-mail AU Breaking News
De bewegingen tegen
In juli 2024 werden kennisgevingen verzonden aan Apple, Discord, Google, Meta, Microsoft, Skype en WhatsApp met het verzoek om halfjaarlijkse updates van de platforms. Skype, eigendom van Microsoft, bestaat niet meer.
Inman Grant zei dat er enkele verbeteringen zijn aangebracht op de platforms, waaronder het detecteren van bekend kindermisbruikmateriaal en het voorkomen van livestreaming van misbruik buiten berichten-apps, maar de platforms schieten nog steeds tekort.
Apple, dat volgens Inman Grant eerder privacy en veiligheid als elkaar uitsluitende beschouwde, was nog verder gegaan.
“(Appel is) echt investeren… en hun capaciteiten op het gebied van communicatiebeveiliging betrekken en ontwikkelen en deze verder ontwikkelen.”
In 2024 het bedrijf begon functies uit te rollen waarmee kinderen naaktfoto’s en video’s die naar hen werden verzonden rechtstreeks naar Apple konden melden, die de berichten vervolgens aan de politie konden melden.
Maar Inman Grant zei dat de detectie van misbruik of uitbuiting van levende kinderen op FaceTime nog steeds onvoldoende is. Soortgelijke kritiek uitte hij bij Meta for Messenger, Google Meet, Snapchat, Microsoft Teams, WhatsApp en Discord.
Sommige diensten gebruiken geen spraakanalyse om proactief seksuele afpersing op te sporen, zei hij.
“Het verbaast me dat ze niet ingaan op de diensten waar de ernstigste en verwoestende schade aan kinderen overkomt. Het is alsof ze niet het hele huis volledig waterdicht maken. Ze brengen stopverf op de muren en plakken misschien de ramen af, maar repareren het dak niet.
“Ik vind het interessant om te zien hoe fragmentarisch hun implementatie van deze beveiligingstechnologieën is.”
De verbeteringen omvatten: Microsoft detecteert bekend kindermisbruikmateriaal op OneDrive en in e-mailbijlagen in Outlook; Snelle reductie van de doorlooptijd van kinderpornomeldingen van 90 minuten naar 11 minuten; en Google geeft waarschuwingen voor gevoelige inhoud uit die naaktfoto’s vervagen voordat ze worden bekeken.
Bedrijven moeten zich nog twee keer melden bij eSafety: in maart en augustus dit jaar. Inman Grant zei dat de transparantierapporten de ‘zwarte doos’ hadden geopend over wat bedrijven deden en zouden helpen bij toekomstige onderzoeken.
Dhr.
