Hallo en welkom bij TechScape. Gelukkig nieuwjaar! Ik hoop dat jouw 2026 een goede start kent. Tegenwoordig onderzoeken we op technologisch gebied de bevindingen van de AI-chatbot van Elon Musk, Grok, en het Amerikaanse verbod op buitenlandse drones.
Binnen Grok’s “veiligheidslacunes”.
Eind vorige week ontketende de Grok-chatbot van Elon Musk een golf van afbeeldingen van naakte, nauwelijks geklede vrouwen, zowel echte als denkbeeldige, als reactie op openbare verzoeken van gebruikers op X, voorheen Twitter. De door volwassenen gegenereerde beelden werden vermengd met die van jonge meisjes – kinderen – die ook ‘minimale kleding’ droegen Grok zelf.
Op een ongekende manier bood de chatbot zelf zijn excuses aan, terwijl zijn maker, xAI, zweeg: “Zoals opgemerkt hebben we hiaten in de veiligheidsmaatregelen geïdentificeerd en pakken we deze dringend aan: CSAM-materiaal (kinderpornografie) is illegaal en verboden”, zei Grok in een bericht op X.
X had nog eens drie dagen nodig om te bevestigen in a verklaring kinderpornografisch materiaal proactief te hebben verwijderd.
In Europa werd de stortvloed aan geseksualiseerde beelden van Grok sterk veroordeeld. Kinderwelzijn en kindermisbruik vormen vaak een derdelijnsvraagstuk in de technologie, lokken een sterkere reactie uit dan andere kwesties en vormen de basis voor regulering. Franse ministers verwezen de beelden naar lokale aanklagers en noemden de ‘seksuele en seksistische’ output van de bot ‘kennelijk illegaal’. In Groot-Brittannië zagen vrouwenrechtenactivisten en sommige politici het debacle als bewijs dat de Britse regering “vertraagd” was met het aannemen van wetgeving die het maken van dergelijke intieme beelden illegaal maakte.
In de Verenigde Staten, waar xAI een contract van 200 miljoen dollar heeft met het leger, zijn de wetgevers grotendeels stil gebleven.
Musk had een foto van zijn eigen bikinilichaam opnieuw gepost toen de trend aansloeg, samen met lachende emoji’s. Naarmate de controverse groeide, ging hij er echter niet op in, maar twitterde hij over Grok’s vermogen om oude Hollywood-films te repliceren en maak kattenvideo’s.
Er was één persoon met een bijzondere band met Musk die zijn verontwaardiging uitte over de stortvloed aan geseksualiseerde beelden: Ashley St Clair, de moeder van een van de kinderen van de miljardair, ook al zijn de twee vervreemd. In een interview samen met de Guardian schetste hij de impact van Groks beelden in de echte wereld.
De aanhangers van Musk hadden Grok gebruikt om haar aan te vallen, zei ze, en hadden zelfs een foto van haar als kind verwijderd. Het was een vorm van wraakporno, zei hij.
“Ik voelde me geschokt, ik voelde me geschonden, vooral toen ik de rugzak van mijn baby op de rug zag”, zei St Clair over een ander beeld waarin ze in een bikini werd geplaatst, gedraaid en voorovergebogen.
Zijn klachten aan het X-personeel leverden niets op, zei hij.
VS volgen TikTok-benadering van drones
Twee dagen voor Kerstmis verbood de Verenigde Staten de verkoop van nieuwe versies van in het buitenland gemaakte drones. Oude kunnen nog steeds worden gebruikt en verkocht, maar nieuwe producten zijn niet toegestaan.
Het bevel komt van de Amerikaanse Federal Communications Commission, geleid door de aanvalshond van Donald Trump tegen de media, Brendan Carr. De FCC zei in een verklaring dat het Witte Huis “een uitvoerend orgaan met passende nationale veiligheidsexpertise” had bijeengeroepen om een onderzoek uit te voeren naar de dreiging die uitgaat van in het buitenland gemaakte onbemande luchtsystemen, de naam van de regering voor drones.
De groep concludeerde dat onbemande luchtsystemen en componenten die overal behalve in eigen land worden geproduceerd “onaanvaardbare risico’s vormen voor de nationale veiligheid van de Verenigde Staten en voor de veiligheid en beveiliging van Amerikaanse burgers” en moeten worden opgenomen op de “algemene lijst” van de FCC. Lidmaatschap op de lijst sluit de verkoop of zelfs marketing van de betreffende apparatuur in de Verenigde Staten uit.
De FCC-verklaring vervolgt: “In hun vastberadenheid verwezen de nationale veiligheidsdiensten onder meer naar het feit dat in het buitenland gemaakte UAS zou kunnen zijn gebruikt voor aanvallen en verstoringen, ongeoorloofde surveillance, exfiltratie van gevoelige gegevens en andere UAS-bedreigingen voor het thuisland. De nadruk ligt hier op de mijne.
De FCC heeft geen materiaal vrijgegeven dat aan het publiek aantoont dat in het buitenland gemaakte drones daadwerkelijk op de hierboven beschreven schadelijke manieren zijn gebruikt. Het potentieel is er, maar de daad niet.
Misschien lijkt de FCC minder om de nationale veiligheid te geven dan om economisch protectionisme. In de factsheet van het bureau staat: “Bovendien kwam uit de beslissing naar voren dat het vertrouwen op dergelijke apparaten onaanvaardbaar is ondermijnt de Amerikaanse drone-industriële basis.” Nogmaals, onderstreep de mijne. De focus op de industriële basis weerspiegelt de voorspellingen van Trump dat halfgeleiderchips en zelfs hele iPhones in de Verenigde Staten zullen worden gemaakt. Experts zeggen dat zijn droom om de productiesector te repatriëren ver weg is.
De grootste dronefabrikant ter wereld, DJI, zei in een reactie: “De zorgen van DJI over gegevensbeveiliging zijn niet gebaseerd op bewijsmateriaal, maar weerspiegelen in plaats daarvan protectionisme, in strijd met de principes van een open markt.” Het bedrijf is gevestigd in Shenzhen, China en valt daarom onder de verordening.
Als dit bekend klinkt, werd TikTok onderworpen aan een soortgelijk bevel, gedwongen om te verkopen aan een Amerikaanse eigenaar of een regelrecht verbod te ondergaan op grond van een potentiële bedreiging voor de nationale veiligheid. Het bedrijf heeft de last van het verbieden of afstoten tot aan het Hooggerechtshof aangevochten.
De strijd leverde geen bewijs op dat de angsten van de regering ondersteunde. Tijdens de juridische strijd vroegen Amerikaanse regeringsadvocaten of de motivaties achter de bezorgdheid over de nationale veiligheid van het Congres verborgen zouden worden gehouden voor het publiek en zelfs voor de advocaat van TikTok. Het Hooggerechtshof kwam uiteindelijk tot de beslissing om het verbod of de desinvesteringswet te handhaven zonder vertrouwelijk materiaal in overweging te nemen.
De Verenigde Staten bereikten in december een akkoord om TikTok gedeeltelijk te verkopen aan bedrijfssoftwaregigant Oracle.
DJI heeft niet gezegd of het het FCC-verbod voor de rechter zal aanvechten.
