Makers van AI-chatbots die kinderen in gevaar brengen, zullen te maken krijgen met enorme boetes of zelfs zien dat hun diensten in Groot-Brittannië worden geblokkeerd vanwege wetswijzigingen die zullen worden aangekondigd door Keir Starmer op maandag.
Aangemoedigd door Elon Musk’s X voorkomen dat zijn Grok AI-tool geseksualiseerde beelden maakt van echte mensen in Groot-Brittannië na de publieke verontwaardiging van vorige maand plannen de ministers een “hardhandig optreden tegen verachtelijke illegale inhoud gecreëerd door kunstmatige intelligentie”.
Naarmate meer kinderen chatbots gebruiken voor van alles, van hulp bij huiswerk tot ondersteuning van de geestelijke gezondheidszorg, zei de regering dat ze “snel actie zal ondernemen om een juridische maas in de wet te dichten en alle aanbieders van AI-chatbots te dwingen te voldoen aan de onwettige inhoudsverplichtingen in de Online Safety Act, anders zullen ze consequenties ondervinden voor het overtreden van de wet.”
Starmer is ook van plan om nieuwe beperkingen op het gebruik van sociale media door kinderen te bespoedigen als deze door parlementsleden worden goedgekeurd na een openbare raadpleging over een mogelijk verbod op jongeren onder de 16 jaar. Dit betekent dat eventuele veranderingen in het gebruik van sociale media door kinderen, waaronder andere maatregelen zoals het beperken van oneindig scrollen, al deze zomer zouden kunnen plaatsvinden.
Maar de Conservatieven hebben de claim van de regering om snel te handelen afgedaan als “meer rook en spiegels”, aangezien het overleg nog niet is begonnen.
“Beweren dat ze ‘onmiddellijke actie’ ondernemen is eenvoudigweg niet geloofwaardig als hun zogenaamde dringende overleg niet eens bestaat”, zegt Laura Trott, secretaris van het schaduwonderwijs. “Labour heeft herhaaldelijk gezegd dat het geen mening heeft over de vraag of jongeren onder de 16 jaar geen toegang moeten krijgen tot sociale media. Dit is niet genoeg. Ik ben er duidelijk van dat we moeten voorkomen dat jongeren onder de 16 jaar toegang krijgen tot deze platforms.”
De stappen komen nadat online toezichthouder Ofcom heeft toegegeven dat het geen bevoegdheden heeft om actie te ondernemen tegen Grok, omdat afbeeldingen en video’s die door een chatbot zijn gemaakt zonder op internet te zoeken, buiten de reikwijdte van de bestaande wetten vallen, tenzij ze pornografie zijn. De wijziging om AI-chatbots op te nemen in de Online Safety Act zou binnen enkele weken kunnen gebeuren, ook al was de maas in de wet al meer dan twee jaar bekend.
“De technologie ontwikkelt zich erg snel en de wet moet gelijke tred houden”, aldus Starmer. “De actie die we tegen Grok hebben ondernomen, heeft een duidelijke boodschap afgegeven: geen enkel platform krijgt een gratis pas. Vandaag dichten we de gaten die kinderen in gevaar brengen en leggen we de basis voor verdere actie.”
Bedrijven die de Online Safety Act overtreden, kunnen boetes krijgen die kunnen oplopen tot 10% van de wereldwijde omzet, en toezichthouders kunnen bij de rechtbank een aanvraag indienen om hun verbinding in Groot-Brittannië te blokkeren.
Als op AI gebaseerde chatbots specifiek als zoekmachines worden gebruikt om pornografie te produceren of in een gebruikers-tot-gebruiker-context opereren, vallen ze al onder de wet. Maar ze kunnen worden gebruikt om materiaal te creëren dat mensen aanmoedigt zichzelf te beschadigen of zelfmoord te plegen, of zelfs kinderporno te genereren, zonder dat daar straffen tegenover staan. Dit is de maas in de wet die de regering zegt te willen dichten.
De CEO van de NSPCC, Chris Sherwood, zei dat jonge mensen contact opnamen met zijn hulplijn en melding maakten van schade veroorzaakt door op AI gebaseerde chatbots en dat hij er niet op vertrouwde dat technologiebedrijven deze veilig zouden ontwerpen.
In één geval ontving een 14-jarig meisje dat met een AI-chatbot sprak over haar eetgewoonten en lichaamsdysmorfie onnauwkeurige informatie. In andere gevallen zagen ze “jonge mensen zichzelf beschadigen, ook al kregen ze nog meer zelfbeschadigende inhoud aangeboden.”
“Sociale media hebben enorme voordelen voor jongeren opgeleverd, maar veel schade aangericht”, zei Sherwood. “Als we niet oppassen, zal AI dat op steroïden worden.”
Er is contact opgenomen met OpenAI, de $500 miljard kostende startup uit San Francisco achter ChatGPT, een van de populairste chatbots in Groot-Brittannië, en xAI, dat Grok maakt.
Sinds de 16-jarige Californiër Adam Raine zelfmoord pleegde na, volgens zijn familie, “maanden aanmoediging van ChatGPT”, heeft OpenAI ouderlijk toezicht gelanceerd en leeftijdsvoorspellingstechnologie geïmplementeerd om de toegang tot potentieel schadelijke inhoud te beperken.
De regering zal ook overleg moeten plegen over het dwingen van sociale-mediaplatforms om het voor gebruikers onmogelijk te maken afbeeldingen van naakte kinderen te verzenden en te ontvangen, een praktijk die al illegaal is.
Liz Kendall, de technologiesecretaris, zei: “We zullen niet wachten met het ondernemen van de actie die gezinnen nodig hebben, dus zullen we de regels voor AI-chatbots versterken en de basis leggen zodat we snel kunnen handelen op basis van de bevindingen van het jongeren- en sociale media-overleg.”
De Molly Rose Foundation, opgericht door de vader van de 14-jarige Molly Russell, die zelfmoord pleegde nadat ze schadelijke inhoud online had bekeken, noemde de stappen ‘een welkome aanbetaling’. Maar hij riep de premier op zich te engageren voor een nieuwe onlineveiligheidswet “die de regelgeving versterkt en duidelijk maakt dat productveiligheid en het welzijn van kinderen de kosten zijn van zakendoen in Groot-Brittannië”.
