Wetgevers in de staat Washington proberen een nieuwe regulering van kunstmatige intelligentie uit te voeren en lanceren deze sessie een reeks wetsvoorstellen die gericht zijn op het beteugelen van discriminatie, het beperken van het gebruik van kunstmatige intelligentie op scholen en het opleggen van nieuwe verplichtingen aan bedrijven die emotioneel responsieve kunstmatige intelligentieproducten bouwen.
De staat heeft in het verleden beperkende wetten aangenomen met betrekking tot kunstmatige intelligentie, waaronder beperkingen op gezichtsherkenning en de verspreiding van deepfakes, maar bredere inspanningen zijn vaak tot stilstand gekomen, waaronder voorstellen Vorig jaar lag de nadruk op transparantie en openbaarmaking van de ontwikkeling van AI.
De wetsvoorstellen van dit jaar zijn gericht op kinderen, geestelijke gezondheidszorg en beslissingen die hoge belangen met zich meebrengen, zoals aanwerving, huisvesting en leningen. De wetsvoorstellen kunnen gevolgen hebben voor aanbieders van HR-software, onderwijstechnologiebedrijven, startups in de geestelijke gezondheidszorg en platforms voor generatieve kunstmatige intelligentie die in Washington actief zijn.
De voorstellen komen op een moment dat het Congres blijft debatteren over het toezicht op AI, zonder dat er concrete actie wordt ondernomen, waardoor staten met hun eigen vangrails kunnen experimenteren. Een tussentijds rapport onlangs uitgebracht uit de staat Washington Taskforce voor kunstmatige intelligentie merkt op dat de ‘interactieve’ benadering van AI door de federale overheid ‘een cruciale leemte in de regelgeving heeft gecreëerd die de inwoners van Washington kwetsbaar maakt’.
Hier is een blik op vijf AI-gerelateerde wetsvoorstellen die vooraf zijn geïntroduceerd vóór de officiële start van de zittingsperiode, die maandag begint.
Dit ingrijpende wetsvoorstel zou zogenaamde kunstmatige-intelligentiesystemen met hoge inzet reguleren die worden gebruikt om beslissingen te nemen of aanzienlijk te beïnvloeden over werkgelegenheid, huisvesting, krediet, gezondheidszorg, onderwijs, verzekeringen en voorwaardelijke vrijlating.
Bedrijven die deze systemen in Washington ontwikkelen of implementeren, moeten de risico’s van discriminatie beoordelen en beperken, bekendmaken wanneer mensen met de AI omgaan, en uitleggen hoe de AI heeft bijgedragen aan ongunstige beslissingen. Consumenten zouden ook uitleg kunnen krijgen voor beslissingen die door AI worden beïnvloed.
Het voorstel zou niet van toepassing zijn op tools met een laag risico, zoals spamfilters of eenvoudige chatbots voor de klantenservice, noch op kunstmatige intelligentie die uitsluitend voor zoeken wordt gebruikt. Het kan echter gevolgen hebben voor een breed scala aan technologiebedrijven, waaronder leveranciers van HR-software, fintech-bedrijven, verzekeringsplatforms en grote werkgevers die geautomatiseerde screeningtools gebruiken. Het wetsvoorstel zou op 1 januari 2027 in werking treden.
Dit wetsvoorstel, aangevraagd door gouverneur Bob Ferguson, richt zich op AI-chatbots en vereist herhaalde onthullingen dat een AI-chatbot geen mens is, seksueel expliciete inhoud voor minderjarigen verbiedt en protocollen voor zelfmoordpreventie verplicht stelt. De schendingen zouden onder de Consumer Protection Act van Washington vallen.
De bevindingen van het wetsvoorstel waarschuwen dat chatbots die verband houden met kunstmatige intelligentie de grens tussen menselijke en kunstmatige interactie kunnen vervagen en kunnen bijdragen aan emotionele afhankelijkheid of schadelijke ideeën kunnen versterken, waaronder zelfbeschadiging, vooral onder minderjarigen.
Deze regels kunnen een directe impact hebben op startups op het gebied van de geestelijke gezondheidszorg en het welzijn die experimenteren met op AI gebaseerde therapieën of hulpmiddelen voor emotionele ondersteuning, waaronder bedrijven die op AI gebaseerde diensten op het gebied van de geestelijke gezondheidszorg onderzoeken, zoals de startup in Seattle. NieuweDagen.
Babak Parviz, CEO van NewDays en voormalig Amazon-leider, zei dat hij gelooft dat het wetsvoorstel goede bedoelingen heeft, maar voegde eraan toe dat het moeilijk te handhaven zou zijn omdat “het opbouwen van een langetermijnrelatie hier zo vaag gedefinieerd is.”
Parviz zei dat het belangrijk is om systemen te onderzoeken die met minderjarigen communiceren om er zeker van te zijn dat ze geen schade aanrichten. “Voor kritische AI-systemen die met mensen communiceren, is het belangrijk om een zekere mate van menselijk toezicht te hebben”, zei hij. “Ons AI-systeem staat bij klinisch gebruik bijvoorbeeld onder toezicht van een deskundige menselijke arts.”
OpenAI en gezond verstand betekent ze werken samen aan een steminitiatief in Californië richtte het zich ook op chatbots en minderjarigen.
Een aanverwant wetsvoorstel gaat zelfs nog verder en creëert mogelijke wettelijke aansprakelijkheid wanneer een AI-systeem zou hebben bijgedragen aan iemands zelfmoord.
Op grond van dit wetsvoorstel kunnen bedrijven te maken krijgen met juridische stappen als hun AI-systeem zelfbeschadiging aanmoedigt, instructies geeft of er niet in slaagt gebruikers naar crisisbronnen te leiden – en zij zouden niet meer kunnen beweren dat de schade uitsluitend is veroorzaakt door het autonome gedrag van de AI.
Indien geïmplementeerd zou de maatregel het ontwerp en de werking van het AI-systeem expliciet koppelen aan beschuldigingen van doodslag. Het wetsvoorstel komt te midden van toenemende juridische kritiek op chatbots in begeleidende stijl, waaronder rechtszaken waarbij Character.AI en OpenAI betrokken zijn.
Het richt zich op het gebruik van kunstmatige intelligentie in basis- en voortgezet onderwijs, door voorspellende “risicoscores” te verbieden die leerlingen als waarschijnlijke onruststokers bestempelen en door real-time biometrische surveillance, zoals gezichtsherkenning, te verbieden.
Scholen zouden er ook van worden weerhouden AI te gebruiken als enige basis voor schorsingen, uitzettingen of doorverwijzingen naar rechtshandhavingsinstanties, waardoor wordt versterkt dat het menselijk oordeel centraal moet blijven staan bij disciplinaire beslissingen.
Opvoeders en pleitbezorgers van burgerrechten hebben alarm geslagen over voorspellende instrumenten die dit kunnen doen verschillen vergroten in de discipline.
Dit voorstel actualiseert het publiciteitsrecht van Washington om door AI gegenereerde nagemaakte digitale gelijkenissen expliciet te dekken, inclusief overtuigende stemklonen en synthetische beelden.
Het zonder toestemming gebruiken van iemands door AI gegenereerde gelijkenis voor commerciële doeleinden kan bedrijven blootstellen aan aansprakelijkheid, waardoor wordt versterkt dat bestaande identiteitsbeschermingen van toepassing zijn in het tijdperk van AI – en niet alleen voor beroemdheden en publieke figuren.
