Een wetgever uit Californië heeft een wetsvoorstel ingediend, een primeur in het land, bedoeld om bedrijven te verbieden op AI gebaseerde chatbottechnologie te integreren in speelgoed dat voor kinderen is ontworpen. De maatregel, die vrijdag werd aangekondigd, komt voort uit groeiende zorgen over de impact van de deal kunstmatige intelligentie over kinderwelzijn en een reeks lokale en federale voorstellen om de toegang van kinderen tot LLM-chatbots te beperken.
Deze specifieke wetgeving zou zich richten op speelgoed dat vriendschap en kameraadschap simuleert door middel van brede taaltechnologie. Voor speelgoedmakers kunnen LLM’s een gemakkelijke, zij het riskante, manier zijn om een persoonlijkheid voor een bepaalde pop of personage te creëren. AI-modellen zijn niet vooraf ingesteld zoals het meeste pratende speelgoed, wat betekent dat speelgoed dat met technologie is geïntegreerd uiteindelijk allerlei ongepaste inhoud met een jong kind kan delen. Voorbeeld: de verkoop van een kunstmatig intelligente teddybeer werd in november opgeschort nadat er, toen er onderzoek naar gedaan werd, over het speelgoed begon te praten seksuele rollenspellen en verhitte ontmoetingen.
Het wetsvoorstel van de Senaat, geschreven door senator Steve Padilla, werd ontworpen als moratorium en zou, tot ten minste 1 januari 2031, de verkoop verbieden van speelgoed dat een ‘metgezelchatbot’ bevat, bedoeld voor kinderen van 12 jaar en jonger.
Het voorstel definieert een begeleidende chatbot als “een kunstmatig intelligentiesysteem met een natuurlijke taalinterface dat adaptieve, mensachtige reacties op gebruikersinvoer biedt en in staat is om aan de sociale behoeften van een gebruiker te voldoen.” Het wetsvoorstel richt zich ook op chatbottechnologie die is ontworpen om een voortdurende band met een potentieel kind te ondersteunen, “inclusief het vertonen van antropomorfe kenmerken en het kunnen onderhouden van een relatie over meerdere interacties heen.”
“Chatbots en andere AI-tools kunnen in de toekomst een integraal onderdeel van ons leven worden, maar de gevaren die ze met zich meebrengen vereisen dat we gedurfde maatregelen nemen om onze kinderen te beschermen”, zei Padilla in een verklaring. “Onze veiligheidsvoorschriften met betrekking tot dit soort technologie staan nog in de kinderschoenen en zullen net zo exponentieel moeten groeien als de mogelijkheden van deze technologie. Onze kinderen kunnen niet worden gebruikt als laboratoriumratten voor Big Tech om mee te experimenteren.”
Het is niet meteen duidelijk of het wetsvoorstel poten heeft. Maar de impact van kunstmatige intelligentie op kinderen heeft zowel lokale als federale wetgevers, en aan beide kanten, verontwaardigd. Een tweeledig federaal voorstel van de Republikeinse senator Josh Hawley uit Missouri en de Democratische senator Richard Blumenthal uit Connecticut zou bijvoorbeeld het gebruik van AI-metgezellen voor minderjarigen in het algemeen verbieden en AI-bedrijven straffen die inhoud produceren die beschikbaar is voor minderjarigen en verband houdt met seks of die om seksuele inhoud vraagt.
Het Witte Huis heeft met name staatswetgevers afgewezen die hoopten AI-technologie te reguleren. Eind vorig jaar, president Donald Trump een uitvoeringsbesluit ondertekend dit zou zich richten op staten die hun eigen wetten schrijven met rechtszaken en een reeks stappen ondernemen om een nationale aanpak vast te stellen voor het reguleren van AI op onderwerpen als de veiligheid van kinderen en vermeende censuur. Voorlopig is het echter onduidelijk hoe serieus de inspanningen van de regering-Trump werkelijk zijn.
Vertegenwoordigers van verschillende organisaties die zich richten op digitaal welzijn voor kinderen hebben niet gereageerd op een verzoek om commentaar op de wetgeving, die een dag na oudejaarsavond werd gepubliceerd.
