Ze zijn schattig, zelfs knuffelig, en beloven leerplezier en gezelschap, maar… AI-speelgoed is niet veilig voor kinderenVolgens kinder- en consumentenbelangengroepen die er bij ouders op aandringen om ze tijdens de feestdagen niet te kopen vakantie seizoen.
Dit speelgoed, dat op de markt wordt gebracht voor 2-jarigen, wordt doorgaans aangedreven door NAAR DE reeds getoonde modellen schade toebrengen aan kinderen en adolescentenzoals ChatGPT van OpenAI, volgens een bericht dat donderdag is gepubliceerd door de kinderbelangenorganisatie Fairplay en is ondertekend door meer dan 150 organisaties en individuele experts zoals kinderpsychiaters en opvoeders.
“De ernstige schade die AI-aangedreven chatbots aan kinderen hebben toegebracht, is goed gedocumenteerd, waaronder het aanmoedigen van obsessief gebruik, expliciete seksuele gesprekken en het aanmoedigen van onveilig gedrag, geweld tegen anderen en zelfbeschadiging”, aldus Fairplay.
AI-speelgoed, gemaakt door bedrijven als Curio Interactive en Keyi Technologies, wordt vaak als educatief op de markt gebracht, maar Fairplay zegt dat het belangrijke creatieve en leeractiviteiten kan vervangen. Ze beloven vriendschap, maar verstoren ook de relaties en de veerkracht van kinderen, aldus de groep.
“Het verschil bij jonge kinderen is dat hun hersenen voor het eerst worden bedraad en dat het in hun ontwikkeling voor hen normaal is om vertrouwen te hebben en relaties te zoeken met vriendelijke, vriendelijke karakters”, zegt Rachel Franz, directeur van Fairplay’s Young Children Thrive Offline-programma. Om deze reden, zo voegde hij eraan toe, kan de hoeveelheid vertrouwen die kinderen in dit speelgoed stellen de schade die bij oudere kinderen wordt gezien, verergeren.
Fairplay, een 25 jaar oude organisatie die voorheen bekend stond als de Campaign for an Ad-Free Childhood, waarschuwt al meer dan tien jaar voor AI-aangedreven speelgoed. Ze waren gewoon nog niet zo geavanceerd als nu. Tien jaar geleden, tijdens de opkomende rage voor op internet aangesloten speelgoed en stemherkenning door kunstmatige intelligentie, hielp de groep een reactie op gang te brengen tegen Mattels pratende Hello Barbie-pop, die naar verluidt de gesprekken van kinderen opnam en analyseerde.
“Alles werd vrijgegeven zonder regelgeving en zonder onderzoek, dus het geeft ons nog meer pauze wanneer we plotseling zien dat steeds meer fabrikanten, waaronder Mattel, die onlangs samenwerkte met OpenAI, deze producten mogelijk lanceren”, zei Franz.
Het is de tweede grote seizoenswaarschuwing tegen AI-aangedreven speelgoed sinds consumentenbelangenbehartigers bij de Amerikaanse PIRG vorige week de trend benadrukten in hun jaarlijkse rapport.Problemen in Speelgoedland“rapport dat doorgaans een verscheidenheid aan productgerelateerde gevaren onderzoekt, zoals krachtige magneten en knoopbatterijen die kleine kinderen kunnen inslikken. Dit jaar testte de organisatie vier speelgoed dat gebruikmaakt van AI-aangedreven chatbots.
“We ontdekten dat sommige van deze speeltjes diepgaande gesprekken voeren over seksueel expliciete onderwerpen, advies geven over waar een kind lucifers of messen kan vinden, geschokt reageren als je zegt dat je weg moet en dat er weinig of geen ouderlijk toezicht is”, aldus het rapport. Een van het speelgoed, een teddybeer gemaakt door het in Singapore gevestigde FoloToy, werd later teruggeroepen door de CEO vertelde hij deze week aan CNN.
Dr. Dana Suskind, een kinderchirurg en sociaal wetenschapper die de vroege hersenontwikkeling bestudeert, zei dat jonge kinderen niet over de conceptuele hulpmiddelen beschikken om te begrijpen wat een AI-metgezel is. Hoewel kinderen altijd een band hebben gehad met speelgoed door middel van fantasierijk spel, gebruiken ze wanneer ze dat doen hun verbeeldingskracht om beide kanten van een fantasiegesprek te creëren, “waarbij ze creativiteit, taal en probleemoplossing oefenen”, zei ze.
“Een AI-speelgoed vernietigt dat functioneren. Het reageert onmiddellijk, soepel en vaak beter dan een mens zou doen. We kennen nog niet de gevolgen voor de ontwikkeling van het uitbesteden van dat fantasierijke werk aan een kunstmatige agent, maar het is zeer aannemelijk dat het het soort creativiteit en de uitvoerende functie ondermijnt die traditioneel fantasiespel opbouwt, ” zei Suskind.
Het in Peking gevestigde Keyi, maker van een AI-“petbot” genaamd Loona, reageerde deze week niet op verzoeken om commentaar, maar andere AI-speelgoedfabrikanten hebben geprobeerd hun bescherming van de veiligheid van kinderen onder de aandacht te brengen.
Het in Californië gevestigde Curio Interactive maakt knuffels, zoals raketvormige Gabbo en Grok, gepromoot door popzanger Grimes.
Curio zei dat het ‘nauwgezet’ vangrails heeft ontworpen om kinderen te beschermen en dat het bedrijf ouders aanmoedigt om ‘gesprekken te volgen, informatie te volgen en de controles te kiezen die het beste werken voor hun gezin’.
“Na beoordeling van de bevindingen van het Amerikaanse PIRG Education Fund werken we actief samen met ons team om eventuele problemen aan te pakken, waarbij we voortdurend toezicht houden op de inhoud en interacties om een veilige en plezierige ervaring voor kinderen te garanderen.”
Een ander bedrijf, Miko, gevestigd in Mumbai, India, zei dat het zijn eigen conversatie-AI-model gebruikt in plaats van te vertrouwen op grote algemene taalmodelsystemen zoals ChatGPT om zijn product, een interactieve AI-robot, veilig te maken voor kinderen.
“We breiden onze interne tests voortdurend uit, versterken onze filters en introduceren nieuwe functies die gevoelige of onverwachte onderwerpen detecteren en blokkeren”, aldus CEO Sneh Vaswani. “Deze nieuwe functies vormen een aanvulling op onze bestaande controles waarmee ouders en verzorgers specifieke onderwerpen kunnen identificeren die ze willen uitsluiten van het gesprek. We zullen blijven investeren in het stellen van de hoogste normen voor veilige, beveiligde en verantwoorde AI-integratie voor Miko-producten.”
De producten van Miko worden verkocht door grote retailers als Walmart en Costco en worden gepromoot door families van ‘kidfluencers’ op sociale media, wier YouTube-video’s miljoenen keren zijn bekeken. Op zijn website brengt het zijn robots op de markt als ‘Kunstmatige intelligentie. Echte vriendschap’.
Ritvik Sharma, senior vice-president groei van het bedrijf, zei dat Miko “kinderen eigenlijk aanmoedigt om meer met hun vrienden om te gaan, om meer met leeftijdsgenoten, met familieleden, enz. om te gaan. Het is niet gemaakt om hen alleen maar gehecht te laten voelen aan het apparaat.”
Suskind en voorstanders van kinderen beweren echter dat analoog speelgoed een betere oplossing is voor de feestdagen.
“Kinderen hebben veel echte menselijke interactie nodig. Het spel moet dit ondersteunen en niet zijn plaats innemen. Het belangrijkste om te overwegen is niet alleen wat het speelgoed doet; het is wat het vervangt. Een eenvoudige set blokken of een niet-reagerende teddybeer dwingt een kind om verhalen te verzinnen, te experimenteren en problemen op te lossen. AI-speelgoed doet dit vaak door voor hen te denken”, zei hij. “Hier is de brutale ironie: als ouders mij vragen hoe ze hun kinderen kunnen voorbereiden op een AI-wereld, is onbeperkte toegang tot AI eigenlijk de slechtst mogelijke voorbereiding.”
—Barbara Ortutay en Matt O’Brien, AP-technologieschrijvers
