NIEUWNu kun je naar Fox News-artikelen luisteren!
FoloToy heeft de verkoop ervan opgeschort AI-teddybeer Kumma beer nadat een veiligheidsteam ontdekte dat het speelgoed riskante en ongepaste reacties gaf tijdens het testen. Nu zegt het bedrijf dat het de omzet heeft hersteld na een week van intensieve evaluatie. Het beweert ook betere waarborgen te hebben om kinderen te beschermen.
De aankondiging kwam via een bericht op sociale media waarin een positieve impuls werd benadrukt sterkere controle. Het bedrijf zei dat het de tests heeft voltooid, de beveiligingsmodules heeft versterkt en de inhoudsfilters heeft bijgewerkt. Het voegde eraan toe dat het tot doel heeft om voor de leeftijd geschikte AI-metgezellen te bouwen voor gezinnen over de hele wereld.
Meld u aan om mijn GRATIS CyberGuy-rapport te ontvangen
Ontvang mijn beste technische tips, dringende beveiligingswaarschuwingen en exclusieve aanbiedingen rechtstreeks in uw inbox. Bovendien krijg je direct gratis toegang tot mijn ultieme zwendeloverlevingsgids als je je aanmeldt voor mijn CYBERGUY.COM nieuws
FoloToy heeft de verkoop van zijn AI-teddybeer Kumma hervat na een evaluatie van een week, ingegeven door bezorgdheid over de veiligheid. (Kurt “CyberGuy” Knuttson)
Waarom de AI-teddybeer van FoloToy veiligheidsproblemen veroorzaakte
De controverse begon toen het Public Interest Research Group Educational Fund drie verschillende op AI gebaseerde speelgoedjes testte. Ze leverden allemaal antwoorden op over religie, Noorse mythologie en schadelijke huishoudelijke artikelen.
Kumma viel op om de verkeerde redenen. Toen de beer het Mistral-model gebruikte, gaf hij advies over waar hij messen, pillen en lucifers kon vinden. Het beschreef ook de stappen voor het aansteken van een lucifer en het doven ervan.
Proeven met de ModelGPT-4o zorgde voor nog acutere zorgen. Kumma gaf advies over zoenen en gaf desgevraagd gedetailleerde uitleg over de seksuele inhoud voor volwassenen. De beer ging nog verder door de jonge gebruiker te vragen wat hij wilde ontdekken.
De onderzoekers noemden het gedrag onveilig en ongepast voor elk kindgericht product.
FoloToy heeft de toegang tot zijn AI-speelgoed opgeschort
Toen de bevindingen openbaar werden, schortte FoloToy de verkoop van Kumma en zijn andere AI-speelgoed op. Het bedrijf vertelde PIRG dat het een uitgebreide beveiligingsaudit voor alle producten heeft gestart.
OpenAI bevestigde ook dat het de toegang van FoloToy tot zijn modellen had opgeschort wegens het schenden van beleid gericht op de bescherming van kinderen onder de 18 jaar.
Het bedrijf zegt dat er nu nieuwe veiligheidsmaatregelen en bijgewerkte filters zijn ingevoerd om ongepaste reacties te voorkomen. (Kurt “CyberGuy” Knutsson)
Waarom FoloToy de verkoop van Kumma herstelde na veiligheidsverificatie
FoloToy bracht Kumma slechts een week nadat de verkoop was opgeschort terug naar zijn online winkel. De snelle terugkeer trok de aandacht van ouders en veiligheidsexperts die zich afvroegen of het bedrijf genoeg tijd had om de ernstige problemen op te lossen die in het PIRG-rapport werden geïdentificeerd.
FoloToy publiceerde een gedetailleerde verklaring over X waarin de versie werd uiteengezet van wat er was gebeurd. In de post zei het bedrijf dat het de veiligheid van kinderen als zijn eigendom beschouwt “topprioriteit” en zo was het ook “het enige bedrijf dat proactief de verkoop opschort, niet alleen van het in het rapport genoemde product, maar ook van onze andere producten AI-speelgoed.“ FoloToy zei dat het deze actie ondernam “onmiddellijk nadat de resultaten bekend waren gemaakt, omdat we van mening zijn dat verantwoorde actie vóór commerciële overwegingen moet gaan.”
Het bedrijf benadrukte CyberGuy ook dat het de enige van de drie AI-speelgoedstartups in de PIRG-analyse was die de verkoop van al zijn producten opschortte, en dat het deze beslissing nam tijdens de piek van de vakantieverkopen, wetende dat de commerciële impact aanzienlijk zou zijn. FoloToy vertelde ons: “Niettemin zijn we resoluut voorwaarts gegaan, omdat we geloven dat verantwoord handelen altijd vóór commerciële belangen moet gaan.”
Het bedrijf zei ook dat het de verontrustende voorbeelden in het rapport serieus nam. Volgens FoloToy waren er problemen “direct behandeld in onze interne beoordeling.” Hij legde uit dat het team “een diepgaande bedrijfsbrede interne veiligheidsbeoordeling geïnitieerd” en vervolgens “onze inhoudsmoderatie en de veiligheidsmaatregelen voor kinderen versterkt en bijgewerkt” EN “heeft geavanceerd beveiligingsbeleid en bescherming geïmplementeerd via ons cloudgebaseerde systeem.”
Nadat het bedrijf deze stappen had uiteengezet, zei het dat het de hele week bezig was “rigoureuze beoordeling, testen en versterking van onze beveiligingsmodules.” Hij beëindigde zijn aankondiging door dit te zeggen “begon de productverkoop geleidelijk te herstellen” zodra de bijgewerkte waarborgen actief zijn geworden.
FoloToy voegde eraan toe dat naarmate de mondiale aandacht voor de risico’s van AI-speelgoed groeit, “transparantie, verantwoordelijkheid en continue verbetering zijn essentieel,” en dat het bedrijf “blijft vastberaden toegewijd aan het bouwen van veilige, bij de leeftijd passende AI-metgezellen voor kinderen en gezinnen over de hele wereld.”
Gelekte metadocumenten laten zien hoe AI-chatbots omgaan met kinderuitbuiting
Veiligheidstesters hadden eerder ontdekt dat het speelgoed riskante beweringen deed over wapens, lucifers en inhoud voor volwassenen.
Waarom experts nog steeds twijfels hebben over de AI-veiligheidsoplossingen voor speelgoed van FoloToy
PIRG-onderzoeker RJ Cross zei dat zijn team van plan is het bijgewerkte speelgoed te testen om te zien of de oplossingen standhouden. Hij merkte op dat een week snel lijkt voor zulke belangrijke veranderingen en dat alleen nieuwe tests zullen uitwijzen of het product nu veilig presteert.
Ouders zullen dit fenomeen op de voet willen volgen nu AI-aangedreven speelgoed steeds gebruikelijker wordt. De snelheid van de herlancering van FoloToy roept vragen op over de diepgang van de herziening.
Tips voor ouders voordat ze AI-speelgoed kopen
AI-speelgoed lijkt misschien spannend en nuttig, maar kan je ook verrassen met inhoud die je nooit zou verwachten. Als u van plan bent een door AI aangedreven speelgoed in huis te halen, kunnen deze eenvoudige stappen u helpen de controle te behouden.
1) Controleer welk AI-model het speelgoed gebruikt
Niet alle modellen volgen de dezelfde vangrails. Sommige bevatten sterkere filters, terwijl andere mogelijk te vrij reageren. Zoek naar transparante informatie over welk model het speelgoed aandrijft en welke veiligheidsvoorzieningen het ondersteunt.
2) Lees onafhankelijke recensies
Groepen als PIRG testen speelgoed vaak op manieren die ouders niet kunnen. Deze beoordelingen signaleren verborgen risico’s en wijzen op gedrag dat u tijdens snelle demo’s mogelijk niet ontdekt.
3) Stel duidelijke gebruiksregels vast
Bewaar AI-speelgoed in gedeelde ruimtes waar u kunt horen of zien hoe uw kind ermee omgaat. Dit helpt je om in te grijpen als het speeltje een verontrustende reactie geeft.
4) Probeer het speeltje eerst zelf
Stel de speelgoedvragen, probeer creatieve suggesties en kijk hoe het met ingewikkelde onderwerpen omgaat. Zo kunt u leren hoe het apparaat werkt voordat u het aan uw kind overhandigt.
5) Update de firmware van het speelgoed
Veel AI-speelgoed draait op cloudsystemen. Updates voegen vaak sterkere waarborgen toe of verminderen risicovolle reacties. Zorg ervoor dat uw apparaat up-to-date blijft.
6) Zorg voor een duidelijk privacybeleid
AI-speelgoed kan dat wel spraakgegevens verzamelen, locatie-informatie of gedragspatronen. Een solide privacybeleid moet uitleggen wat er wordt verzameld, hoe lang het wordt bewaard en wie er toegang toe heeft.
7) Pas op voor plotselinge gedragsveranderingen
Als een AI-speelgoed vreemde reacties begint te geven of duwt op gebieden die volgens u ongepast zijn, stop dan met het gebruik ervan en meld het probleem aan de fabrikant.
Doe mijn quiz: Hoe veilig is uw online veiligheid?
Denkt u dat uw apparaten en gegevens echt beschermd zijn? Doe deze korte quiz om te zien waar uw digitale gewoonten zich bevinden. Van wachtwoorden tot Wi-Fi-instellingen: u ontvangt een gepersonaliseerde analyse van wat u goed doet en wat verbetering behoeft. Doe hier mijn quiz: Cyberguy.com
KLIK HIER OM DE FOX NEWS-APP TE DOWNLOADEN
Hoogtepunten van Kurt
AI-aangedreven speelgoed kan plezier en leerplezier bieden, maar kan kinderen ook blootstellen aan onverwachte risico’s. FoloToy beweert dat het de veiligheid van Kumma heeft verbeterd, maar experts willen nog steeds bewijs. Totdat het bijgewerkte speelgoed onafhankelijk wordt getest, willen gezinnen misschien voorzichtig blijven.
Denkt u dat AI-speelgoed ooit volkomen veilig zal zijn voor jonge kinderen? Laat het ons weten door te schrijven naar Cyberguy.com
Meld u aan om mijn GRATIS CyberGuy-rapport te ontvangen
Ontvang mijn beste technische tips, dringende beveiligingswaarschuwingen en exclusieve aanbiedingen rechtstreeks in uw inbox. Bovendien krijg je direct gratis toegang tot mijn ultieme zwendeloverlevingsgids als je je aanmeldt voor mijn CYBERGUY.COM nieuws
Copyright 2025 CyberGuy.com. Alle rechten voorbehouden.
