Wat je zegt in je huis, wat Doen bij jou thuis. Privér dan dat wordt het niet. Maar volgens twee recente FTC-klachten: Amazone EN Ring ze gebruikten deze zeer privégegevens – stemopnames verzameld door de Alexa-stemassistent van Amazon en video’s verzameld door de op internet aangesloten huisbeveiligingscamera’s van Ring – om hun algoritmen te trainen, waarbij ze weinig belang hechtten aan de privacy van klanten. Dit zijn de problemen, die voor het eerst werden aangekondigd door het FTC-nieuws Biometrische beleidsverklaringbevatten belangrijke lessen voor bedrijven die kunstmatige intelligentie, biometrische gegevens en andere gevoelige informatie gebruiken.
Kunstmatige intelligentie en privacy moeten hand in hand gaan. In het tijdperk van kunstmatige intelligentie willen ontwikkelaars steeds meer data, vaak ongeacht de bron. Maar wees voorzichtig bij het verzamelen of opslaan van consumentengegevens. Op grond van de oneerlijkheidsnorm van Sectie 5 onderzoekt de FTC niet alleen de potentiële voordelen van AI, maar ook de kosten voor consumenten. Volgens de klachten faalden Amazon en Ring voor die test. De FTC zei dat Ring’s datatoegangspraktijken spionage en intimidatie mogelijk maakten, terwijl Amazon’s permanente bewaring van spraakgegevens en slechte verwijderingspraktijken de stemopnames van consumenten blootstelden aan het risico van onnodige toegang door werknemers. De boodschap voor bedrijven: De FTC zal bedrijven verantwoordelijk houden voor de manier waarop zij de consumentengegevens verkrijgen, opslaan en gebruiken die hun algoritmen voeden. Zoals de commissarissen in hun verklaring hebben verklaard gezamenlijke verklaring over de Alexa-kwestiemachine learning is geen vrijbrief om de wet te overtreden.
Consumenten – en niet bedrijven – hebben controle over hun eigen gegevens. Sommige bedrijven denken dat ze vrij zijn om de persoonlijke gegevens die ze bewaren te gebruiken voor welk doel dan ook. Niet zo snel. De klachten van de FTC tegen Amazone EN Ring Maak duidelijk dat bedrijven die het recht van consumenten op controle over hun gegevens negeren, dit op eigen risico doen. In haar klacht beweert de FTC dat Ring alle werknemers en contractanten toegang gaf tot video’s van klanten om (onder andere) algoritmen te trainen, waarbij alleen “toestemming” werd gecontroleerd. Maar dat is niet genoeg om ervoor te zorgen dat gebruikers daadwerkelijk controle hebben over wat er met hun informatie gebeurt. En in de klacht van Amazon zegt de FTC dat Amazon de rechten van ouders onder de wet heeft ondermijnd COPPA-regelgeving (Children’s Online Privacy Protection Act). om de stemopnames van uw kinderen te verwijderen. Ouders hebben op grond van COPPA het recht om te beslissen welke gegevens over hun kinderen een bedrijf bewaart en welke gegevens worden verwijderd. Het komt erop neer dat elk bedrijf dat de controle van consumenten over hun gegevens verzwakt, te maken kan krijgen met handhavingsmaatregelen van de FTC.
Bied speciale waarborgen voor menselijke beoordeling en toegang van medewerkers tot gevoelige gegevens. AI-ontwikkelaars vertrouwen vaak op menselijke reviewers om de gegevens te taggen en te annoteren die machine learning-algoritmen trainen. Maar weten consumenten wanneer hun gegevens worden onderzocht? In haar klacht zegt de FTC dat Ring deze recensie voor zijn klanten verborgen hield en recensenten toestond misbruik te maken van hun toegang tot consumentenvideo’s. Als gevolg hiervan kwamen Ring-klanten, voor wie zij Ring-producten kochten Bovendien beveiliging – werd uiteindelijk het doelwit van spionage en surveillance van Ring-medewerkers. De klacht van Amazon beweert ook dat Amazon geen adequate controles heeft gebruikt om te beperken welke werknemers toegang hadden tot de stemopnames van Alexa-gebruikers, waardoor duizenden van de werknemers had toegang tot gevoelige stemopnames die ze niet nodig hadden. Bedrijven die vertrouwen op menselijke beoordeling begrijpen dat het beschermen van gevoelige gegevens, inclusief strikte toegangscontroles, geen bijzaak mag zijn. Ze zouden de eerste stap moeten zijn.
De FTC beschermt biometrische gegevens. Vorige maand heeft de FTC een politieke verklaring over de bescherming van biometrische gegevens. In deze verklaring wordt uitgelegd dat biometrische gegevens – of het nu gaat om vingerafdrukken en irisscans of video’s en stemopnamen – de hoogste bescherming verdienen vanwege hun inherente gevoeligheid en potentieel voor vooringenomenheid, discriminatie en ander schadelijk gebruik. De schikkingen van de FTC met Amazon en Ring benadrukken dat wanneer de FTC zegt dat de bescherming van biometrische gegevens een prioriteit is, zij ook meent wat zij zegt – en de Commissie zal dat beleid ondersteunen met handhavingsmaatregelen.
De FTC gebruikt alle beschikbare middelen om de privacy van kinderen te beschermen. Na een reeks acties om de privacy van kinderen en adolescenten te controleren (denk aan Microsoft, Epische spellen, Edmodo, Weight Watchers (Kurbo)EN Chegg), moet het duidelijk zijn dat de bescherming van kinderen een topprioriteit van de FTC is. Dit geldt vooral op het snijvlak van kunstmatige intelligentie en de privacy van kinderen en adolescenten. In de Amazon-klachtDe FTC zegt dat Amazon de stemopnames van kinderen (zowel audiobestanden als transcripties) permanent bewaart en het verwijderingsrecht van ouders ondermijnt. Volgens de klacht zou Amazon die gegevens vervolgens kunnen gebruiken voor natuurlijke taalverwerking. In de Gegronde klachtde FTC beschrijft de arrogante benadering van Ring ten aanzien van privacy en veiligheid, ondanks het feit dat de camera’s op de markt werden gebracht om de slaapkamers van kinderen te bewaken. Het antwoord van de FTC? Geen dobbelstenen. De FTC zal elk beschikbaar instrument gebruiken – inclusief COPPA en de FTC-verboden op misleidende en oneerlijke praktijken – om de privacy van kinderen te beschermen.
Wilt u uw algoritmen en dataproducten behouden? Gegevens legaal verkrijgen. Met Ring en Alexa, plus Kromme, Cambridge AnalyticaEN Ooitalbumde FTC heeft talloze bevelen gekregen waarin bedrijven worden verplicht gegevens te verwijderen EN het elimineren of nalaten van het genereren van dataproducten, zoals algoritmen, modellen en andere hulpmiddelen die zijn afgeleid van illegale gegevens. Deze acties maken duidelijk dat er geen vrije doorgang is voor datamisbruik. Als u op illegale wijze consumentengegevens verkrijgt of misbruikt, kunt u betalen met uw dataproduct.
