Families herenigen met hun verloren puppy’s, wat is er niet leuk aan? Gecoördineerde buurtwacht bijvoorbeeld.
Dat vat de reactie samen op de Super Bowl-advertentie voor Search Party, Amazons Ring AI-aangedreven functie die buitencamera’s in een buurt mobiliseert om verloren honden te helpen vinden.
Search Party heeft daarbij zorgen over de privacy geuit vorig jaar gelanceerdwaarbij de nadruk gedeeltelijk ligt op het feit dat functionaliteit dat wel is standaard ingeschakeld in in aanmerking komende camera’s, waarbij gebruikers zich moeten afmelden. Maar zoals met de meeste dingen, bracht de spotlight tijdens de grootste game van het jaar het naar een geheel nieuw niveau.
Zo werkt het: wanneer iemand een verloren hond meldt in de Ring-app, gebruiken externe Ring-camera’s in de buurt waarvoor deze functie is ingeschakeld kunstmatige intelligentie om opgeslagen beelden te scannen op een mogelijke match.
Als een camera iets detecteert, krijgt de eigenaar van de camera (niet de eigenaar van de verdwaalde hond) een melding. Vervolgens beslissen ze of ze de clip delen met de eigenaar van de hond. Niets wordt automatisch gedeeld. De zoekopdracht is tijdelijk en vervalt na een paar uur, tenzij deze wordt verlengd.
Dit soort subtiliteit vertaalt zich niet bepaald in een Super Bowl-commercial van 30 seconden. Maar zelfs met een beter begrip van hoe het werkt, geloven critici het niet. De advertentie wordt bestempeld als ‘verontrustend’ en ‘dystopisch’, waarbij critici op het voor de hand liggende wijzen: als de AI van Ring de camera’s van een buurt kan scannen op een specifieke hond, wat houdt hem dan tegen om hetzelfde te doen voor een specifieke persoon?
Voor de goede orde zegt Ring dat Search Party niet is ontworpen om menselijke biometrische gegevens te verwerken, en dat de beelden van Search Party niet zijn opgenomen in de Community Requests-service van het bedrijf, waarmee wetshandhavers video’s kunnen opvragen die Ring-gebruikers vrijwillig kunnen delen.
In een interview met GeekWire vorig jaar beschreef Jamie Siminoff, vice-president en Ring-oprichter van Amazon (de man in de advertentie), de Search Party-functie als een doorbraak die mogelijk werd gemaakt door de vooruitgang op het gebied van kunstmatige intelligentie, en zei dat deze zelfs twee jaar geleden niet tegen redelijke kosten had kunnen worden gebouwd.
Toen hem werd gevraagd hoe het bedrijf dit soort voordelen afweegt tegen privacykwesties, zei hij dat Ring’s aanpak erin bestaat klanten volledige controle te geven. ‘Het is niet in evenwicht’, zei hij. “Geef 100% controle aan uw klanten. Het zijn hun gegevens. Zij hebben er controle over.”
Maar voor critici gaat het niet echt om wat Search Party nu doet. Het gaat erom waar de onderliggende technologie in de toekomst voor gebruikt zou kunnen worden.
Deze bezorgdheid wordt versterkt door de recente stappen van Ring. Ook het bedrijf waagde de stap Bekende gezichtenwaarmee gebruikers beelden van familie en vrienden kunnen opnemen, zodat hun camera’s specifieke mensen kunnen identificeren, maar beperkt tot degenen die bekend zijn bij de camera-eigenaar.
Ring samenwerking met Flock Safetyhet kentekenherkenningsbedrijf dat door duizenden politiediensten wordt gebruikt, is een andere bliksemafleider, hoewel Ring zegt dat de integratie nog niet live is. De samenwerking maakt deel uit van Ring’s Community Requests-tool, waarmee lokale wetshandhavers tijdens actieve onderzoeken beeldmateriaal kunnen opvragen van Ring-gebruikers in de buurt. Gebruikers kunnen ervoor kiezen dergelijke verzoeken te negeren.
Het bedrijf zegt geen partnerschap te hebben met de Amerikaanse immigratie- en douanehandhaving en deelt geen video’s met het bureau. Maar groepen voor burgerlijke vrijheden, waaronder de ACLU, hebben zorgen geuit dat zodra de beelden de lokale politie bereiken, er geen garantie is dat deze daar zullen blijven, vooral in het licht van berichten dat sommige aan Flock gekoppelde afdelingen zoekopdrachten naar ICE hebben uitgevoerd.
Siminoff, die vorig jaar na een onderbreking terugkeerde om Ring te leiden, is open geweest over het opnieuw omarmen van de oorspronkelijke missie van het bedrijf om buurten veiliger te maken, inclusief het herstellen van partnerschappen met wetshandhavingsinstanties die tijdens zijn afwezigheid waren ingeperkt.
In het GeekWire-interviewhij erkende dat niet iedereen binnen het bedrijf het eens was met de verandering, maar zei dat hij “veel vertrouwen had in de impact die we met Ring kunnen hebben” en een veel snellere tijdlijn dan hij in het verleden misschien had gedacht, dankzij kunstmatige intelligentie.
Amazon zegt dat Search Party dit heeft gedaan herenigd sinds de lancering meer dan één verloren hond per dag met hun families. Het trekt 1 miljoen dollar uit om dierenasielen uit te rusten met Ring-camera’s. Maar de grotere vraag die de reactie aanwakkert, is of het vinden van verloren puppy’s vandaag de dag de infrastructuur opbouwt voor iets dat minder schattig en knuffelig is in de toekomst.
