Een man werd gedwongen een supermarkt te verlaten Londen nadat het personeel hem ten onrechte had geïdentificeerd met behulp van controversiële nieuwe gezichtsherkenningstechnologie.
Warren Rajah kreeg te horen dat hij zijn boodschappen moest opgeven en de plaatselijke winkel moest verlaten die hij al jaren gebruikte na een ‘Orwelliaanse’ fout in een Sainsbury’s in Elephant and Castle, Londen.
Hij zei dat het supermarktpersoneel niet kon uitleggen waarom hem werd verteld te vertrekken en verwees hem alleen naar een QR-code die leidde naar de website van het bedrijf Facewatch, dat de detailhandelaar heeft ingehuurd om gezichtsherkenning in sommige van zijn winkels uit te voeren. Hij zei dat toen hij contact opnam met Facewatch, hem werd verteld een foto van zichzelf en een foto van zijn paspoort te sturen voordat het bedrijf bevestigde dat er geen gegevens van hem in de database stonden.
“Een van de redenen waarom ik boos was, was omdat ik niet hoefde te bewijzen dat ik onschuldig was,” zei Rajah. “Ik zou niet hoeven te bewijzen dat ik ten onrechte als crimineel werd geïdentificeerd.” Hij omschreef het incident als “zeer Minority Report-achtig, Orwelliaans”.
Hij zei dat hij tijdens zijn normale aankoop werd benaderd door drie personeelsleden van de winkel, van wie er één leek te beweren dat hij de persoon was die werd afgebeeld op een apparaat dat zij hadden. Het is duidelijk dat het Facewatch-systeem iemand anders heeft opgemerkt die de winkel was binnengekomen en dat het personeel Rajah voor hem aanzag.
Rajah was bezorgd dat er mogelijk een vorm van permanente registratie op het systeem van Facewatch was aangemaakt die zijn betrokkenheid bij criminele activiteiten impliceert. Uiteindelijk vertelde het bedrijf hem dat hij niet in de database stond en stuurde hem terug naar Sainsbury’s.
“Je voelde je behoorlijk hulpeloos in de situatie omdat je gewoon van het kastje naar de muur werd gegooid – omdat Sainsbury eerst Facewatch de schuld geeft, waarna Facewatch reageert door te zeggen dat het eigenlijk Sainsbury’s is”, zei hij. ‘En toen Sainsbury’s mij woensdag belde vanuit het directiekantoor, gaven ze het winkelpersoneel de schuld. Dus schuiven ze de schuld voortdurend af op degene die verantwoordelijk is voor dit alles.’
Rajah was boos dat hij vond dat hij zijn onschuld moest bewijzen en zei dat hij weinig zekerheid had gekregen over hoe de informatie die hij aan Facewatch moest overhandigen, was opgeslagen en of deze was verwijderd.
En hij zei dat hij, hoewel hij het geluk had door het systeem te kunnen navigeren, “wat gebeurt er met kwetsbare mensen die bijvoorbeeld leerproblemen hebben of niet weten hoe ze een QR-code moeten scannen? Ze hebben geen proces of procedure voor wie dan ook om dit aan te vechten. Er mag niet van je worden verwacht dat je je persoonlijke gegevens verstrekt – dit is volkomen onaanvaardbaar.”
Sainsbury’s zei: “We hebben contact gehad met de heer Rajah om ons oprecht te verontschuldigen voor zijn ervaring in onze Elephant and Castle-winkel. Dit was geen probleem met de gebruikte gezichtsherkenningstechnologie, maar een geval waarbij de verkeerde persoon werd benaderd in de winkel.”
Facewatch zei: “Het spijt ons om te horen van de ervaring van de heer Rajah en we begrijpen waarom dit verontrustend zou zijn geweest. Dit incident kwam voort uit een geval van menselijke fout in de winkel, waarbij een medewerker de verkeerde klant benaderde.
“Ons gegevensbeschermingsteam volgde het gebruikelijke proces om uw identiteit te bevestigen en verifieerde dat u niet in onze database stond en niet onderworpen was aan waarschuwingen gegenereerd door Facewatch.”
