Ministers worden na de deal geconfronteerd met de roep om meer garanties op het gebruik van gezichtsherkenningstechnologie Kantoor aan huis gaven toe dat ze in sommige contexten vaker zwarten en Aziaten verkeerd identificeren dan hun blanke tegenhangers.
Na de laatste tests door het National Physical Laboratory (NPL) van de toepassing van de technologie in de database van de nationale politie, zei het ministerie van Binnenlandse Zaken dat het “waarschijnlijker is dat bepaalde demografische groepen ten onrechte in de zoekresultaten worden opgenomen”.
Politie- en misdaadcommissarissen zeiden dat de publicatie van de bevindingen van de NPL “licht werpt op een zorgwekkende inherente vooringenomenheid” en drongen aan op voorzichtigheid ten aanzien van nationale uitbreidingsplannen.
De bevindingen werden donderdag vrijgegeven, slechts enkele uren nadat Sarah Jones, de minister van politie, de technologie omschreef als “de grootste doorbraak sinds DNA-matching”.
Gezichtsherkenningstechnologie scant de gezichten van mensen en vergelijkt de beelden vervolgens met volglijsten van bekende of gezochte criminelen. Het kan worden gebruikt bij het onderzoeken van livebeelden van mensen die langs camera’s lopen, waarbij hun gezichten worden vergeleken met die op de zoeklijst, of het kan door agenten worden gebruikt om mensen te targeten terwijl ze langs gemonteerde camera’s lopen.
Afbeeldingen van verdachten kunnen ook achteraf worden bekeken via politie-, paspoort- of immigratiedatabases om ze te identificeren en hun achtergronden te controleren.
Analisten die de retrospectieve gezichtsherkenningstechnologie-tool van de National Police Database op een lager niveau onderzochten, ontdekten dat “het fout-positieve identificatiepercentage (FPIR) voor blanke proefpersonen (0,04%) lager is dan dat van Aziatische proefpersonen (4,0%) en zwarte proefpersonen (5,5%).”
Uit de tests bleek vervolgens dat het aantal valse positieven onder zwarte vrouwen bijzonder hoog was. “De FPIR voor zwarte mannelijke proefpersonen (0,4%) is lager dan die voor zwarte vrouwelijke proefpersonen (9,9%)”, aldus het rapport.
De Association of Police and Crime Commissioners zei in een verklaring dat de bevindingen blijk gaven van inherente vooringenomenheid. Er staat: “Dit betekent dat zwarte en Aziatische mensen onder bepaalde omstandigheden waarschijnlijk niet bij elkaar passen dan hun blanke tegenhangers. Het taalgebruik is technisch, maar achter de details lijkt het duidelijk dat technologie is gebruikt bij politieoperaties zonder dat er voldoende waarborgen waren getroffen.”
De verklaring, ondertekend door APCC-leiders Darryl Preston, Alison Lowe, John Tizard en Chris Nelson, vroeg zich af waarom de bevindingen niet bij een eerdere gelegenheid waren vrijgegeven of gedeeld met zwarte en Aziatische gemeenschappen.
Er staat: “Hoewel er in geen enkel geval bewijs is voor een negatieve impact, is dit meer geluk dan opzet. De systeemfouten zijn al een tijdje bekend, maar zijn niet gedeeld met de getroffen gemeenschappen, noch met belangrijke belanghebbenden in de sector.”
De regering heeft een openbare raadpleging van tien weken aangekondigd, waarvan zij hoopt dat deze de weg zal vrijmaken voor een frequenter gebruik van de technologie. Er zal aan het publiek worden gevraagd of de politie buiten haar eigen gegevens moet kunnen gaan om toegang te krijgen tot andere databases, waaronder paspoort- en rijbewijsafbeeldingen, om criminelen op te sporen.
Ambtenaren werken samen met de politie aan het opzetten van een nieuw nationaal gezichtsherkenningssysteem dat miljoenen afbeeldingen zal bevatten.
na de promotie van de nieuwsbrief
Charlie Whelton, hoofd beleid en campagnes bij Liberty Group, zei: “De raciale vooroordelen in deze statistieken tonen de schadelijke gevolgen in de praktijk aan als de politie gezichtsherkenning gebruikt zonder adequate waarborgen. Met duizenden zoekopdrachten per maand waarbij dit discriminerende algoritme wordt gebruikt, moeten er nu serieuze vragen worden beantwoord over hoeveel gekleurde mensen ten onrechte zijn geïdentificeerd en welke gevolgen dit heeft gehad.
“Dit rapport is een verder bewijs dat deze krachtige en ondoorzichtige technologie niet kan worden gebruikt zonder robuuste waarborgen om ons allemaal te beschermen, inclusief echte transparantie en betekenisvol toezicht. De regering moet de snelle introductie van gezichtsherkenningstechnologie stopzetten totdat deze aanwezig zijn om ieder van ons te beschermen en prioriteit te geven aan onze rechten – iets waarvan we weten dat het publiek dat wil.”
Voormalig minister David Davis uitte zijn bezorgdheid nadat politieleiders zeiden dat camera’s in winkelcentra, stadions en transportknooppunten kunnen worden geplaatst om gezochte criminelen op te sporen. Hem zei hij tegen de Daily Mail: “Welkom bij Big Brother Britain. Het is duidelijk dat de regering van plan is deze dystopische technologie door het hele land te verspreiden. Iets van deze omvang zou niet mogen gebeuren zonder een volledig en gedetailleerd debat in het Lagerhuis.”
Ambtenaren zeggen dat de technologie nodig is om ernstige overtreders te helpen oppakken. Ze zeggen dat er handmatige waarborgen zijn, vastgelegd in de politietraining, operationele praktijk en begeleiding, die vereisen dat alle potentiële matches die uit de nationale politiedatabase worden teruggestuurd, visueel worden beoordeeld door een getrainde gebruiker en een opsporingsambtenaar.
Een woordvoerder van het ministerie van Binnenlandse Zaken zei: ‘Het ministerie van Binnenlandse Zaken neemt de bevindingen van het rapport serieus en we hebben al actie ondernomen. Een nieuw algoritme is onafhankelijk getest en aangeschaft, dat geen statistisch significante fouten bevat. Het zal begin volgend jaar worden getest en zal worden onderworpen aan evaluatie.
“Gezien het belang van deze kwestie hebben we de politie-inspectie ook gevraagd, samen met de Forensic Sciences Regulator, om het gebruik van gezichtsherkenning door wetshandhavingsinstanties te beoordelen. Zij zullen de effectiviteit van de maatregelen beoordelen, die de Nationale Politiechefsraad ondersteunt.”
