Zoekt ‘dringende duidelijkheid’ over raciale vooroordelen in de gezichtsherkenningstechnologie van de Britse politie | Gezichtsherkenning

Dat heeft de Britse toezichthouder voor gegevensbescherming gevraagd Kantoor aan huis voor “dringende duidelijkheid” over raciale vooroordelen in de gezichtsherkenningstechnologie van de politie voordat volgende stappen worden overwogen.

Het ministerie van Binnenlandse Zaken gaf toe dat het “waarschijnlijker is dat de technologie bepaalde demografische groepen ten onrechte in de zoekresultaten opneemt”, na het testen van de toepassing ervan in de nationale politiedatabase door het National Physical Laboratory (NPL).

Uit het rapport bleek dat de technologie, die bedoeld is om ernstige overtreders te vangen, waarschijnlijker een verkeerde match tussen zwarten en Aziaten veroorzaakt dan hun blanke tegenhangers.

In een verklaring als reactie op het rapport zei Emily Keaney, adjunct-commissaris van het Information Commissioner’s Office, dat de ICO het ministerie van Binnenlandse Zaken om “dringende duidelijkheid over de kwestie” had gevraagd, zodat de waakhond “de situatie kon beoordelen en onze volgende stappen kon overwegen”.

Volgende stappen kunnen bestaan ​​uit handhavingsmaatregelen, waaronder het uitvaardigen van een juridisch bindend bevel om te stoppen met het gebruik van de technologie of boetes, en het samenwerken met het ministerie van Binnenlandse Zaken en de politie om verbeteringen aan te brengen.

Keaney zei: “Vorige week werden we bewust gemaakt van historische vooroordelen in het algoritme dat door troepen in het Verenigd Koninkrijk wordt gebruikt voor retrospectieve gezichtsherkenning in de nationale politiedatabase.

“We erkennen dat er stappen worden ondernomen om deze vooroordelen aan te pakken. Het is echter teleurstellend dat ons hier niet eerder over is geïnformeerd, ondanks regelmatige contacten met het ministerie van Binnenlandse Zaken en de politie als onderdeel van ons bredere werk om de overheid en de publieke sector ter verantwoording te roepen over de manier waarop gegevens in hun diensten worden gebruikt.

“Hoewel we de waardevolle rol die technologie kan spelen waarderen, is het vertrouwen van het publiek in het gebruik ervan cruciaal en kan elke perceptie van vooroordelen en discriminatie het wantrouwen vergroten. De ICO is hier om de publieke sector te ondersteunen en bij te staan ​​om dit goed gedaan te krijgen.”

Politie- en misdaadcommissarissen zeiden dat de publicatie van de bevindingen van de NPL “een licht werpt op een zorgwekkende inherente vooringenomenheid” en drongen aan op voorzichtigheid ten aanzien van nationale uitbreidingsplannen, waaronder het plaatsen van camera’s in winkelcentra, stadions en transportknooppunten, zonder dat er voldoende waarborgen zijn getroffen.

De bevindingen werden donderdag vrijgegeven, slechts enkele uren nadat Sarah Jones, de minister van politie, de technologie omschreef als “de grootste doorbraak sinds DNA-matching”.

Gezichtsherkenningstechnologie scant de gezichten van mensen en vergelijkt de beelden met volglijsten van bekende of gezochte criminelen. Het kan worden gebruikt bij het onderzoeken van livebeelden van mensen die langs camera’s lopen, hun gezichten vergelijken met die op de gezochte lijst, of om agenten in staat te stellen mensen te targeten terwijl ze langs gemonteerde camera’s lopen.

Politieagenten kunnen ook achteraf beelden van verdachten bekijken via politie-, paspoort- of immigratiedatabases om ze te identificeren en hun achtergrond te controleren.

Analisten die de retrospectieve gezichtsherkenningstechnologie-tool van de National Police Database op een lager niveau onderzochten, ontdekten dat “het fout-positieve identificatiepercentage (FPIR) voor blanke proefpersonen (0,04%) lager is dan dat van Aziatische proefpersonen (4,0%) en zwarte proefpersonen (5,5%).”

Uit de tests bleek dat het aantal valse positieven onder zwarte vrouwen bijzonder hoog was. “De FPIR voor zwarte mannelijke proefpersonen (0,4%) is lager dan die voor zwarte vrouwelijke proefpersonen (9,9%)”, aldus het rapport.

In reactie op het rapport zei een woordvoerder van het ministerie van Binnenlandse Zaken dat het ministerie de bevindingen ‘serieus’ nam en al actie had ondernomen, waaronder het verwerven en testen van een nieuw algoritme ‘dat geen statistisch significante fouten bevat’.

“Gezien het belang van deze kwestie hebben we de politie-inspectie ook gevraagd, samen met de toezichthouder voor forensische wetenschappen, om het gebruik van gezichtsherkenning door wetshandhavingsinstanties te beoordelen. Zij zullen de effectiviteit van de maatregelen beoordelen, die de Nationale Politiechefsraad ondersteunt”, aldus de woordvoerder.