De politie heeft een man gearresteerd wegens een inbraak in een stad die hij nog nooit had bezocht, nadat gezichtsscansoftware die in het Verenigd Koninkrijk werd gebruikt, hem verwarde met een andere persoon van Zuid-Aziatische afkomst.
Alvi Choudhury, 26, een software-ingenieur, werkte in het huis dat hij deelt met zijn ouders Zuidampton Toen de politie in januari bij hem aanklopte, deden ze hem de handboeien om en hielden hem bijna tien uur vast voordat ze hem om twee uur ’s nachts vrijlieten.
De politie van Thames Valley had geautomatiseerde gezichtsherkenningssoftware gebruikt die deze vergeleek met beelden van een inbraakverdachte van £ 3.000, 160 kilometer verderop. Milton KeynesDat blijkt uit documenten die Liberty Investigates met de Guardian heeft gedeeld.
Maar de camerabeelden lieten een merkbaar jongere man zien met andere kenmerken dan vergelijkbaar krullend haar, zei Choudhury, die niet wist waarom hij was gearresteerd.
“Ik was erg boos, omdat de man er ongeveer tien jaar jonger uitzag dan ik”, zei Choudhury, die een baard draagt. “Alles was anders. De huid was lichter. De verdachte leek 18 jaar oud. Zijn neus was groter. Hij had geen gezichtshaar. Zijn ogen waren anders. Zijn lippen waren kleiner dan de mijne.
“Ik dacht dat de opsporingsambtenaar zag dat ik een donkerharige persoon was met krullend haar en besloot mij te arresteren.”
De Britse politie maakt gebruik van een algoritme geleverd door het ministerie van Binnenlandse Zaken van Cognitec, een Duits bedrijf. Het voert maandelijks ongeveer 25.000 zoekopdrachten uit op ongeveer 19 miljoen politie-mugshots in de nationale politiedatabase in het Verenigd Koninkrijk. Volgens de Nationale Raad van Hoofdcommissarissen moeten gezichtsontmoetingen worden behandeld als inlichtingeninformatie en niet als feiten. De politie van Thames Valley zei dat de beslissing om Choudhury te arresteren ook werd genomen na een menselijke visuele beoordeling.
Maar in december werd onthuld dat de technologie volgens het ministerie van Binnenlandse Zaken in bepaalde omstandigheden veel meer valse positieven oplevert voor zwarte (5,5%) en Aziatische (4,0%) gezichten dan voor blanke gezichten (0,04%). in opdracht onderzoek. Politiecommissarissen en criminelen gewaarschuwd van “inherente vooroordelen” en stelde dat hoewel “er in geen enkel geval bewijs is van een negatieve impact, dit meer te wijten is aan geluk dan aan ontwerp.”
Sinds december heeft de Thames Valley Police ook realtime gezichtsherkenningstechnologie ingezet om leden van het publiek te scannen op locaties in Oxford, Slough, Reading, Wycombe en Milton Keynes. Hij deed het ongeveer 100.000 gezichten vastgelegdwat tot zes arrestaties leidde.
Gezien de verschillen tussen de man die op camerabeelden was vastgelegd en zijn gezicht, dacht Choudhury dat hij snel zou worden vrijgelaten. Hij bood bewijs aan van zakelijke bijeenkomsten in Southampton op de dag van het misdrijf, maar werd in plaats daarvan gearresteerd.
Choudhury eist schadevergoeding van de politie van Thames Valley en Hampshire, die zijn arrestatie hebben uitgevoerd. Zijn buren zagen hoe hij geboeid werd weggevoerd. Zijn vader was erg bezorgd dat hij zou worden vastgehouden en kon de volgende dag niet werken, zei hij. Het roept ook op tot meer transparantie over het aantal illegale arrestaties waarbij gezichtsherkenningstechnologie betrokken is.
De mugshot van Choudhury werd alleen voor het politiesysteem achtergehouden omdat hij in 2021 ten onrechte werd gearresteerd toen hij werd aangevallen tijdens een avondje uit terwijl hij aan de universiteit in Portsmouth zat. De politie liet hem zonder verdere actie vrij. Nu hij een tweede politiefoto heeft gemaakt, vreest hij dat het geautomatiseerde systeem tot nog meer onrechtmatige arrestaties kan leiden.
“In mijn hoofd: als een zwarte persoon in Schotland een bank berooft, zullen ze mij dan komen arresteren?” zei hij.
Soms heeft hij een veiligheidsmachtiging nodig om voor overheidsklanten te kunnen werken en wordt hem gevraagd naar arrestaties en zegt hij: “Hierdoor zie ik er steeds duisterder uit.”
De politie van Thames Valley gaf tegenover Choudhury toe dat de arrestatie “mogelijk het gevolg was van vooringenomenheid binnen de gezichtsherkenningstechnologie”. Maar een ambtenaar vertelde hem dat “omdat het gebruik van gezichtsherkenning al op strategisch niveau wordt herzien, ik niet de behoefte voel om de kwestie aan de orde te stellen als onderdeel van een breder organisatorisch leerproces.”
Een woordvoerder van de politie van Thames Valley ontkende dat de arrestatie onwettig was en zei: “Hoewel we onze excuses aanbieden voor het leed dat de klager in deze zaak is aangedaan, was hun arrestatie gebaseerd op de visuele beoordeling van de opsporingsambtenaren dat de persoon overeenkwam met de verdachte op de camerabeelden na een retrospectieve gezichtsherkenningswedstrijd, en niet werd beïnvloed door racistische profilering.”
Maar Choudhury zei dat agenten op het politiebureau van Hampshire lachten toen hij vroeg: “Lijkt dit mij iets?” En hij zei dat politieagenten uit Thames Valley die hem kwamen ondervragen, zeiden dat ze “wisten dat ik niet de verdachte was nadat ze de beelden van de verdachte en mijn foto hadden gezien”.
Er zijn herhaaldelijk waarschuwingen afgegeven over het gebruik van geautomatiseerde gezichtsherkenningstechnologie. In december 2024 heeft de Britse commissaris voor biometrie en bewakingscamera’s, William Webster, nagesynchroniseerd bezorgdheid dat de politie beelden bleef bewaren en gebruiken van mensen die, nadat ze waren gearresteerd, vervolgens nooit werden aangeklaagd of gedagvaard. Vorige maand, politie van Zuid-Wales betaald schade aan een zwarte man die ten onrechte werd gearresteerd en dertien uur lang werd vastgehouden dankzij gezichtsherkenningstechnologie.
Choudhury’s advocaat, Iain Gould, een partner bij DPP Law, zei dat de politie “ervoor moet zorgen dat kunstmatige intelligentie niet in de plaats komt van menselijke intelligentie en due diligence, maar in plaats daarvan wordt gebruikt in zorgvuldige samenwerking daarmee”.
DE Kantoor aan huis genoemde begeleiding en training om fouten te minimaliseren en het vertrouwen van het publiek in gezichtsherkenning achteraf te behouden, werden overwogen door de politie-inspectie. Hij zei dat er een nieuw nationaal systeem voor gezichtsmatching wordt ontwikkeld, met een verbeterd en onafhankelijk getest algoritme.
