De surveillancesystemen van de Nederlandse politie leiden tot etnisch profileren, vindt Amnesty International. In een onderzoek stelt de mensenrechtenorganisatie dat de algoritmische systemen die de politie gebruikt, mensenrechten kan schenden.
Amnesty neemt het zogeheten Sensing-project in Roermond als voorbeeld. Hier wordt ‘predictive policing‘ gebruikt. Dat is een digitaal systeem dat via wiskundige modellen misdaden kan voorspellen. “Door het gebruik van camera’s en andere sensoren houdt de politie systematisch alle mensen in de gaten die in en rond Roermond rijden,” zegt Amnesty, dat spreekt van ‘massasurveillance’. “Dat leidt tot een schending van hun recht op privacy, databescherming en non-discriminatie.”
Schending van privacy en etnisch profileren
Volgens Amnesty International schendt de methode niet alleen privacy, maar leidt deze ook tot discriminatie en etnisch profileren. “Vooroordelen en stereotypen beïnvloeden de modellen en algoritmes. Dit leidt tot discriminerende uitkomsten met hogere risicoscores voor bepaalde maatschappelijke bevolkingsgroepen.”
Strijdig met internationale rechten van de mens
Amnesty International pleit voor een afschaffing van deze technologie en wil dat deze getoetst wordt aan de internationale rechten van de mens. De organisatie roept de Autoriteit Persoonsgegevens op om dit te onderzoeken.
– Gratis whitepaper cameratoezicht & Artificial Intelligence
– Intelligente camera’s: enkele kanttekeningen
– Thermische camera’s: hot or not?
Volg Security Management op LinkedIn