De toepassing van kunstmatige intelligentie bij toegangscontrole neemt een enorme vlucht, terwijl er erg weinig bekend is over wat de gevolgen hiervan zijn. Volgens Marc Schuilenburg, hoogleraar Digital Surveillance aan de Erasmus Universiteit Rotterdam, zou gezichtsherkenning met AI daarom alleen bij kerncentrales of de AIVD geoorloofd zijn. ‘Het delen van biometrische gegevens met private partijen brengt enorme risico’s met zich mee.’
Door Elske Koopman / Foto: Shutterstock
Neem bijvoorbeeld de ringdeurbel van Amazon met camera’s erin. Amazon verzamelt hiermee veel gegevens en maakt in de Verenigde Staten ook software voor de politie. Ruim 5000 Amerikaanse politiekorpsen hebben inmiddels toegang tot de beelden van de digitale deurbel via de platforms van het bedrijf Flock Safety. Schuilenburg: ‘De ambitie van Amazon is dat deze deurbel meer is dan de klassieke digitale variant. Het camerasysteem wordt nu doorontwikkeld, zodat het meer informatie geeft over wie er aan de deur staat. Het wordt dan niet meer een objectieve weergave van wat er voor je deur gebeurt, maar het systeem classificeert en interpreteert data van personen om zo tot risico-inschattingen te komen.’
China
De hoogleraar komt net terug uit China en moest daar zijn vingerafdrukken en gezicht laten scannen om toegang te krijgen tot het land en het vliegtuig terug naar Nederland. ‘Maar biometrische gezichtsherkenning neemt nu ook een vlucht als consumentenmiddel. Je krijgt niet alleen toegang tot je telefoon ermee, maar ook tot bepaalde diensten, of bijvoorbeeld tot een fysieke plek als een voetbalstadion.’
‘De Nijmeegse voetbalclub N.E.C. was de eerste die in 2023 hiermee experimenteerde en daar is het inmiddels standaard’, gaat Schuilenburg verder. Supporters kunnen ervoor kiezen om met gezichtsherkenning sneller het stadion in te komen door hun gezicht via een app te koppelen aan hun seizoenskaart. Bij de ingang van het stadion mogen ze naar binnen door kort in een camera te kijken, wat een snellere doorgang mogelijk maakt. N.E.C. benadrukt dat supporters die dit niet willen, ook gewoon met een seizoenskaart het stadion in kunnen zonder gezichtsherkenning.
> LEES OOK: Toegang op basis van biometrische gegevens. Wat mag wel en wat niet?
Gevaren
Schuilenburg ziet wel gevaren: ‘Dit past in de beweging van straffen naar voorkomen, je wilt niet de verkeerde mensen binnenkrijgen. Maar het risico van voorzorg is dat werkelijk alles bedreigend wordt, zelfs het beginsel waaruit deze maatregelen voortvloeien. Bovendien wordt zo de surveillance het startpunt en is het niet meer het gevolg van een concrete strafrechtelijke verdenking. Ook is nog heel weinig bekend over hoe AI werkt en of we onze gegevens wel af moeten staan aan andere partijen om toegang te krijgen.
Willen we als maatschappij overal controle, zodat op basis van je gezicht je wel of niet een metro, een bibliotheek of een voetbalstadion in mag bijvoorbeeld. Is het middel dan nog wel proportioneel? Want elke week lees je over een hack of een datalek. Wat als je biometrische gegevens op straat liggen? Dan kan er van alles met je identiteit gebeuren.’
Voor de toegang tot een gemiddeld voetbalstadion vindt hij het gebruik van gezichtsherkenning daarom zelden proportioneel: ‘Ik heb zelf een seizoenskaart voor Sparta, daar gebeurt nooit wat. Het grote vuurwerkincident in november bij de voetbalwedstrijd van Ajax tegen FC Groningen kwam ook niet omdat de relschoppers met vuurwerk door de poortjes binnenkwamen, maar is veroorzaakt doordat de nooddeuren werden opengezet, waardoor hooligans met vuurwerk naar binnen konden.’
Extreme gevallen
Gezichtsherkenning via camera’s als toegangscontrole is volgens hem alleen in extreme gevallen geoorloofd. ‘Voor toegang in een kerncentrale of bij de Algemene Inlichtingen- en Veiligheidsdienst, AIVD, snap ik dat. Maar niet voor verzorgingshuizen of voetbalstadions. Voor de laatste kun je heel goed beveiligers neerzetten en digitale toegangspoortjes gebruiken. Dan hoef je niet al je biometrische gegevens af te geven en je kunt ermee in gesprek. Dat is in algemene zin een groot voordeel, want je kunt argumenten geven waarom je wel toegang moet krijgen. Die sociale kant van veiligheid moet niet worden onderschat, je kunt elkaar aanspreken en helpen’, zegt de hoogleraar.
Je moet niet de illusie hebben dat AI niet discrimineert
Hij erkent dat vroeger niet alles beter was, want ook beveiligers kunnen discrimineren, bijvoorbeeld door etnisch profileren. ‘Je moet niet de illusie hebben dat AI niet discrimineert. Data zijn altijd beperkte representaties van de werkelijkheid die als zodanig moeten worden verbeeld om de betekenis te geven die zij beweren te laten zien. Zo zijn data scheef sociaal verdeeld. We weten veel meer van mensen die voor toeslagen of uitkeringen afhankelijk zijn van de overheid, vaak de onderkant van de samenleving, dan van de bovenklasse. Als je op die personen AI toepast, krijg je al snel een zelfversterkend effect: dezelfde groepen komen steeds meer en indringender in beeld van opsporingsinstanties’, zegt Schuilenburg.
Weinig onderzoek
Bovendien is nog steeds niet duidelijk of toegangscontrole door gezichtsherkenning en AI ook echt helpt bij de aanpak van criminelen. ‘Er is nog ontstellend weinig onderzoek gedaan naar of en hoe het werkt. Toch zitten we nu in een AI-hype, mede door de mooie verhalen die erover verschijnen, onder meer van techgiganten als Elon Musk en Peter Thiel met een persoonlijk toegangspasje tot het Witte Huis. Dat maakt ons afhankelijk, want de cloud, de wolk met al onze gegevens, ligt ook daar. We moeten dus beducht zijn voor de huidige geopolitieke situatie. Europa loopt enorm achter op de technologie. We kopen massaal Chinese camera’s in, terwijl we niet weten of de data naar meerdere IP-adressen in het buitenland worden gestuurd’, waarschuwt de hoogleraar.
De reden dat we nog weinig weten over de werking van AI en het toch massale gebruik, is volgens Schuilenburg vierledig: ‘Ten eerste: organisaties willen vaak niet weten of het werkt, wetenschappers krijgen moeilijk toegang tot de datasets, AI is een zeer technisch onderwerp en daardoor heel lastig te onderzoeken, en het is enorm arbeids- en tijdsintensief om goed empirisch onderzoek te doen.’
Vloek en zegen
Toch beschouwt hij AI niet alleen als vloek, maar ook als zegen: ‘In Zaanstad liggen twee boten met ruim 1000 asielzoekers erop. Deze situatie heeft een enorme impact op de omgeving en op de politie. Door taal- en cultuurverschillen vertrouwen veel vluchtelingen de politie niet. Daar helpen we met het KOBAN-project, een Europees onderzoek, genoemd naar een Japanse vorm van een gedecentraliseerde politie die probleemgestuurd en lokaal optreedt. De politie en de vluchtelingen gaan nu met elkaar praten via oortjes met AI die meteen vertalen, zodat ze met elkaar kunnen praten in de eigen taal en zo het wederzijds vertrouwen kunnen verstevigen.’
Telefoon en biometrie
Schuilenburg houdt zich als hoogleraar nu ruim vijf jaar bezig met digitale surveillance en AI-toepassingen. ‘Ik heb in die tijd geleerd dat mijn voorspellingen veel te conservatief zijn geweest. Ik had niet verwacht dat AI zo’n vlucht zou nemen. Als je nu kijkt naar deepfakes bijvoorbeeld, dan zijn die enorm in kwaliteit verbeterd en nauwelijks meer van echt te onderscheiden. Het tweede is dat veel sociale problemen zo ingewikkeld zijn dat er geen technische oplossing voor mogelijk is. Een derde les is dat veiligheid en efficiëntie heel vaak de bovenliggende waarden zijn bij
AI-toepassingen. Terwijl ook andere waarden zoals recht op privacy en transparantie, minstens zo belangrijk zijn.’
In de toekomst ziet hij een steeds belangrijker rol voor de telefoon en biometrie als toegang tot diensten als bankgegevens, en voor toegang tot fysieke plekken in de stad als de bibliotheek, zorginstellingen en voetbalstadions. ‘Het is dan bedoeld als voorzorgsmaatregel, maar het is de vraag of je zo’n samenleving wel wilt.’
Biometrische gezichtsherkenning neemt nu ook een vlucht als consumentenmiddel, aldus Marc Schuilenburg.
Meer toegangseisen
Als voorbeeld noemt hij de gemeente Roermond die de criminaliteit in het outletcentrum wilde verminderen. Daar zou veel worden gestolen door Oost-Europeanen. Politie en justitie hebben toen het Sensing-project ingezet om mobiel banditisme te voorkomen. Hierdoor werden alle auto’s op de wegen rond het centrum gescand, zodat ze Oost-Europese auto’s voordat ze bij het outletcentrum kwamen, konden stoppen en de inzittenden konden controleren.
Schuilenburg: ‘Je tuigt dure systemen op waarbij het risico op discriminatie groot is. In die zin is Roermond een goed voorbeeld van de AI-mateloosheid in het voorkomen van criminaliteit. Deze mateloosheid wordt mede gevoed door de neiging om eerst technologie te ontwerpen, vervolgens de doeleinden ervan vast te stellen, en pas daarna een wettelijke grondslag hiervoor te zoeken. Dat is misschien met toegang tot je adresgegevens nog niet zo spannend, maar met biometrische gegevens wel en in Amerika hebben ze al grote commerciële DNA-banken. Dat is de laatste stap, dat je DNA je toegang kan verschaffen tot diensten en plaatsen. DNA is je genetische code met veel meer informatie dan andere biometrische gegevens als vingerafdrukken of gezichtsherkenning. Dat gaat ver voorbij de beveiliger die in de club op basis van je gezicht, je kleding en of je niet teut bent, je toegang kan geven of juist niet.’
Volg Security Management op LinkedIn
