Op Naardervenne International Airport wordt zoals u als trouwe lezer van de column weet hard aan de toekomst gewerkt. Het resultaat van al die inspanning valt binnenkort te bewonderen in de vertrekhal: de Intelligente Preventieve Automatische Terroristen Scanner of iPATS. De iPATS wordt bediend door slechts één securitymedewerker. Alle passagiers (inclusief het personeel) moeten door dit apparaat lopen.
De iPATS heeft drie uitgangen. Uit de eerste uitgang (‘GOED’) komen de Goeden. Die mogen doorlopen naar de gate. Uit de tweede uitgang (‘SLECHT’) komen de Slechten: geknevelde terroristen, criminelen en drugsmokkelaars. De laatste uitgang (‘TWIJFELACHTIG’) komt weer uit in de vertrekhal, waarna de persoon in kwestie het opnieuw mag proberen of naar huis gaan.
Het enige wat de securitymedewerker hoeft te doen is af en toe de politie bellen om een geknevelde crimineel op te komen halen. Maar ik vrees dat hij in de toekomst zal worden wegbezuinigd wanneer het apparaat zelfstandig met de hermandad contact gaat opnemen.
Het is een voorbeeld van wat ik een ‘abstract securitysysteem’ noem. Je stopt er wat in, er vindt een onbestemd proces plaats en er rolt een beslissing uit. Uw organisatie zit waarschijnlijk vol van dit soort systemen, van eenvoudige pasjesscanners tot heuristische detectiesystemen. Voor een toegangspasje is zo’n proces nog te volgen, maar bij iets als biometrische herkenning haakt 99,9 procent van de gebruikers af op de complexe wiskunde en kansberekeningen die daarachter zitten. En als we het al kunnen begrijpen krijgen we geen toegang – want bedrijfsgeheim. Dus geloven we er maar in.
Over afzienbare tijd komen daar kunstmatige intelligente systemen bij die nog complexere taken gaan uitvoeren. En het verraderlijke is dat straks iedereen zulke systemen kan bouwen. Zonder inhoudelijke kennis. De bouwpakketten hiervoor zijn nu al verkrijgbaar. Het enige wat je verder nodig hebt is data om het systeem mee te trainen. En aangezien data tegenwoordig alomtegenwoordig is heb je al snel iets wat lijkt te werken.
In werkelijkheid zullen deze systemen gewoon ‘kunstmatig dom’ zijn
Ik vrees dat we de komende jaren overspoeld gaan worden door systemen die het etiket ‘kunstmatig intelligent’ dragen (want dat verkoopt lekker), maar in werkelijkheid gewoon ‘kunstmatig dom’ zullen zijn. Dat is geen voorspelling maar gewoon een waarneming hoe de soft- en hardware industrie de afgelopen 40 jaar heeft gewerkt. Daarbij gonst het van de geruchten dat de meeste mensen die straks door de iPATS heen lopen weer in de vertrekhal zullen uitkomen.
Maar de folders vol Silicon Valley zwambabbel liggen al klaar: “Stel u voor, een veilige wereld, zonder criminaliteit, waarin iedereen in ware vrijheid kan leven, waarin uw kinderen zich zonder gevaar volledig kunnen ontplooien… De iPATS, úw systeem, gaat dat mogelijk maken.”
Daar “nee” tegen zeggen, dát is pas crimineel.
Meer blogs van Civis Sollicitus
– Biometrie: toegangscontrole van de toekomst?
– Artificial intelligence voor veiligheid: de hype voorbij?
– 5G: Kansen en uitdagingen voor veiligheid
Volg Security Management op LinkedIn
