Artificial Intelligence (AI) is allang geen hype meer. Maar welke stappen zijn nu nodig om de technologie verantwoord en succesvol toe te passen? Mehrnaz Pour Morshed, Marijn Markus en Jasper van Buren van Capgemini doen concrete voorstellen.
Lynsey Dubbeld
Artificial Intelligence (AI) is een snel ontwikkelende tak van wetenschap, gericht op het ontwikkelen van algoritmes en machines die menselijk gedrag nabootsen. Doorbraken in ‘machine learning’ en data-opslag stellen ons in staat om slimme algoritmes te ontwikkelen, die organisaties helpen om bijvoorbeeld processen te optimaliseren en kosten te besparen.
Geen hype meer
Vorig jaar signaleerde Capgemini al in het jaarlijkse trendrapport Trends in Veiligheid dat AI echt geen hype meer is, maar een technologie met ongekende kansen voor het veiligheidsdomein. De Covid-19 pandemie laat opnieuw de waarde zien van data, algoritmes en AI voor de veiligheid van onze samenleving, schrijven Mehrnaz Pour Morshed, Marijn Markus en Jasper van Buren in de nieuwe editie van het trendrapport. “We werken massaal thuis, en phishing en WhatsApp-fraude nemen fors toe. Tegelijkertijd heeft de verspreiding van het coronavirus de vraag naar nieuwe slimme toepassingen doen toenemen, zoals apps ter ondersteuning van het contact- en brononderzoek van GGD’s en modellen die bezoekersstromen in winkelcentra monitoren”, zegt cybersecurity consultant Mehrnaz Pour Morshed.

Jasper van Buren, Mehrnaz Pour Morshed en Marijn Markus (v.l.n.r.) hebben vier concrete adviezen om AI verder te brengen.
Steeds weer bijleren
De experimenten met AI gaan continu door, voegt Pour Morshed toe. “De technologie blijft zich verder ontwikkelen en maakt steeds nieuwe aanpakken mogelijk. Je test modellen met behulp van steeds meer data – en dankzij ‘deep learning’ ontstaan dan nieuwe resultaten waarmee je kunt bijleren.”
Netflix is in feite een voorbeeld van een AI-toepassing
Het gaat om waarde creëren met data en kansberekeningen
Marijn Markus, AI Lead en Senior Data Scientist, vult aan: “We geven er misschien steeds een andere naam aan, zoals statistiek, data-analytics en deep learning. Maar eigenlijk gaat het steeds om hetzelfde: waarde creëren met data en kansberekeningen.”
Markus maakt een onderscheid tussen de techniek en de toepassingen van AI. “Routeplanners, zelfrijdende auto’s, Alexa, Google, Netflix – het zijn in feite allemaal voorbeelden van AI-toepassingen. Maar er zijn ook nog genoeg sectoren waar AI nog niet wordt gebruikt. Dat ligt niet aan de beschikbaarheid van AI-technologie, maar aan een gebrek aan mensen en middelen om het in te zetten in de praktijk.”
Van test naar gebruik
Een aantal toepassingen van AI, zoals beeldherkenning, fraudedetectie en misdaadvoorspellingen, worden in het veiligheidsdomein al langzaam maar zeker ingezet. Jasper van Buren, managing consultant bij de cybersecurity unit van Capgemini en specialist op het terrein van privacy en security, ziet de doorontwikkeling van proof of concepts naar use concepts als een grote uitdaging voor het veiligheidsdomein.
Goede data, systemen én mensen zijn essentiële randvoorwaarden
“Vooral in de publieke sector liggen AI-initiatieven onder een vergrootglas, omdat de potentiële impact op de samenleving en ons dagelijkse leven enorm is. De mogelijke maatschappelijke ophef maakt het moeilijker om van experimenten tot concrete toepassingen te komen.” Markus voegt toe: “Je moet goed weten hoe je computers en kansberekeningen kunt gebruiken. Goede data, systemen én mensen zijn essentiële randvoorwaarden voor succesvolle AI.”
Sterke link met cyber security
Chatbots met voorlichting over cybersecurity, antwoorden op vragen over Covid-19 en adviezen over veilig bankieren zijn goede voorbeelden van relatief eenvoudige AI-toepassingen uit de huidige praktijk. Pour Morshed: “We zien ook dat de politie op gemeentelijk en regionaal niveau initiatieven neemt, zoals de oprichting van speciale teams die focussen op cybercrime. Het zou mooi zijn als dergelijke initiatieven zich in de nabije toekomst uitbreiden, en daarbij ook aandacht geven aan bijvoorbeeld het vergroten van awareness over cybersecurity. AI heeft namelijk een sterke link met cyber security: aanvallers maken in toenemende mate gebruik van AI, dus moet je ook in toenemende mate weten hoe je je adequaat indekt tegen dergelijke aanvallen.”
Security by Design
Wat moeten securitymanagers zeker weten over de (on)mogelijkheden van AI? “Zorg dat je aanhaakt bij de innovatie- en ontwikkelteams die zich bezighouden met services die AI gebruiken”, adviseert Van Buren. “Securitymanagers moeten op hoofdlijnen weten wat AI is en hoe het werkt. Er komen bijvoorbeeld steeds meer praktische toepassingen van AI binnen organisaties en om veiligheid daarbij te borgen, moeten securityspecialisten zo vroeg mogelijk aanhaken en Security by Design stimuleren. Dat is veel effectiever dan als je pas achteraf gaat kijken naar security-aspecten.”
Mensen moeten weten hoe het werkt en wat de risico’s zijn
Een ander aandachtspunt heeft te maken met de inkoop van security-oplossingen. “Er komt steeds meer security tooling beschikbaar, die gebruik maakt van AI”, zegt Van Buren. “Dat betekent doorgaans dat er sprake is van geautomatiseerde besluitvorming op basis van data. De kwaliteit van de baseline data is dan bepalend voor de betrouwbaarheid van het systeem. Ga er niet vanuit dat een tool goed is omdat er AI in zit, maar kijk kritisch naar de dataset die wordt gebruikt.”
Markus vult aan: “Het belang van kennis over AI is cruciaal. Organisaties zijn geneigd om AI te zien als een tool, die je technologisch implementeert. Maar het grootste deel van het werk ligt aan de menskant: mensen moeten weten hoe het werkt en wat de risico’s zijn.”
Elke organisatie moet een IT-organisatie worden
Markus benadrukt dat ook een brede interne samenwerking belangrijk is. “Het is onvoldoende om één persoon aan te wijzen als verantwoordelijke voor AI, of het nu een cybercrime officer, een data quality officer of een privacy officer is. De enige effectieve manier om AI succesvol en verantwoord in te zetten is om het onderwerp echt te integreren in de gehele organisatie. Sterker nog, elke organisatie moet een IT-organisatie worden, met goede data, systemen en mensen. Anders word je een dinosaurus.”
Meer dan een transactie
In Trends in Veiligheid geven Pour Morshed, Markus en Van Buren vier adviezen om AI verder te brengen:
- Faciliteer een brede discussie over AI en nieuwe technologie, waarin zowel de kosten als baten belicht worden.
- Ontwikkel binnen de overheid een goede interne (data) infrastructuur om de adoptie van nieuwe AI-technieken te versnellen.
- Investeer in het opleiden van medewerkers om met de technologie om te gaan.
- Stimuleer een proactief begrip van de mogelijkheden en risico’s van AI, bijvoorbeeld door best practices en lessons learned te delen.
AI gaat om veel meer dan een verkooptransactie
Ook de samenwerking tussen overheid, verzekeraars, ontwikkelaars en afnemers is cruciaal voor een veilig Nederland, zegt Pour Morshed. “Nu zijn de verschillende rollen en verantwoordelijkheden vaak nog gescheiden. Een leverancier verkoopt software, een bedrijf sluit een cyberverzekering, en universiteiten en hogescholen doen onderzoek. Maar AI gaat om veel meer dan een verkooptransactie. Stel je voor dat ontwikkelaars, onderzoekers, verzekeraars, overheden en organisaties regelmatig bij elkaar zouden komen om toepassingen te evalueren, kwetsbaarheden en risico’s te bespreken, en vernieuwende ideeën en best practices te delen. Dan breng je de brains en budgetten samen, en kom je op een veilige manier tot goede AI-implementaties.”
De AI-discussie gaat nog te veel over woorden en te weinig over daden
AI verder brengen
De AI-discussie gaat nog te veel over woorden en te weinig over daden, concluderen de drie experts. Naast wetgeving en beleid is het van belang om ook actief met onderzoeksresultaten aan de slag te gaan, bijvoorbeeld door experimenten en proof of concepts door te ontwikkelen tot daadwerkelijke toepassingen. Pour Morshed: “Een goede langetermijnvisie is daarbij heel belangrijk. Hoe kan je data en systemen integreren in de business, wat is daarvoor nodig, wat zijn de risico’s?”
Brede maatschappelijke discussie
“Onder burgers heerst doorgaans nog onzekerheid en angst over de technologie. De zorgen lijken het gevolg van science fiction en Hollywood-films, en worden versterkt door de vele verhalen in de media over AI-toepassingen die bijvoorbeeld inbreuk maken op privacy, zoals het inzetten van gezichtsherkenning om burgers te monitoren in China. Tegelijkertijd zetten Nederlandse instanties nog nauwelijks AI op grote schaal in. Hiervoor is brede maatschappelijke discussie nodig,” zegt Markus.
Meer kennis nodig over wat AI precies en wat de risico’s zijn
Daarom is het des te belangrijker dat de Nederlandse overheid de introductie en adoptie van AI binnen het veiligheidsdomein in goede banen leidt, vindt Pour Morshed. “Met name op het vlak van awareness is nog een wereld te winnen: er is meer kennis nodig over wat AI precies is, wat het voor ons dagelijkse leven kan betekenen, en wat de risico’s zijn op het gebied van privacy, security en profiling. Met een brede discussie – met betrokkenheid van overheden, bedrijven en academia – kunnen we de stappen zetten om de ontwikkelingen rond AI verder te brengen.”
Het rapport ‘Trends in Veiligheid 2020’ is te downloaden via www.trendsinveiligheid.nl
Lynsey Dubbeld is communicatie-adviseur, contentstrateeg, trendanalist en copywriter