In eerdere columns schreef ik al over het nut om de productie van essentiële onderdelen van beveiligingstechniek in eigen land of iets verder, in Europa, te laten plaatsvinden. Het is daarom positief om te zien hoeveel onderzoek naar de mogelijkheden van AI op hoogwaardig wetenschappelijk niveau in ons land plaatsvindt. En het is geweldig dat wij deze technologie kunnen inzetten ten behoeve van een veilige samenleving. Denk aan het herkennen van risico’s en het kunnen voorspellen waar en wanneer iets zich voordoet.
Maar net zo belangrijk als het zien van kansen blijft het oog houden voor bedreigingen. Immers, deze slimmigheden kunnen zich ook tegen ons keren. Criminelen kunnen nu al beeld en geluid faken en bepaalde data manipuleren door middel van AI-gestuurde hacks. En dat is slechts één vorm van risico bij dit ‘nieuwe’ verschijnsel.
Een ander risico: wat dacht je ervan als kunstmatige intelligentie een eigen leven gaat leiden? Een simpel voorbeeld: AI-robot slaat festivalgangers was de titel van een filmpje dat ik doorgestuurd kreeg. In eerste instantie kwam het wat lachwekkend over: beelden van een om zich heen meppende robot op een Chinees muziekfestival. Het liep gelukkig goed af omdat de menselijke beveiligers hem ‘technisch uitschakelden’, maar toch.
Controle op gebruik van de gegevens die AI voeden, is een vereiste
Dit voorval staat wat mij betreft symbool voor de zorg die securitymanagers bij iedere nieuwe vorm van AI-toepassing op ons vakgebied van nature hebben. Beveiliging moet wel door de mens beheersbaar blijven. En denk dan ook even verder dan alleen aan crimineel misbruik. Ook statelijke actoren kunnen er baat bij hebben dat AI de boel in de war stuurt. En dat deze technologie dus ingezet wordt voor verkeerde doeleinden. Dat kan variëren van het wegsluizen van (persoons-)gegevens tot het saboteren van besturingssystemen en het manipuleren van informatie. Controle op gebruik van de gegevens die AI voeden, is een vereiste. Een mooi voorbeeld daarvan zie je in de Nederlandse film I’m a robot waarin de robot zich afvraagt of de mens die de gegevens invoert, zelf misschien een robot is.
Het is al volop aan de gang
Hoe robuust zijn onze systemen? Checken wij toekomstige systemen ook op AI-risico’s, zoals manipulatie? En dan gooi ik er gelijk maar een ander thema in: quantumtechnologie. Heel kort door de bocht: alles wat wij willen berekenen en programmeren kan tien keer sneller dan nu. Dus ook die zelflerende technieken gaan dan ineens veel sneller. Wat dat betekent voor encryptie, codes en wachtwoorden weten wij al. Maar het verdient absoluut aanbeveling om bij security de combi AI en quantum (lees: snelheid van rekenen) mee te nemen. Dan komen wij minder vaak voor verrassingen te staan. Beide ontwikkelingen zijn er al! Dat u het maar weet. Te vaak hoor ik nog: ‘Het zit eraan zit te komen.’ Nee! Dit is al volop aan de gang. Be prepared!
Richard Franken is directeur van Franken Security Solutions. Daarvoor was hij directeur bij van Aetsveld, The Hague Security Delta, Trigion en Hoffmann bedrijfsrecherche.
Meer blogs van Richard Franken
Volg Security Management op LinkedIn
;
