AI, security en privacy: een nieuw tijdperk voor databescherming

AI gaat een essentiële rol spelen bij zowel het naleven van databeschermingsregels als het verkleinen van beveiligings- en privacyrisico’s, blogt Christoph Bausewein, Assistant General Counsel for Data Protection and Policy bij CrowdStrike.

Databescherming bevindt zich op een cruciaal keerpunt, waarbij AI een steeds centralere rol speelt in zowel cybersecurity als privacy. Organisaties moeten niet alleen hun data en systemen beveiligen, maar ook de AI-modellen die daarvan afhankelijk zijn. Terwijl AI de manier verandert waarop securityteams zich verdedigen tegen cyberdreigingen, herdefinieert het tegelijkertijd ook wat privacybescherming betekent in een digitale wereld.

Privacy en security zijn niet langer aparte vraagstukken. AI-gestuurde beveiligingsmaatregelen laten zien dat sterke cybersecurity de basis vormt voor moderne privacybescherming. Hoewel AI vaak wordt gezien als een risico voor privacy, speelt het ook een cruciale rol bij het beschermen van gevoelige data tegen cyberdreigingen. Organisaties moeten een Privacy-by-Design en Secure-by-Design aanpak hanteren, waarbij AI-systemen vanaf de basis met beveiliging worden ontworpen. Dit geldt voor elke fase van AI-implementatie:

• De data waarmee AI-modellen worden getraind moet beschermd worden tegen manipulatie door aanvallers.
• AI-gestuurde beveiligingssystemen moeten zo ontworpen zijn dat ze gebruikersdata optimaal beschermen.
• De invoer en output van AI moeten goed beveiligd zijn om datalekken en misbruik te voorkomen.

AI-gestuurde cybersecurity bewijst dat beveiliging en privacy onlosmakelijk met elkaar verbonden zijn. Dankzij AI-gedreven dreigingsdetectie kunnen organisaties in real-time verdachte activiteiten herkennen en zich beter verdedigen tegen steeds geavanceerdere cyberaanvallen. Dit is vooral belangrijk bij dark AI, waarbij kwaadwillenden AI gebruiken om razendsnelle en complexe aanvallen uit te voeren die traditionele beveiligingssystemen mogelijk niet op tijd detecteren.

> LEES OOK: Nog geen 1,7% van 2.500 CEO’s voelt zich volledig voorbereid op AI

De kracht van AI in cybersecurity

Om zowel data als AI-systemen te beschermen, moeten organisaties een allesomvattende AI-gestuurde beveiligingsaanpak hanteren, met de volgende prioriteiten:

1. Dreigingsdetectie: AI is bijzonder goed in patroonherkenning en het opsporen van afwijkingen, waardoor subtiele signalen van cyberdreigingen in grote hoeveelheden data kunnen worden ontdekt. Met AI-gestuurde indicatoren van aanval (IOA’s) kunnen potentiële dreigingen worden geïdentificeerd voordat ze uitgroeien tot volledige aanvallen.
2. Reactie en beheersing: AI-gestuurde dreigingsreactie zorgt voor snelle en effectieve acties, waardoor de reactietijd aanzienlijk wordt verkort. Dit is essentieel in een tijd waarin aanvallen zich binnen enkele seconden door netwerken kunnen verspreiden.
3. Beheer van kwetsbaarheden: AI-gestuurde tools zorgen voor continue monitoring en automatische scans om beveiligingsrisico’s op te sporen. Ze kunnen kwetsbaarheden prioriteren op basis van actuele dreigingsinformatie. Zo worden middelen effectief ingezet om de grootste risico’s eerst aan te pakken.
4. AI-ondersteunde dreigingsdetectie: AI versterkt het werk van menselijke analisten door menselijke intuïtie te combineren met de krachtige data-analysemogelijkheden van AI. Deze samenwerking maakt dreigingsdetectie effectiever en proactiever.
5. Verbeterde ondersteuning voor analisten: Generative AI-assistenten in cybersecurity vereenvoudigen het werk van security analisten door natuurlijke taalqueries mogelijk te maken en complexe data-analyse te automatiseren. Dit maakt cybersecurity toegankelijker, zodat gebruikers van alle niveaus geavanceerde security mogelijkheden kunnen benutten.

> LEES OOK: Vaardigheden cruciaal voor succesvolle AI implementatie

Het beschermen van AI zelf

Hoewel AI een cruciale rol speelt bij de bescherming van data, zijn AI-systemen zelf ook kwetsbaar. Nu aanvallers zich steeds vaker richten op AI-modellen, is het essentieel dat organisaties proactieve maatregelen nemen om AI-pijplijnen, modellen en processen te beveiligen.

Een effectieve aanpak voor de beveiliging van AI-systemen omvat:

1. Data-operaties: Het waarborgen van de integriteit van AI-modellen door zorgvuldig geselecteerde trainingsdata. Dit omvat strikte procedures om AI-systemen te beschermen tegen aanvallen op machine learning.
2. Continue verbetering: Voortdurende optimalisatie van AI-modellen om zich aan te passen aan nieuwe dreigingen.
3. Privacy-by-Design: AI-systemen ontwikkelen met Privacy-by-Design als uitgangspunt. Dit zorgt ervoor dat AI wordt ingezet op een manier die gebruikersprivacy respecteert en tegelijkertijd sterke beveiliging biedt.
4. Transparantie en verantwoording: Duidelijke documentatie van de mogelijkheden en beperkingen van AI-systemen. Deze transparantie is essentieel voor het opbouwen van vertrouwen en het naleven van opkomende AI-regelgeving.

De menselijke factor in AI-gestuurde cybersecurity

In tegenstelling tot wat soms wordt gedacht, blijft menselijke expertise essentieel in AI-gestuurde cybersecurity. Een samenwerking tussen mens en machine is noodzakelijk om de snelheid, schaal en toenemende complexiteit van cyberdreigingen het hoofd te bieden. Belangrijke aspecten hierbij zijn:

1. Betrouwbare data-invoer: Menselijke experts leveren essentiële referentiedata voor het trainen en beoordelen van AI-systemen, zodat deze nauwkeurig en betrouwbaar blijven.
2. Active learning: AI markeert incidenten waarbij menselijke beoordeling de meeste waarde toevoegt, zodat experts zich kunnen richten op de belangrijkste dreigingen. Deze aanpak, bekend als de “fast loop” en “long loop”, zorgt ervoor dat AI voortdurend verbetert op basis van menselijk feedback.
3. Doorlopende feedbackloop: Menselijke experts beoordelen de output van AI-systemen en geven feedback, waardoor AI-modellen zich continu verbeteren. Dit iteratieve proces helpt AI om vooruit te blijven lopen op nieuwe en veranderende dreigingen.

AI-regelgeving naleven met een security gerichte aanpak

Moderne AI-systemen werken vaak met een mix van gereguleerde en ongereguleerde data en vallen binnen sectoren die onder uiteenlopende compliance-eisen kunnen vallen. Toch gelden er algemene verplichtingen om passende beveiligingsmaatregelen te nemen op basis van het risico. Zo bevat de Algemene Verordening Gegevensbescherming (AVG) verschillende veiligheidsvoorschriften die technologie-neutraal zijn. Dit betekent dat persoonsgegevens wettelijk beschermd moeten worden, ongeacht of AI wordt gebruikt of niet. Met de opkomst van nieuwe AI-regelgeving, zoals de EU AI Act, is het essentieel om compliance te benaderen met zowel privacy als beveiliging in gedachten.

In de toekomst zal AI een essentiële rol spelen bij zowel het naleven van databeschermingsregels als het verkleinen van beveiligings- en privacyrisico’s.

Christoph Bausewein, Assistant General Counsel for Data Protection and Policy at CrowdStrike

Volg Security Management op LinkedIn