De doe- en denktank Post-X Society onderzocht in het rapport ‘Onder Invloed: hoe virtualisering ons denken en doen stuurt’ hoe digitalisering steeds dieper ingrijpt in onze fysieke leefomgeving. Het rapport, opgesteld in opdracht van de Nationale Politie en Team Science and Technology, laat zien dat technologische ontwikkelingen niet alleen ons gedrag beïnvloeden, maar ook gevolgen hebben voor veiligheid, autonomie en democratie. ‘De grote vraag is uiteindelijk: hoe zit het met de macht?’ zegt Pieter van Boheemen, directeur van Post-X Society. ‘Wie heeft het voor het zeggen, wie legt verantwoording af – en is dat eigenlijk wel goed geregeld?’
Door Sarala Jelgersma / Beeld: Post-X Society
In de huidige gedigitaliseerde wereld is technologie een vanzelfsprekendheid en worden aan de lopende band allerlei data verzameld, gedeeld en gebruikt voor het ontwikkelen van ‘slimme’ objecten en systemen. Sensoren, camera’s, gps-trackers en biometrische metingen geven aan de lopende band informatie door.
Aan de hand van praktijkvoorbeelden, zoals de handel in locatiegegevens, de opkomst van de slimme auto en de invloed van slimme apparaten in huis, illustreert het rapport de concrete gevolgen van de virtualisering. De voorbeelden laten zien hoe onze autonomie wordt aangetast, hoe onze privacy in het geding komt en hoe de democratie onder druk kan komen te staan.
Digitale technologie met diepgaande gevolgen
Het rapport stelt dat we ons aan de vooravond bevinden van een post-digitaal tijdperk. Een tijdperk waarin we altijd en overal deelnemen aan het verzamelen van data, datahandel en de uitkomsten van dataverwerking. Een tijd waarin digitale technologie zo alomtegenwoordig is geworden dat we ons er nauwelijks nog van bewust zijn. Deze virtualisering van onze leefomgeving, waarbij objecten ‘slim’ worden en onze waarneming van de werkelijkheid steeds meer digitaal gefilterd is, heeft diepgaande gevolgen. We staan voortdurend onder invloed van digitale systemen. Ook als we ze niet bewust gebruiken. Het is dan ook belangrijk om nu actie te ondernemen om onze veiligheid, autonomie en democratie te versterken.
Een extreem toekomstscenario is een samenleving waar mensen überhaupt niet meer nodig zijn om het land te besturen
Uitholling van de democratie
‘Voor een democratie heb je een aantal randvoorwaarden nodig. Een belangrijke randvoorwaarde is dat mensen weten wat ze willen en dat kunnen uiten naar hun volksvertegenwoordigers en beleidsmakers, die dat op hun beurt kunnen vertalen naar budgetten en besluitvorming’, legt Boheemen uit. ‘Wanneer besluitvormers niet meer luisteren naar wat mensen willen, of naar welke zorgen ze hebben, maar zich laten leiden door digitale systemen die hun ‘vertellen’ wat mensen nodig hebben, dan ontstaat er een ‘disconnect’. Dat zorgt voor een uitholling van de democratie.’ Een extreem toekomstscenario is een samenleving waar mensen überhaupt niet meer nodig zijn om het land te besturen.
Pieter van Boheemen: ‘De grote vraag is uiteindelijk: hoe zit het met de macht?’
Cybernetische cyclus
Een belangrijk concept dat in het rapport wordt geïntroduceerd, is de ‘cybernetische cyclus’. Deze cyclus beschrijft hoe data worden verzameld, verwerkt en gebruikt om ons gedrag en onze perceptie te beïnvloeden. ‘In huis heb je een thermostaat die meet hoe warm het is en met die gegevens je cv-ketel aanstuurt. Dat op zich is eigenlijk al een cybernetische cyclus’, aldus Boheemen. ‘Maar nu gaan die data ook de andere kant op en wordt de output op allerlei manieren gebruikt en verwerkt tot modellen, waarbij steeds minder duidelijk wordt door wie en hoe de gegevens worden gebruikt.’
Slimme apparaten met elkaar verbinden
Zo kan dus, naast de eerste cybernetische cyclus, een tweede proces plaatsvinden wanneer slimme apparaten met elkaar worden verbonden en de gegevens uitwisselen met de fabrikant. De fabrikant kan bijvoorbeeld gegevens die in het ene apparaat zijn verzameld, gebruiken voor de output in een ander apparaat. Dit hoeft niet gelijktijdig te zijn. Bovendien kunnen alle gegevens gezamenlijk gebruikt worden voor de training van AI-modellen.
Over het algemeen geldt: hoe meer data, hoe meer patronen gevonden kunnen worden. De insulinepomp kan de bloedwaarden van de ene persoon vergelijken met die van grote aantallen andere patiënten. Een ander voorbeeld is een grondstoffenspeculant die de gehele stroom aan grondstoffen en het verbruik ervan van landen en regio’s laten meewegen, waaronder bijvoorbeeld de beweging van olietankers op de oceaan.
> LEES OOK: Consumenten onvoldoende ingelicht over werking slimme apparaten
Aanbod van data is gigantisch
De handel in data is een groeiende sector. ‘Het is gigantisch’, vertelt Van Boheemen. ‘Ik heb geprobeerd om te achterhalen hoe groot die sector nu precies is en wat er gebeurt, maar dat is heel lastig omdat het ook een hele ondoorzichtige sector is. Uiteindelijk ben ik een keer zo’n datahandelplatform opgegaan om te kijken wat ik daar zoal tegen kwam.’
Het rondje op een datamarktplaats levert een overweldigende hoeveelheid aan data op, van autoverhuurstatistieken tot e-sportsdata en van patiëntgegevens tot de data van zonne-energieopwekking. Sommige sets kosten een paar euro, anderen tienduizenden euro’s per maand. Het aanbod is overweldigend. Datahandelaar Datarade heeft bijvoorbeeld 600 categorieën aan datasets.
Absurd
‘Verschillende onderzoeken hebben aangetoond dat je met behulp van die data mensen kunt volgen. Ook mensen van veiligheids- en inlichtingsdiensten of mensen die werken voor defensie’, aldus Van Boheemen. ‘Eigenlijk is dat natuurlijk absurd, als je bedenkt dat al die gegevens gewoon te koop zijn en dat je op die manier ook kwetsbare groepen kunt trianguleren met die datasets.’ Ook apps leveren vaak meer gevoelige informatie dan we ons bewust zijn. ‘Dat kan zelfs gaan om simpele apps, zoals een app die een moslim helpt bij het bidden of een fitness-app.’
Ook de jurisdictie is bij de datahandel niet altijd even duidelijk, omdat het vaak grensoverschrijdend is. Zo vroeg Van Boheemen zich af wat er eigenlijk gebeurde met alle data uit de slimme apparaatjes die bij de Hema, de Action en de bouwmarkt liggen, zoals slimme verlichting, slimme thermostaten en slimme speakers die via wifi worden verbonden met het internet. Deze producten kunnen zelfstandig gegevens verzamelen, verwerken en op basis daarvan acties uitvoeren. ‘Ik kon me niet voorstellen dat die bedrijven een afdeling hebben voor de verwerking van al die informatie en dat bleek dus ook niet zo te zijn. Ze kopen het in bij een bedrijf dat over de hele wereld dataverwerkingssystemen aanbiedt.’
De handel in data is niet doorzichtig
Dataplatforms
Grote elektronicamerken hebben vaak een eigen platform voor het verwerken van de data die ze met hun producten verzamelen. Kleinere fabrikanten hebben de kennis die nodig is voor zo’n platform vaak niet in huis en maken daarom gebruik van aanbieders van generieke platformen, de zogeheten white-label-platformen.
Het Chinese bedrijf Tuya is zo’n white-label-platform. Het is in Nederland verantwoordelijk voor de systemen achter slimme apparaten van onder andere Action, Kruidvat, Lidl en Hema. Tuya verzamelt de gegevens en slaat ze op in een Amerikaanse cloud. Onduidelijk is wie nu eigenlijk de controle heeft over de toegang tot de data en onder welke wetgeving de gegevens vallen.
Toekomstscenario’s
In het rapport wordt een aantal toekomstscenario’s geschetst om de mogelijke impact van de virtualisering te verkennen. Deze scenario’s variëren van een ‘friction-free’-toekomst waarin technologie ons leven gemakkelijker maakt, tot een meer dystopische toekomst waarin onze autonomie sterk is ingeperkt en de democratie is uitgehold.
De boodschap is urgent: we kunnen ons de luxe van afwachten en zien hoe het loopt, niet permitteren. Er wordt dan ook gepleit voor een proactieve houding ten opzichte van de toenemende virtualisering. ‘Het is nog niet zo dat we zonder technologie niet kunnen leven, maar het gaat wel die kant op. En we zien dat het wederom zo is dat de macht centreert bij een klein aantal partijen die vaak buiten onze invloed liggen. Dat aspect, die fysieke kant van de wereld, wordt nog onvoldoende geadresseerd.’
> LEES OOK: Brussel wil makers slimme apparaten verplichten data te delen
Versterking stelsel
Versterking van het stelsel van regulering, toezicht en handhaving is nodig om alles in goede banen te leiden. Gelijktijdig moet meer werk gemaakt worden van bewustwording en toegang tot expertise. Daarnaast zijn alternatieven en nieuwe instituties nodig, en zal de bestaande infrastructuur deels moeten worden vervangen.
‘Het probleem is dat de huidige wetgeving is gebaseerd op toezicht en handhaving, terwijl je bij wijze van spreken al voordat iets op de markt komt, zou moeten zorgen dat de gegevens niet over de halve wereld gaan. Als je dat namelijk pas na afloop doet, ben je vaak tien jaar verder en dan is de schade al aangericht.’ Vroegtijdig bijsturen is dan ook belangrijk. Door dit in een vroeg stadium te doen, is er gelegenheid om de ontwikkelingen richting te geven, voordat ze onomkeerbaar zijn.
Volg Security Management op LinkedIn
