De digitale dreiging: Waarom we vooral kritisch moeten blijven of, zoals Maximn Februari zegt ‘normaal’ moeten blijven doen…

Wie bestuurt straks de wereld?

Mijn drive om altijd vanuit de wisselwerking tussen ‘Technologie & Maatschappij’ naar de toekomst te kijken, wordt in deze tijd steeds meer gevoed door vragen en vermeende gevaren over waar ‘AI’ ons uiteindelijk naartoe zal leiden. De ‘verre toekomst’ van drie jaar geleden is vandaag al aan de orde en veranderingen gaan sneller dan ooit. In het boekje ‘Doe zelf normaal’, laat Maxim Februari, volgens sommigen een van de scherpzinnigste en origineelste denkers van ons taalgebied, zien hoe deze ontwikkelingen niet alleen ons persoonlijke leven beïnvloeden, maar zelfs ook de fundamenten van onze democratie en rechtsstaat op het spel zetten. Hij doet dat met scherpe analyses en onderbouwt zijn betoog met wetenschappelijke inzichten en historische parallellen. Kortom, hij heeft mijn inzichten verbreed en dus kan ik het niet laten om u deelgenoot te maken… Het brengt fundamentele veranderingen teweeg die ons denken, onze perceptie van waarheid en ons gevoel van onafhankelijkheid en veiligheid op de proef stellen. Ik moest even nadenken over wat hij bedoelt met “Doe zelf normaal” als titel van zijn boekje, maar het is een oproep tot zelfreflectie en kritische houding tegenover het huidige maatschappelijke en technologische klimaat. De titel is een omkering van de bekende Nederlandse uitdrukking “Doe normaal”, die vaak wordt gebruikt om afwijkend gedrag te bekritiseren of mensen tot conformisme aan te sporen. Wees dus de luis in de pels!

Februari stelt dat juist overheid, bedrijven en technologische ontwikkelingen zich steeds minder aan normale ethische en democratische principes houden. Hij waarschuwt voor de toenemende invloed van data, algoritmen en surveillance, waarbij burgers onder druk worden gezet om zich aan te passen aan ondoorzichtige systemen. Met “Doe zelf normaal”keert hij de verantwoordelijkheid om: niet de burger moet zich klakkeloos aanpassen, maar machthebbers en instituties zouden zelf hun handelen kritisch moeten beoordelen en verantwoorden

1. Technologie als sturende kracht

In Doe zelf normaal waarschuwt Maxim Februari voor de groeiende invloed van technologie op onze democratie en rechtsstaat. Overheden en bedrijven houden zich steeds minder aan ethische en democratische principes, terwijl algoritmes en data onze levens steeds meer sturen. Wat normaal zou moeten zijn – transparantie, controle en menselijke maat – dreigt verloren te gaan. Februari’s oproep? Blijf kritisch, wees de luis in de pels, en dwing instituties tot verantwoording.

Een voorbeeld hiervan is het gebruik van risicomodellen bij overheidsinstanties. In Nederland leidde het SyRI-systeem (Systeem Risico Indicatie) tot automatische profilering van burgers op basis van gegevens uit verschillende databanken. Het doel was fraudebestrijding, maar het systeem bleek discriminerend en juridisch onhoudbaar, wat uiteindelijk leidde tot een rechterlijke uitspraak die het gebruik ervan verbood. Toch zien we dat steeds meer landen vergelijkbare systemen implementeren, zonder dat er voldoende democratische controle op plaatsvindt.

Natuurlijk biedt technologie ook kansen. AI kan bureaucratische processen versnellen, fraude bestrijden en zelfs helpen bij een eerlijke rechtspraak. Maar zonder transparantie en democratische controle worden deze voordelen snel overschaduwd door risico’s.

2. De illusie van controle

Veel mensen gaan ervan uit dat technologie neutraal is. Data is objectief, computers maken geen fouten en algoritmes doen simpelweg hun werk. Maar dat is een gevaarlijke illusie. Systemen worden nu nog (zie aanvulling bij conclusie) geprogrammeerd door mensen, met alle vooroordelen en machtsverhoudingen die daarbij horen. Dit fenomeen staat bekend als algoritmische bias. Studies tonen bijvoorbeeld aan dat gezichtsherkenningssoftware vaker fouten maakt bij mensen met een donkere huidskleur dan bij mensen met een lichte huidskleur, omdat de trainingsdata voornamelijk uit westerse gezichten bestaat. Dit kan ernstige gevolgen hebben, zoals onterechte arrestaties en discriminatie in sollicitatieprocedures.

Bovendien is er vaak geen mogelijkheid om in beroep te gaan tegen een beslissing van een algoritme. In de VS leidde het gebruik van ‘predictive policing-software’ (misdaad-voorspeller-software) ertoe dat bepaalde wijken disproportioneel zwaar werden gecontroleerd, zonder dat bewoners daar iets tegen konden doen. Dit ondermijnt de rechtsstaat en het fundamentele principe dat burgers recht hebben op een eerlijke beoordeling door menselijke instanties.

3. Wie heeft de macht?

Februari stelt kritische vragen over wie in deze digitale samenleving daadwerkelijk de macht heeft. Is dat nog de democratische overheid? Of zijn het techbedrijven, die met hun dataverzameling en kunstmatige intelligentie het gedrag van miljarden mensen sturen? De grens tussen overheid en bedrijfsleven vervaagt steeds verder door economische, technologische en beleidsmatige ontwikkelingen zoals bijvoorbeeld privatisering, publiek-private samenwerkingsverbanden.

Deze vervaging roept vragen op over democratische controle, transparantie en machtsverhoudingen.
Een concreet voorbeeld is het gebruik van sociale media-algoritmes die bepalen welke berichten gebruikers te zien krijgen. Onderzoek toont aan dat deze systemen polariserende en sensationele berichten versterken, omdat dit de betrokkenheid vergroot. Het gevolg? Een steeds extremere informatiestroom die invloed heeft op verkiezingen, maatschappelijke discussies en de publieke opinie.

Daarnaast maken bedrijven als Google en Facebook (Meta) gebruik van persoonsgegevens als handelswaar. Gebruikersdata wordt verkocht aan adverteerders en overheden, waardoor burgers steeds minder grip hebben op hun eigen privacy. De AVG (Algemene Verordening Gegevensbescherming) in Europa probeert hier grenzen aan te stellen, maar de handhaving is complex en traag.

4. Wat gebeurt er als we geen kritische houding aannemen?

Februari waarschuwt dat als we klakkeloos meegaan in technologische ontwikkelingen zonder kritische vragen te stellen, we onze autonomie verliezen. Een paar historische en hedendaagse voorbeelden laten zien wat er gebeurt als technologie zonder ethische en democratische controle wordt ingezet:

• Het Chinese sociale kredietsysteem: In China worden burgers beoordeeld op hun gedrag via een puntensysteem. Wie ‘ongewenst’ gedrag vertoont, zoals kritiek op de overheid of te laat betalen van rekeningen, kan beperkingen opgelegd krijgen, zoals reisverboden of geen toegang tot bepaalde banen. Dit is een extreem voorbeeld van hoe technologie kan worden gebruikt om mensen te sturen en controleren.
• Cambridge Analytica-schandaal: Tijdens de Amerikaanse verkiezingen van 2016 werd via Facebook-data kiezersprofielen samengesteld en gemanipuleerd met gerichte politieke advertenties. Dit laat zien hoe technologie democratische processen kan beïnvloeden en hoe manipulatie steeds subtieler en geraffineerder wordt.
• De toeslagenaffaire in Nederland: De Belastingdienst gebruikte algoritmes om fraude op te sporen, maar hierdoor werden duizenden ouders onterecht beschuldigd en financieel geruïneerd. Dit is een voorbeeld van hoe een blind vertrouwen in technologie en geautomatiseerde systemen kan leiden tot menselijk leed.

5. Wat kunnen we doen?

Het boek is geen doemverhaal, maar een oproep tot bewustwording en actie, en dat spreekt me aan. Onbewust onbekwaam zijn is een schrikbeeld in een veranderende maatschappij. Dat leidt tot ‘lemminggedrag’, omdat er geen rationeel draagvlak is voor iets anders. We moeten dus kritisch blijven op hoe technologie wordt ingezet en welke invloed dit heeft op onze rechten en vrijheden. Democratie betekent niet alleen stemmen tijdens verkiezingen, maar ook actief deelnemen aan het debat over de digitale toekomst.

Je zou je kunnen afvragen waarom dit nodig is, maar als je beseft dat we op dit gebied nog nooit hebben kunnen rekenen op goed doordacht beleid, is het antwoord daarmee gegeven en dus een volmondig ‘ja!’. De overheid regeert ook zonder de juiste kennis gewoon door, op de automatische piloot.

• Eisen van transparantie: Overheden en bedrijven moeten helder maken hoe hun algoritmes werken en welke beslissingen ze beïnvloeden. Open source en onafhankelijke audits kunnen helpen om onrechtvaardige systemen te corrigeren.
• Digitale geletterdheid bevorderen: Burgers moeten beter begrijpen hoe technologieën werken en welke impact ze hebben. Dit zou een vast onderdeel moeten zijn van het onderwijs.
• Juridische bescherming versterken: De wetgeving rondom digitale rechten moet worden uitgebreid en streng worden gehandhaafd. Dit betekent ook het bestraffen van misbruik door bedrijven en overheden.

6. Conclusie: blijf zélf kritisch en vertrouw niet op geniaal beleid op dit gebied zónder onze inspraak!

In een wereld waarin technologie steeds meer de regels bepaalt, is het cruciaal dat we zelf blijven nadenken. We kunnen niet klakkeloos vertrouwen op systemen die ons leven sturen. Maxim Februari laat zien dat we zelf verantwoordelijk blijven voor onze vrijheid en onze rechten. Zijn boodschap is helder: blijf waakzaam, blijf kritisch. Want als we dat niet doen, lopen we het risico dat de technologie niet ons helpt, maar ons beheerst.

Aanvulling op 2. De illusie van controle: (niet benoemd in het boekje)

De illusie van controle wordt nog veel vreemder… Systemen worden (nu nog) geprogrammeerd door mensen, met alle vooroordelen en machtsverhoudingen die daarbij horen. Nu nog, klinkt misschien als een probleem wat dus op termijn wordt opgeheven, maar het probleem wordt alleen maar groter! Op termijn hebben mensen door AI namelijk helemaal geen grip meer op de programmering van die systemen! Wetenschappers waarschuwen dat AI zich op termijn zelfstandig kan ontwikkelen, waardoor menselijke controle afneemt. Dit roept de vraag op: hoe zorgen we ervoor dat we grip houden op technologie die slimmer wordt dan wij?Nee, ik ben geen doemdenker, maar som gewoon de feiten op. Dat betekent wel dat we onze ‘waarheid’ zien verschuiven naar de output van AI in plaats van lokale krachten als politiek, bedrijf of influencers… Een andere wereld…

In een wereld waar technologie de spelregels bepaalt, moeten we zelf aan zet blijven. Vertrouw niet blind op beleid of systemen. Eis transparantie, bevorder digitale geletterdheid en bescherm je rechten. Want als wij niet opletten, doet niemand het voor ons.

Jeroen Teelen

7 maart 2025