Voorwoord

De veelbezongen beloftes van AI – van medische doorbraken tot logistieke wonderen – worden inmiddels breed uitgemeten. Daar gaat deze blog dus ook niét over. Niet omdat die kant niet belangrijk is, maar omdat ze al genoeg aandacht krijgt. Wat onderbelicht blijft, is de andere vraag: hoe verandert AI – en straks AGI – onze samenleving? Niet in termen van efficiëntie, maar van veiligheid, gelijkheid en moraliteit. Kunnen we dat beïnvloeden en waarom zouden we dat moeten willen?

Dit stuk verkent dus die schaduwzijde. Niet als doembeeld, maar als noodzakelijke toetsing. Past deze technologische ontwikkeling nog bij wie we als samenleving willen zijn? Ik wil geen angstzaaier zijn, maar wel een wake-up-call doen over nieuwe ontwikkelingen die er aan komen en waarover we tijdig als samenleving moeten nadenken en beleid ontwikkelen. Nobelprijs winnaar (voor zij baanbrekend werk op het gebied van AI) Geoffrey Hinton Vertelt in deze video waar om deze schaduwzijde onze aandacht verdient…

Samenvatting: AI en AGI bieden niet alleen kansen, maar ook bedreigingen voor veiligheid, gelijkheid en moraliteit. Nederland moet deze schaduwzijde toetsen om zijn waarden te beschermen.

Waarom zou AGI een bedreiging vormen voor Nederlands Bestuur en Moraliteit?

Inleiding: Een crisis die Nederland niet kan negeren!

Toen in de jaren tachtig-negentig de computer zijn intrede deed, zagen we banen verdwijnen, privacy als strijdtoneel opduiken, en overheden worstelen met regulering. Bestuurders, bedrijven en burgers hadden vaak geen idee wat hen te wachten stond. Pas na rapporten van het Rathenau Instituut, zoals over technologiebeoordeling in de jaren tachtig, kwam er actie, te laat voor een degelijk beleid dus ontwikkelingen overvielen de maatschappij. Hebben we daarvan geleerd? Nauwelijks. Vandaag herkennen we opnieuw dezelfde blinde vlek, maar dan op een duizelingwekkend grotere schaal. Wederom hebben bestuurders én burgers weinig besef van wat AI – laat staan AGI – teweeg zal brengen. Ook hier waarschuwt Geoffrey Hinton….

In 2021 waarschuwde het Rathenau Instituut opnieuw, met rapporten zoals “Waarden wegen” over de ethische risico’s van digitalisering, maar concrete actie blijft tot nu toe uit. Rudimentaire AI, zoals ChatGPT sinds november 2022, verandert onze wereld al fundamenteel. Een deepfake op X kan nu al een crisis veroorzaken — maar wat als AGI dit straks, onder regie van narcisten of populistische influencers, strategisch inzet? We lijken wederom te slapen.

“We sliepen bij de computerrevolutie in de jaren tachtig… en nu dreigt straks AGI ons opnieuw te overrompelen.”

Van de Verenigde Staten, waar Trump ‘waarheid’ herschreef tot ‘fake news’, tot China, waar AI-surveillance wordt ingezet om burgers te onderdrukken (Amnesty International, 2024), en Europa, waar migratiedebatten steeds verder polariseren (Eurostat, 2024) — overal wordt waarheid een speelbal van macht. Denk aan leiders als Netanyahu of Erdogan, die informatie strategisch inzetten voor eigen gewin. Ook in Nederland zien we bestuurders zwichten voor de luidste stemmen. Het stikstofdebat (2022) is een pijnlijk voorbeeld: RIVM-rapporten werden genegeerd onder druk van protestacties (Trouw). Een virale TikTok-video die ‘stikstofmythes’ verspreidt, overtuigt boeren sneller dan een wetenschappelijk onderbouwd rapport.

Relatief simpele AI-systemen, zoals ChatGPT en TikTok-algoritmes, versterken die trend. Ze versnellen desinformatie, polariseren het debat en ondermijnen bestuurlijke ruggengraat. Maar wat nu al zorgelijk is, krijgt een potentieel verwoestend vervolg: de opkomst van Artificial General Intelligence (AGI) — een AI die écht kan denken, redeneren en beleid vormen als een mens. Terughoudende experts schatten dat AGI binnen 10 tot 20 jaar realiteit zal zijn (Nature, 2024), terwijl anderen waarschuwen dat het al binnen 2 tot 5 jaar zover kan zijn. Tegelijk wijzen sommigen, zoals Gary Marcus, op substantiële technische barrières die nog overwonnen moeten worden. Wat deze uiteenlopende inschattingen delen, is het besef dat AI inmiddels haar eigen code schrijft — en dat we dus in een exponentiële ontwikkelingscurve zitten. Voorspellen wordt daardoor steeds moeilijker.

Maar misschien is dát zelfs niet het belangrijkste punt. Wat telt, is dat AI met de dag slimmer wordt, en dat de huidige generatie tools — hoe indrukwekkend ook — al snel zal worden ingehaald. ChatGPT en soortgenoten zijn nog geen ‘echte’ intelligentie, maar baseren zich op statistische taalanalyse. En toch veranderen ze al onze werkelijkheid. Wat als de volgende generatie AI niet alleen slimmer is, maar ook strategischer, overtuigender — en dus gevaarlijker?

Hoewel sommigen nog wijzen op technische barrières, is de optelsom duidelijk: we moeten ons voorbereiden. Hoe houden we deze ontwikkelingen veilig voor onze samenleving? De groei is exponentieel — en wij slapen nog.

Het is duidelijk: als Nederlandse leiders nu niet handelen, zal A(G)I onze bestuurlijke kwetsbaarheid uitbuiten en onze morele fundamenten verder ondergraven dan AI nu al doet (zie ook blog 118 en volgende). Dit is geen doemdenken, maar een waarschuwing. Nederland heeft zelfs de kans om het verschil te maken — juist vanwege zijn schaal, zijn cultuur én zijn vermogen om moreel leiderschap te tonen binnen Europa.

Samenvatting: Huidige AI-systemen versnellen desinformatie, vergroten maatschappelijke scheidslijnen en ondermijnen bestuurlijke veerkracht. AGI voegt daar iets fundamenteels aan toe: het vermogen tot autonoom redeneren en strategisch handelen. De dreiging is niet hypothetisch, maar exponentieel. Nederland moet nú moreel leiderschap tonen.

“AGI schrijft zijn eigen code…
Maar wie bewaakt onze waarden?”

Huidige AI: Een motor voor wantrouwen en bestuurlijke zwakte

Artificial Narrow Intelligence (ANI) — zoals ChatGPT, Deepseek, Grok en andere zogenaamde taalmodellen — vormt nu al een structurele bedreiging voor het Nederlandse bestuur.

Desinformatie versnelt: MIT-onderzoek (2018) toont aan dat nepnieuws zich zes keer sneller verspreidt dan feitelijke informatie (MIT, 2018). Tijdens het MH17-debat (2014–2024) gebruikten Russische botnetwerken AI om complottheorieën te verspreiden, wat het publieke vertrouwen in bestuur ernstig ondermijnde (NOS, 2024). In het Nederlandse stikstofdebat zwichtten politici onder publieke druk, in plaats van zich te baseren op wetenschappelijke inzichten. Voorbeeld: een X-post die RIVM-data afdoet als “gefabriceerd” krijgt meer bereik dan het onderliggende rapport.

Censuur zonder transparantie: In 2021 bestempelden AI-gestuurde factcheckers van Meta een peer-reviewed artikel in The BMJ over vaccinbijwerkingen als “desinformatie” (The Guardian). The BMJ, een gerenommeerd medisch tijdschrift dat al sinds 1840 wordt uitgegeven — als zelfs dat als ‘onwaar’ wordt bestempeld, wat blijft er dan over? Steeds vaker bepalen techbedrijven ongemerkt wat als ‘waar’ wordt gezien. Ook in Nederland ondersteunen AI-systemen beleidsvorming, maar blijven de gebruikte aannames en databronnen ondoorzichtig.

Verantwoordelijkheid verdampt: Het Rathenau Instituut waarschuwde al in de jaren tachtig voor bestuurlijke passiviteit bij technologische revoluties. In 2023 herhaalde het deze boodschap, en sprak van een “moreel kennisvacuüm” waarin bestuurders AI gebruiken om impopulaire beslissingen te legitimeren — zonder verantwoordelijkheid te nemen. Dit zien we terug in het inconsistente inclusiviteitsbeleid, waarin algoritmen sentimenten volgen in plaats van waarden (zie blog 118).

Moraliteit verdwijnt: AGI vormt juist daarom zo’n risico voor ons moreel kompas: onder de druk van sociale media verdwijnt ruggengraat. Slechts weinigen durven hun visie te verdedigen als die haaks staat op de ‘waarheid’ van de publieke opinie — een opinie gevormd door de invloed van ‘Trumps’ en andere narcisten. Als datasets bepalen wat ‘normaal’ is, verliezen menselijke principes hun richtinggevende kracht. Zoals ik al waarschuwde in blogs 118 en 119: inclusiviteit dreigt van waarde tot wapen te worden.

Samenvatting: Huidige AI versnelt desinformatie, maskeert machtsstructuren, en erodeert zowel verantwoordelijkheid als moreel kompas — met AGI als logische, maar veel gevaarlijker volgende stap.

“Als AI bepaalt wat ‘waar’ is,
wie bepaalt dan wat ‘goed’ is?”

AGI: Een dreiging voor nationale stabiliteit en mondiale orde?

De huidige generatie AI-systemen is indrukwekkend maar fundamenteel beperkt. Ze werken door patronen te herkennen in enorme hoeveelheden data, maar missen echt begrip van wat woorden en concepten betekenen. Ze simuleren intelligentie zonder werkelijk te begrijpen.