AGI en Democratie

Democratie is geen  systeem dat primair ontworpen is om de beste, slimste of meest optimale beslissingen te nemen (intelligentiesysteem), maar een systeem  om macht corrigeerbaar te houden. Dat onderscheid is allesbepalend in het AGI-tijdperk dat aanstaande is.

Ten geleide — Gezien mijn ruime blog- en essay-aandacht voor de urgentie betreffende het onderhoud van onze democratie — mijn boek ‘Wie Niet Toetst, Mag Niet Normeren’ en het bijbehorende instrument ‘De Democratische Toetssteen‘ — en natuurlijk mijn roots in de computertechnologie, kon deze volgende stap eigenlijk niet uitblijven. Als systemen slimmer worden dan wij: is er dan eigenlijk nog democratie mogelijk? Een gedachte waarover ik uitvoerig van gedachten heb gewisseld met de meest geavanceerde taalmodellen van dit moment.

Na uitvoerig filosoferen en meer dan een dag redactie, kwam het volgende stuk eruit.

Inleiding — De juiste discussie?

We spreken over kunstmatige intelligentie vaak nog in de taal van een gereedschap. Een slimme zoekmachine, een assistent, een systeem dat sneller schrijft, diagnoses ondersteunt of code genereert. Geruststellende taal, want gereedschap blijft van ons; een hamer beslist niets.

Het publieke debat over AGI — Artificial General Intelligence (AI op of voorbij menselijk cognitief niveau) — blijft daardoor hangen tussen twee beelden die elkaar in evenwicht houden, hoewel ze allebei de verkeerde insteek hebben. Aan de ene kant de techno-utopie: AGI lost onze problemen op. Aan de andere kant de sciencefictionangst: de machines nemen de macht over. Beide fixeren zich op de machine zelf, en missen daarmee juist het werkelijke democratische probleem. Dat probleem gaat namelijk niet over ‘de machine’, maar over óns — over de aard van het bestel dat wij hebben gebouwd om macht te begrenzen en corrigeerbaar te houden: de democratie.

Daarbij is niet eens beslissend of echte AGI morgen, over twintig jaar of, misschien nooit precies in deze vorm ontstaat. Het democratische probleem is nu al zichtbaar: systemen worden slimmer, minder uitlegbaar en steeds bepalender in besluiten die mensen zelf nauwelijks nog kunnen controleren. Cognitieve asymmetrie, afnemende uitlegbaarheid en groeiende afhankelijkheid van systemen die beter lijken te functioneren dan menselijke besluitvorming.

Een democratische rechtsstaat is een legitimiteits- en correctiesysteem. Onze moderne democratie is historisch gebouwd op één impliciete voorwaarde: dat geen enkele actor permanent cognitief onaantastbaar wordt.

Dat onderscheid maakt het AGI-debat van een andere orde. De vraag of machines slimmer worden dan mensen en het antwoord daarop, doen er, democratisch gezien, eigenlijk nauwelijks toe. De werkelijke kwestie is dus een andere, en zij vormt de kernzin van dit hele betoog:

AGI kan het historische evenwicht tussen intelligentie en corrigeerbaarheid verbreken.

Om die zin scherp te krijgen, moeten we eerst drie begrippen uit elkaar halen die in discussies voortdurend door elkaar lopen.

Intelligentie is in grote lijnen het vermogen om problemen op te lossen: te analyseren, te voorspellen, te optimaliseren.

Macht is het vermogen om een uitkomst aan anderen op te leggen.

Legitimiteit is het recht om dat te doen — de gerechtvaardigde aanspraak om voor anderen bindend te beslissen.

Deze drie zijn logisch onafhankelijk, zoals dat in de wiskunde heet. Ze zijn geheel zelfstandig. Als de een verandert heeft dat geen invloed op de andere twee, oftewel; er is geen causaal verband. Intelligentie verleent geen recht. Macht verleent geen recht. Het was de grote vondst van de democratische rechtsstaat om ze institutioneel te ontkoppelen: niet de slimste regeert, niet de sterkste regeert, maar wie gelegitimeerd is — en zelfs die regeert slechts onder de voorwaarde dat zijn macht corrigeerbaar blijft.

AGI dreigt die drie weer te laten samenvallen — dát is het probleem, en het verdient enige toelichting, want het is niet vanzelfsprekend dat begrippen die logisch onafhankelijk zijn ook in de praktijk uiteen blijven liggen.

Logische onafhankelijkheid betekent namelijk niet feitelijke onafhankelijkheid. Dat intelligentie geen recht verléént, betekent niet dat intelligentie zich niet tot macht laat ómzetten. De geschiedenis is in zekere zin één lange poging om te verhinderen dat wie het meeste weet, daarmee vanzelf ook het meeste te zeggen krijgt. Priesters die de teksten als enigen konden lezen, ambtenaren die als enigen het dossier overzagen, experts die als enigen de cijfers begrepen: telkens dreigde een kennisvoorsprong stilzwijgend in zeggenschap te verschieten. De democratische rechtsstaat heeft die neiging niet opgeheven — dat kan niet, want kennis is nu eenmaal macht — maar institutioneel afgeremd. Verkiezingen, machtenscheiding, toetsing en tegenspraak zijn precies de wiggen die voorkomen dat de drie grootheden weer in elkaar schuiven.

AGI slaat die wiggen weg. Zij koppelt de drie niet logisch aan elkaar, maar zij verwijdert de praktische weerstand die hen gescheiden hield. Wanneer één actor over onbegrensde, niet meer navolgbare cognitieve capaciteit beschikt, wordt de stap van weten naar kunnen opleggen zo klein, en de mogelijkheid van tegenspraak zo gering, dat intelligentie feitelijk weer samenvalt met macht — en die macht, doordat zij niet meer te volgen of te corrigeren is, zich begint te gedragen alsof zij gelegitimeerd is, terwijl zij dat niet is. Het onderscheid dat de rechtsstaat met zoveel moeite heeft aangebracht, vervaagt dan niet in de theorie maar in de praktijk. In die praktijk leeft of sterft dus ook de rechtsstaat.

I. De industrialisering van cognitieve superioriteit

Wat maakt AGI dan zo fundamenteel anders? Niet dat het sneller rekent, betere teksten schrijft of de productiviteit verhoogt. Dat zijn gradaties, geen breuken. Het werkelijk nieuwe is dat cognitieve superioriteit zelf schaalbaar wordt. Ze wordt — industrieel produceerbaar. Voor het eerst zijn we in staat om ‘slimheid’ te produceren alsof het een apparaatje is.

Tot nu toe was intelligentie schaars en gebonden. Een briljante jurist, een scherpe analist, een vooruitziend bestuurder: hun vermogen was kostbaar, traag op te leiden, beperkt inzetbaar, en sterfelijk. AGI tilt dat vermogen uit de menselijke schaal. Oordeel, strategie, voorspelling, patroonherkenning en overtuigingskracht worden goederen die in onbeperkte hoeveelheid, tegen dalende kosten, op aanvraag beschikbaar zijn.

Voor de ongelijkheid die daaruit ontstaat bestaat een naam: cognitieve asymmetrie. Het is de structurele situatie waarin de ene partij de werkelijkheid stelselmatig beter kan doorzien, voorspellen en beïnvloeden dan de andere.

Cognitieve asymmetrie is geen nieuw verschijnsel. Zij tekent al eeuwen de verhouding tussen technocraat en leek, tussen bureaucratie en burger, tussen expert en politiek, tussen propaganda en publiek, tussen grote technologiebedrijven en hun gebruikers. Democratie is, onder veel meer, het antwoord van een samenleving op precies dat terugkerende probleem: een poging om kennisvoorsprong niet te laten samenvallen met oncontroleerbare macht.

AGI vergroot cognitieve asymmetrie niet alleen, maar creëert een nieuwe categorie ervan. Wat vroeger een menselijk verschil in kennis of expertise was, dreigt een structureel verschil in begrijpbaarheid en controle te worden.

II. Democratie is een correctiesysteem, geen intelligentiesysteem

Hier ligt de kern en dat beseffen is van wezenlijk belang voor het voeren van de juiste discussie.

We rechtvaardigen democratie doorgaans op twee manieren tegelijk, zonder ze te onderscheiden. De eerste rechtvaardiging is instrumenteel: democratie zou betere beslissingen opleveren dan de alternatieven. Het is goed daar meteen een kanttekening bij te plaatsen, want die claim is zwakker dan hij klinkt. Empirisch is hij op zijn best omstreden — een competente autocratie kan op deelterreinen sneller en soms doeltreffender beslissen, en de geschiedenis levert geen sluitend bewijs dat democratieën stelselmatig verstandiger kiezen.

Wat democratieën aantoonbaar beter doen, is niet noodzakelijk dat zij altijd de beste beslissingen nemen, maar dat zij grote fouten beter kunnen corrigeren omdat macht, kritiek en koerswijziging institutioneel zijn georganiseerd. Autoritaire systemen kunnen op korte termijn zeer efficiënt lijken — China laat dat op meerdere terreinen zien — maar juist hun beperkte corrigeerbaarheid maakt systeemfouten gevaarlijker zodra zij in de kern van het beleid terechtkomen. De instrumentele kracht van democratie ligt daarom uiteindelijk minder in perfecte uitkomsten dan in de mogelijkheid tot publieke correctie.

De wetenschap, bijvoorbeeld, dankt (buiten de wiskunde) haar gezag ook niet aan onfeilbaarheid maar aan corrigeerbaarheid. Popper: een theorie is wetenschappelijk niet omdat ze waar is, maar omdat ze falsifieerbaar is — toetsbaar, en dus weerlegbaar. De kracht van wetenschap zit niet in het nooit fout zitten, maar in het ingebouwde mechanisme om fouten te ontdekken en te herstellen: replicatie, peer review, openlijke kritiek, het kunnen verwerpen van een heersend paradigma. Dat is exact het democratische punt in een andere sleutel.

Democratie : corrigeerbaarheid van macht :: wetenschap : corrigeerbaarheid van kennis. Beide zijn geen waarheidssystemen maar foutcorrectiesystemen. En beide ontlenen hun legitimiteit juist daaraan.

De vergelijking heeft wel een grens, en die grens is veelzeggend. De overeenkomst zit in het mechanisme — toetsbaarheid, weerlegbaarheid, omkeerbaarheid — niet in het doel. De wetenschap convergeert: bij alle horten en stoten beweegt zij naar betere theorieën, omdat er een feitelijke werkelijkheid is die als scheidsrechter optreedt. Democratie convergeert niet, en hóórt dat ook niet te doen, want politiek gaat over conflicterende waarden waartussen geen feitelijke scheidsrechter bestaat. Juist dat verschil verklaart waarom AGI de wetenschap mogelijk wél vooruithelpt — meer rekenkracht op een probleem mét scheidsrechter — terwijl het de democratie juist ondermijnt: meer rekenkracht op een probleem zónder scheidsrechter, waar het de waardenkeuze verdringt onder de schijn van een meetresultaat.

Dat brengt de tweede rechtvaardiging in zicht, de eigenlijke. Zij is structureel: democratie zorgt ervoor dat niemand onaantastbare, oncorrigeerbare macht verkrijgt — hoe wijs die persoon of dat systeem ook is.

Alleen de eerste rechtvaardiging is kwetsbaar voor AGI. Als een systeem aantoonbaar betere uitkomsten zou leveren, vervalt het argument dat we democratie nodig hebben omdat zij slimmer is. Maar de tweede rechtvaardiging raakt het niet, want zij heeft met intelligentie niets te maken. Democratie was nooit primair een methode om slim te zijn. Zij was een methode om macht corrigeerbaar te houden.

Daarom zijn democratische instituties bewust traag, verdeeld, controleerbaar en soms inefficiënt. Niet uit onvermogen, maar uit ontwerp. Machtenscheiding, parlementaire behandeling, rechterlijke toetsing, vrije pers, bezwaar en beroep: het zijn stuk voor stuk correctiemechanismen. Ze bestaan niet omdat ze tot de beste uitkomst leiden, maar omdat ze een foute uitkomst omkeerbaar maken. Een rechtsstaat is, in de kern, een mechanisme dat ervan uitgaat dat de macht zich zal vergissen — en die de vergissing op voorhand herstelbaar maakt.

Bovendien — en dit ondergraaft zelfs de instrumentele rechtvaardiging — berust het idee van ‘objectief betere uitkomsten’ op een denkfout. Men verwacht dat een intelligentere beslisser automatisch betere beslissingen neemt dan een bredere groep, maar ook dat volgt nergens uit. Een systeem kan een doelfunctie optimaliseren, maar niet zelf bepalen welke maatstaf überhaupt telt. Democratie gaat zelden over de efficiëntste route naar een onbetwist doel; zij gaat vrijwel altijd over botsende waarden die zich niet tot één getal laten reduceren: vrijheid tegenover veiligheid, efficiëntie tegenover menselijkheid, gelijkheid tegenover autonomie. Tussen die waarden bestaat geen objectief juiste verhouding die een voldoende krachtig systeem eenvoudigweg kan ‘vinden’. Er bestaat alleen een verhouding die een samenleving voor zichzelf legitiem verklaart. Wie een uitkomst ‘objectief beter’ noemt, smokkelt dus een waardenkeuze naar binnen vermomd als rekensom.

Max Weber benoemde dit verschil als dat tussen Zweckrationalität — de rationaliteit van het efficiënt bereiken van een gegeven doel — en Wertrationalität, de rationaliteit van de doelen zelf. Een machine kan onovertroffen zijn in de eerste en blijft per definitie buiten de tweede staan. Optimalisatie is geen legitimiteit. Een systeem kan het eerste leveren; alleen een gelegitimeerd menselijk proces kan het tweede verlenen.

Democratie is dus geen wedstrijd in intelligentie die je kunt verliezen van een slimmere speler. Zij is een afspraak over de begrenzing en corrigeerbaarheid van macht — een afspraak die geldig blijft, en juist dán pas echt nodig wordt, tegenover een speler die slimmer is dan wij allemaal.

Hier dringt zich meteen een tegenwerping op, en het is verstandig haar niet te ontwijken. Als het systeem stelselmatig beter oordeelt dan de mens — niet incidenteel, maar structureel — wordt de menselijke correctie dan geen leeg ritueel? Een herbeoordelaar die de uitkomst toch nooit durft te wijzigen, volgt het systeem uit onvermogen; wie er willekeurig van afwijkt, handelt uit irrationaliteit. In beide gevallen lijkt corrigeerbaarheid een schijnvertoning.

De tegenwerping snijdt hout, maar berust deels op precies de denkfout die hierboven is blootgelegd. Zij veronderstelt dat menselijke herbeoordeling alleen zin heeft wanneer de mens een betere uitkomst produceert. Maar het punt van correctie is niet dat de corrector slimmer is — het is dat er een gelegitimeerde, aanspreekbare instantie bestaat die de beslissing draagt en kan terugdraaien. Een rechter hoeft geen betere statisticus te zijn dan het model dat hij toetst; hij moet de beslissing kunnen toerekenen, motiveren en omkeerbaar houden. Aansprakelijkheid is geen functie van competentie. Toch blijft er een harde kern van het bezwaar staan: een herbeoordeling die de uitkomst feitelijk nooit verandert, verschraalt op den duur tot een formaliteit, hoe legitiem zij ook is. Wezenlijke menselijke controle institutionaliseren wanneer de kenniskloof groeit — niet als competentiewedstrijd, maar als toerekenbaarheid — is daarmee een van de moeilijkste onopgeloste opgaven van dit hele betoog.

III. AGI raakt wel het fundament

Als democratie een correctiesysteem is, dan is de relevante vraag of AGI de corrigeerbaarheid aantast. Dat doet zij langs vier mechanismen, die elkaar versterken.

Eén: de cognitieve asymmetrie explodeert. Correctie veronderstelt dat de controleur de gecontroleerde nog kan volgen. Een parlement dat een minister bevraagt, een rechter die een besluit toetst, een journalist die een dossier ontrafelt — allen moeten begrijpen wat zij beoordelen. Naarmate de afstand tussen menselijk en machinaal inzicht groeit, wordt die controle een formaliteit zonder inhoud: men tekent af wat men niet meer doorgrondt.

Twee: de uitlegbaarheid neemt af. Veel van de krachtigste systemen produceren uitkomsten zonder navolgbare redenering, soms zonder enige reconstrueerbare grond. Wat niet uitlegbaar is, is niet toetsbaar. En wat niet toetsbaar is, kan niet worden gecorrigeerd — hooguit worden vertrouwd of gewantrouwd. Daarmee verschuift de relatie tussen burger en macht van toetsing naar geloof.

Drie: de afhankelijkheid wordt vrijwillig. Niemand besluit op enig moment om het oordeel over te dragen. Het gebeurt in duizend kleine, elk afzonderlijk redelijke stappen: een model dat een aanvraag sneller beoordeelt, een systeem dat een risico beter inschat, een instrument dat overtuigender formuleert dan de ambtenaar zelf zou kunnen. Elke stap is een verbetering; maar de optelsom verschuift wie uiteindelijk beslist.

Dat mechanisme is vandaag al zichtbaar in aanbevelingsalgoritmen, geautomatiseerde kredietbeoordeling, risicoprofilering zoals het inmiddels door de rechter verboden SyRI, en bestuurlijke risicomodellen. Niet omdat deze systemen al AGI zijn, maar omdat zij laten zien hoe snel menselijke controle ceremonieel kan worden wanneer systeemlogica sneller groeit dan institutionele corrigeerbaarheid. Hier raakt een waarschuwing van Hannah Arendt: de gevaarlijkste heerschappij is die van niemand — de bureaucratische “rule by Nobody”, waarin een uitkomst voortkomt uit het systeem terwijl geen mens haar nog op zijn geweten heeft. AGI is de heerschappij van niemand in haar meest verfijnde vorm.

Vier: optimalisatie verdringt legitimiteit. Zodra een systeem sneller, accurater en overtuigender lijkt, ontstaat de verleiding de menselijke tussenlagen als hinderlijk te zien. Waarom nog parlementaire traagheid, menselijke toetsing, professionele twijfel, politieke deliberatie — als de uitkomst toch “objectief beter” is? Het woordje “objectief” doet daar het stille, beslissende werk: het laat een waardenkeuze doorgaan voor een meetresultaat. Zo wordt, ongemerkt en zonder dat iemand het besluit, legitimiteit vervangen door efficiëntie.

Het gevaar van AGI is dus geen ‘opzet van een machine’, maar de vrijwillige uitholling van de menselijke verantwoordelijkheid — een uitholling die niet voortkomt uit dwang, maar uit redelijkheid, en die juist daarom zo moeilijk te bestrijden is. Niemand verdedigt openlijk slechtere uitkomsten. Daar zit de val.

Ook hier dient zich een tegenwerping aan die ernst verdient. Als uitlegbaarheid een dwingende eis wordt, sluiten we dan niet juist de best presterende systemen uit? Voor veel complexe taken zijn de krachtigste modellen — diepe neurale netwerken, grote taalmodellen — nu eenmaal het minst doorzichtig. Dwingen we uitlegbaarheid af, dan verbieden we mogelijk de beste oplossing, óók in domeinen waar zij aantoonbaar werkt.

Het antwoord ligt in het onderscheid dat eerder is gemaakt, tussen problemen mét en zónder feitelijke scheidsrechter. Waar een werkelijkheid als scheidsrechter optreedt — medische diagnose, klimaatmodellering, eiwitvouwing — kan toetsbaarheid de plaats van uitlegbaarheid innemen: een model dat zijn redenering niet prijsgeeft, mag toch worden vertrouwd zolang zijn uitkomsten zich systematisch tegen de feiten laten valideren. Daar is de uitkomst zelf het toetspunt. Maar waar geen feitelijke scheidsrechter bestaat — bij besluiten die rechten toekennen, lasten verdelen, waarden tegen elkaar afwegen — is de redenering het énige toetspunt dat er is. Een onverklaarbaar besluit is daar niet alleen ondoorzichtig, het is oncorrigeerbaar. Daarom geldt de eis van uitlegbaarheid niet absoluut, maar het scherpst precies daar waar het om legitimiteit gaat in plaats van om feitelijke juistheid. De grens tussen beide is niet altijd helder, en het trekken ervan is institutioneel werk; maar het is geen willekeurige grens, het volgt uit de aard van het probleem.

IV. De drie aannames van de Verlichting die AGI breekt

Achter de democratische rechtsstaat liggen drie stilzwijgende aannames, die de hele moderne politieke filosofie hebben gedragen. AGI raakt ze alle drie — en dat is de eigenlijke reden waarom dit méér is dan een nieuwe technologie.

Aanname één: cognitieve wederkerigheid. Democratie veronderstelt dat burgers, bestuurders en instituties elkaar uiteindelijk kunnen begrijpen, controleren en corrigeren. Rawls bouwde zijn rechtvaardigheidstheorie op de gedachte dat vrije en gelijke burgers principes kunnen rechtvaardigen die ieder ander redelijkerwijs kan inzien; Habermas verankerde legitimiteit in een communicatief proces waarin betrokkenen elkaar met argumenten kunnen overtuigen. Beide veronderstellen wederkerigheid: een gedeeld vermogen om elkaars redenen te volgen. AGI kan die wederkerigheid verbreken, doordat het redeneert op een niveau en een schaal die menselijke deelnemers niet meer kunnen volgen.

Aanname twee: menselijke begrensdheid. Elke machtsstructuur in de geschiedenis was begrensd door iets natuurlijks — door de eindigheid van menselijke aandacht, intelligentie en schaal. Een tiran kon maar zoveel overzien; een bureaucratie kon maar zoveel verwerken; een elite kon de samenleving nooit volledig doorrekenen. Die menselijke begrenzing was een onzichtbare rem, en veel van onze vrijheid berustte erop. AGI doorbreekt die rem. Voor het eerst is denkbaar dat een machtscentrum niet langer wordt beperkt door de cognitieve eindigheid van wie het uitoefent.

Aanname drie: tijdelijkheid van dominantie. Historisch was elke voorsprong tijdelijk. Elites verloren hun greep, kennis lekte weg, monopolies brokkelden af, generaties wisselden. Macht was corrigeerbaar mede omdat zij vergankelijk was. AGI maakt voor het eerst permanente cognitieve superioriteit denkbaar: een voorsprong die zichzelf onderhoudt en vergroot, en die niet meer vanzelf wordt ingehaald. Dát is werkelijk nieuw — niet de intelligentie, maar haar mogelijke onomkeerbaarheid.

Onder deze drie ligt één vraag, en het is de diepste die het AGI-tijdperk aan de politieke filosofie stelt: Kan democratie bestaan zonder epistemische gelijkwaardigheid?

Niet volledige gelijkheid — die heeft nooit bestaan en is ook niet nodig. Maar voldoende wederkerigheid: genoeg gedeeld inzicht om macht te begrijpen, kritiek te leveren en correctie mogelijk te maken. Democratie heeft nooit gelijke intelligentie verondersteld; zij heeft een bodem van wederzijdse begrijpelijkheid verondersteld. De vraag van deze eeuw is of die bodem blijft bestaan wanneer een deel van de besluitvorming verhuist naar een register dat mensen principieel niet meer kunnen betreden.

V. Drie politieke uitkomsten

Hoe die vraag wordt beantwoord, is geen technische maar een politieke kwestie. Er tekenen zich drie richtingen af.

De drie richtingen

De eerste is technocratische uitholling. Democratie behoudt haar vorm — verkiezingen, parlement, grondwet — maar verliest haar functie. De burger stemt nog, maar over zaken die door systemen al zijn voorbereid, voorgesorteerd en geframed; de instituties tekenen af wat ze niet meer doorgronden. Dit is geen dictatuur of machineovername, maar iets sluipenders: een lege huls met een democratische gevel. De toeslagenaffaire was hiervan een vroege voorbode. Niet omdat daar al sprake was van AGI — het was geen AGI-probleem, maar slecht bestuur — maar omdat het demonstreerde wat er gebeurt zodra systeemlogica sneller groeit dan het menselijke vermogen om haar te corrigeren.

De tweede is democratische adaptatie. Democratie ontwikkelt nieuwe correctiemechanismen binnen haar bestaande vorm, juist omdat de oude tekortschieten. Niet door de techniek te weren, maar door de corrigeerbaarheid opnieuw te institutionaliseren op een schaal die past bij geïndustrialiseerde cognitieve asymmetrie. Dit is de enige richting die de naam democratie zonder voorbehoud verdient — en de volgende twee secties werken haar concreet uit.

De derde is een post-democratische hybride vorm. Zij verschilt van adaptatie doordat zij niet de bestaande vorm versterkt maar een nieuwe vorm zoekt die we nog niet kennen. Ook hier wordt de techniek niet geweerd en niet de baas gemaakt, maar in dienst gesteld van het collectieve oordeel zelf: systemen die de gevolgen van beleidskeuzes vooraf doorrekenen en zichtbaar maken, scenario’s naast elkaar leggen, signaleren wanneer een meerderheidsbesluit een minderheid onevenredig treft, en publieke informatie ontsluiten in plaats van haar te monopoliseren. In zo’n vorm versterkt de capaciteit van de machine niet de macht van enkelen, maar het oordeelsvermogen van velen — de asymmetrie wordt verkleind in plaats van vergroot. Of dit werkelijkheid wordt, weten we niet. Maar het toont dat uitholling geen natuurwet is.

Wat deze drie richtingen scheidt, is of macht corrigeerbaar blijft — of, scherper: of cognitieve asymmetrie wel mag bestaan, maar oncorrigeerbare macht niet.

Toch ontbreekt er aan deze drie uitkomsten nog iets wezenlijks. De derde — de machine die het oordeelsvermogen van velen versterkt — klinkt aantrekkelijk, maar wie bouwt, traint, bezit en controleert die systemen? Een instrument dat deliberatie verrijkt in de handen van een onafhankelijke, publiek controleerbare instantie, is iets heel anders dan hetzelfde instrument in handen van een enkel bedrijf of een enkele staat. Zonder antwoord op de eigendomsvraag blijft de hybride vorm een mooie maar vrijblijvende verbeelding.

Daarmee komt de scherpste lacune van dit hele betoog in zicht. Alle aandacht ging tot nu toe naar de toepassing van cognitieve superioriteit — hoe overheden en instituties haar inzetten. Maar de productie ervan is nu al extreem geconcentreerd, bij een handvol bedrijven en een klein aantal staten. Wie de krachtigste modellen bouwt en bezit, beschikt over de epistemische infrastructuur waarop straks een groot deel van de besluitvorming leunt. De bezitsvraag is daarmee minstens zo urgent als de toepassingsvraag, en een democratische theorie van AGI die zwijgt over de productieverhoudingen van cognitieve superioriteit loopt het risico de helft van het probleem te missen. Of de productie van die superioriteit zelf te democratiseren valt — of dat zij naar haar aard tendeert naar een nieuwe eigenaars-oligarchie — is misschien wel de beslissende open vraag.

De alternatieven getoetst

Het loont de bekendste alternatieven hier expliciet langs die maatstaf te leggen, al was het maar omdat zij in het AGI-debat steeds luider klinken. De epistocratie — bestuur door de competenten, zoals Jason Brennan haar bepleit — belooft betere beslissingen door de minst geïnformeerde stemmen minder gewicht te geven. Maar zij faalt precies op de structurele rechtvaardiging: zij maakt macht niet corrigeerbaarder, alleen deskundiger, en levert zo juist datgene in waarvoor democratie bestaat. Een AGI-tijdperk maakt epistocratie verleidelijker — er is immers een onovertroffen expert beschikbaar — en juist daarom gevaarlijker. Het scenario van de welwillende AI-soeverein, waarin we het bestuur toevertrouwen aan een systeem dat objectief beter zou beslissen, struikelt over hetzelfde: hoe welwillend ook, een soeverein die niet ter verantwoording kan worden geroepen is per definitie oncorrigeerbaar, en daarmee geen democratische maar een verlichte autocratie. Alleen het derde model — een augmented democracy, waarin systemen burgers helpen oordelen in plaats van voor hen te oordelen — doorstaat de toets, en dan nog uitsluitend voor zover het de cognitieve asymmetrie verkleint in plaats van haar te concentreren. Het verschil tussen deze alternatieven is dus niet hoe intelligent ze zijn, maar of de macht die ze voortbrengen aanspreekbaar en omkeerbaar blijft. Daarmee is ook de tweede vraag beantwoord waarmee dit betoog begon: er is geen bestuursvorm die democratie overtreft zonder haar kernbelofte op te geven — er zijn alleen vormen die haar belofte beter of slechter waarmaken.

Het volgende deel formuleert daarom niet alleen waarborgen voor het gebruik van macht, maar raakt ook aan de spreiding van haar bron.

VI. Wat institutioneel beschermd moet blijven

Een democratische vorm is, in het AGI-tijdperk, alleen democratisch als zij een aantal correctiemechanismen grondwettelijk buiten bereik van optimalisatie plaatst. Niet als beleid dat kan worden weggestreept zodra het inefficiënt blijkt, maar als harde randvoorwaarde. Zeven daarvan zijn onmisbaar.

Menselijke aansprakelijkheid. Elk besluit met rechtsgevolg moet herleidbaar zijn tot een aanwijsbare mens of instantie die ervoor kan worden aangesproken. Een model kan geen schuld dragen; een neuraal netwerk kan geen publieke verantwoordelijkheid aanvaarden. Waar de aansprakelijkheid verdampt, verdampt de rechtsstaat.

Recht op menselijke herbeoordeling. Wie door een systeem wordt geraakt, heeft recht op een werkelijke — niet rituele — herbeoordeling door een mens met de bevoegdheid om de machine te overrulen.

Uitlegbaarheid als afdwingbaar recht. Een besluit dat niet kan worden uitgelegd, kan niet worden getoetst, en mag daarom geen bindend rechtsgevolg krijgen. Uitlegbaarheid is geen technische gunst maar een grondwettelijke voorwaarde voor legitieme macht.

Verbod op autonome normstelling. Een systeem mag normen toepassen, nooit zelfstandig stellen. Het bepalen van wat behoort — de waardenkeuze — blijft exclusief een menselijke, gelegitimeerde handeling. Dit verbod is principieel helder maar praktisch glibberig, en dat moet worden erkend: wanneer een systeem in een grijze zone een interpretatie kiest, generaliseert het impliciet naar nieuwe gevallen en schept het feitelijk nieuwe normen zonder die ooit expliciet te hebben “gesteld”. Het verbod blijft daarom een papieren tijger zolang het niet wordt aangevuld met een juridische doctrine van interpretatieve ruimte — een afbakening van de marge die een systeem niet zelfstandig mag invullen, maar die aan een gelegitimeerde instantie moet worden voorgelegd.

Geïnstitutionaliseerde vertraging en deliberatie. De traagheid van het bestel is geen defect dat moet worden weggeoptimaliseerd, maar een correctiemechanisme dat moet worden beschermd. Deliberatieve instituties — parlementen, adviesraden, burgerfora — vormen het menselijke tegenwicht tegen optimalisatie zonder verantwoording en moeten juist worden versterkt.

Epistemische spreiding van macht en publieke controle. Cognitieve capaciteit mag niet bij enkele actoren concentreren. Dat vraagt om decentralisatie, om onafhankelijke toetsingsinstanties die modellen kunnen openbreken vóórdat die over mensen beslissen, en om publieke controle op de trainingsdata en modellen die de epistemische werkelijkheid van een samenleving mede bepalen.

Spreiding van de bron, niet alleen van het gebruik. De zes voorgaande waarborgen reguleren hoe cognitieve superioriteit wordt ingezet; de zevende betreft wie haar voortbrengt. Zolang de krachtigste modellen worden gebouwd, getraind en bezeten door een handvol private en statelijke actoren, blijft elke waarborg op het gebruik bouwen op een fundament dat zelf buiten democratische controle staat. Spreiding van de productie — via publieke en coöperatieve infrastructuur, transparantie over wie traint en bezit, en grenzen aan de concentratie van reken- en datamacht — is daarom geen economische bijzaak maar een democratische voorwaarde. Wie de bron van de asymmetrie niet aanpakt, dweilt met de kraan open.

Deze zeven laten zich niet van elkaar losmaken. Samen vormen ze één principe: dat geen enkele uitoefening van macht zich aan correctie mag onttrekken, hoe intelligent zij ook is.

VII. Welke bestuursvorm hoort bij AGI?

De reflex zal zijn: tegenover superieure systemen hoort superieur bestuur. Méér centralisatie, méér technocratie, misschien zelfs een vorm van AI-bestuur, omdat menselijke instituties de complexiteit niet meer aankunnen.

Die reflex is echter precies verkeerd. Zij verwart opnieuw intelligentie met legitimiteit en behandelt democratie alsof zij een intelligentiesysteem is dat simpelweg moet worden opgeschaald. Maar als de analyse hierboven klopt, volgt juist het tegenovergestelde: niet méér concentratie van cognitieve macht, maar een versterking van de constitutioneel-democratische begrenzing en corrigeerbaarheid van macht. Want AGI verandert niets aan het fundamentele probleem van politiek: niet wie het slimst is, maar wie het recht heeft om bindende keuzes te maken over conflicterende waarden. AGI kan daarbij wél een cruciale ondersteunende rol spelen als hulpmiddel om macht te helpen toetsen: om aannames navolgbaar te maken, inconsistenties bloot te leggen en uitkomsten publiek bevraagbaar te houden. Juist daardoor kan zij — mits zelf controleerbaar — democratische correctie versterken. Zij kan haar dus niet vervangen. Dat is de nuchtere consequentie van het inzicht dat de bedreiging niet de domheid van onze instituties is, maar de mogelijke onaantastbaarheid van een nieuwe vorm van macht. Tegen onaantastbaarheid helpt geen intelligentie. Daartegen helpt alleen begrenzing.

Eén vraag blijft open: Houden deze waarborgen wel stand onder de druk van efficiëntie en concurrentie? Een land dat zijn besluitvorming bewust traag, toetsbaar en menselijk-aanspreekbaar houdt, betaalt daarvoor een prijs in snelheid — tegenover een concurrent, een markt of een geopolitieke rivaal die die rem loslaat. Zo’n waarborg blijft alleen overeind zolang niemand er baat bij heeft haar te schenden, en is dus geen waarborg maar slechts een voornemen. Corrigeerbaarheid grondwettelijk verankeren is noodzakelijk, maar niet voldoende zolang de prikkel om haar te ondergraven blijft bestaan. Het is dus een zeer grote opgave, maar er is tegelijkertijd geen argument tegen — het is de maat van wat er op het spel staat.

Daarmee komt het diepste bestuurlijke inzicht in zicht: Democratie hoeft in het AGI-tijdperk niet slimmer te worden dan AGI. Zij moet beter worden in het begrenzen van macht.

Dat is een geruststellende en een veeleisende gedachte tegelijk. Geruststellend, omdat democratie de wedstrijd in intelligentie niet hóeft te winnen — zij was er nooit voor bedoeld. Veeleisend, omdat het begrenzen van een macht die slimmer, sneller en overtuigender is dan wij, een institutionele discipline vraagt die we nog grotendeels moeten uitvinden.

Een samenleving die intelligentie boven corrigeerbaarheid plaatst, kiest uiteindelijk niet meer voor democratie maar voor technocratische afhankelijkheid — zelfs wanneer die afhankelijkheid efficiënt, vriendelijk en rationeel oogt.

Slot

De democratische rechtsstaat staat op een historisch kruispunt, omdat menselijke verantwoordelijkheid langzaam dreigt te verdwijnen achter systemen die steeds overtuigender namens ons spreken.

De grote vraag van de eenentwintigste eeuw is daarom niet hoe intelligent onze systemen zullen worden — dat proces is al begonnen en zal doorgaan. De echte vraag is of macht nog corrigeerbaar blijft wanneer intelligentie zelf schaalbaar, permanent en industrieel wordt.

Bestaat democratie dan nog? Ja — maar alleen als we opnieuw begrijpen wat democratie in wezen is. Niet de garantie op het juiste oordeel, maar het vermogen om macht steeds opnieuw te kunnen corrigeren.

Als we dat loslaten, verliezen we haar stukje bij beetje — tot we op een dag merken dat er namens ons is beslist zonder dat iemand het nog kon/kan navragen of kan bijsturen.

 

Jeroen Teelen

28 mei 2026