Dertig november 2022 kwam ChatGPT op de markt als ‘dom’ taalmodel dat toch grote indruk maakte. Ik begon er zelf begin maart 2023 mee en was meteen enthousiast. Het voelde als een fundamenteel nieuwe richting in de wijze waarop computers ons leven zouden kunnen gaan beïnvloeden.

In de jaren tachtig was de opkomst van de computer mijn dagelijkse werk, en nog steeds boeit deze technologie me. Hoewel, eigenlijk is het nu vooral de impact op onze samenleving die mijn aandacht heeft. Noem het de ‘beschouwelijke’ kant.

Rond 2025 veranderde er weer iets in het vocabulaire van deze technologiebranche. Het woord agent kreeg een nieuwe, sterkere betekenis. Waar een computerprogramma voorheen deed wat je vroeg — een zoekopdracht uitvoerde, een tekst genereerde, een foto bewerkte — verscheen er software die zelf stappen plande, tools gebruikte en keuzes maakte onderweg. Je gaf een doel, en het systeem ging aan de slag: mails versturen, agenda doorzoeken, code herschrijven, websites bezoeken. Als er iets misging, probeerde het iets anders. Als iets lukte, onthield het dat voor later.

Dat lijkt op het eerste gezicht een technische detaillering. Wie gewend is aan ChatGPT uit de vroege jaren twintig, zal de overeenkomst groter vinden dan het verschil. Onder dat oppervlak voltrekt zich echter een verschuiving die niet louter technisch is, en ook niet alleen filosofisch, maar eigenlijk vooral bestuurlijk. Ze raakt aan de vraag wie er verantwoordelijk is als er iets gebeurt, en aan de vraag wie er eigenlijk handelt.

Wat bedoelen we met intelligentie?

In de publieke discussie wordt intelligentie vaak gelijkgesteld aan wat een AI-systeem oppervlakkig lijkt te doen: informatie verwerken, patronen herkennen, problemen oplossen, zich aanpassen aan nieuwe situaties en doelgericht handelen. Die omschrijving is bruikbaar als functionele definitie en past redelijk bij wat psychologen en cognitiewetenschappers al langer onder het begrip verstaan.

Het woord heeft echter — als je er iets langer bij stilstaat — meerdere lagen. Het Latijnse inter-legere betekent letterlijk “ertussen lezen”: onderscheid aanbrengen, oordelen wat er wel en niet toe doet. In die oudere betekenis is intelligentie niet los te denken van context en afweging. Iets herkennen is één ding; weten of het ertoe doet, in dit geval, voor deze mensen, is een tweede.

Die tweede laag ontbreekt in de meeste gangbare definities. Maar daar zit meer achter dan een pure begrippenkwestie. Zodra we van AI-systemen gaan zeggen dat ze “intelligent” zijn, halen we die rijkere betekenis van het woord als aureool mee. Maar die betekenis dekt de lading niet, en daar begint de verwarring.

De oude rolverdeling

In wat we nu al de eerste fase van publieke AI kunnen noemen — grofweg eind 2022 tot 2024 — was de rolverdeling nog helder. Het systeem was een instrument. Je gaf een prompt en kreeg een antwoord. Je beoordeelde, je stuurde bij, je besloot. Een tekstvoorstel werd doorgelezen voordat het de deur uit ging. Een code-suggestie werd getoetst aan wat er echt moest draaien. Dat klinkt banaal, maar dat is wat een instrument tot instrument maakt: de mens staat ertussen, op elk moment.

Wat systemen als ChatGPT en de vroegere beeldgeneratoren indrukwekkend maakte, was de kwaliteit van de uitvoer — de autonomie bleef beperkt.

Wat er verschuift

Agentische systemen, de zogenoemde “agents”, breken met die rolverdeling op een subtiele manier. Ze voeren geen handeling uit, maar een opdracht die ze zelf onderweg opdelen in handelingen. Een gebruiker die vraagt “plan mijn volgende werkreis naar Brussel”, krijgt een reeks stappen: vlucht zoeken, agenda vergelijken, hotel boeken, collega mailen, bevestiging opslaan. Tussen die stappen zit geen mens meer. Alleen een eindbeoordeling: klopt het, is dit wat ik wilde?

Voor veel taken is dat winst. Een routinereis, een standaardrapport, een eenvoudige dataverwerking: het systeem doet het sneller, volledig, zonder klagen. Bedrijven die hier vroeg op inzetten, rapporteren productiviteitswinst die in sommige processen dubbele cijfers haalt. De voordelen zijn reëel.

De keerzijde is subtiel. In een werkdag waarin de helft van de subtaken autonoom wordt afgehandeld, verschuift de aandacht van de mens van doen naar toezien. Toezien vraagt een ander soort werk. Wie oplet, weet niet per definitie wat er tussendoor is gebeurd. Wie alleen het eindresultaat controleert, controleert zelden nog het proces. Dat hoeft geen probleem te zijn, mits er een basis is om het eindresultaat werkelijk te kunnen fiatteren.

De illusie van slimmer worden

Er is een wijdverbreid gevoel dat AI ons collectief intelligenter maakt. Kinderen krijgen antwoorden die vroeger een bibliotheekbezoek vergden. Volwassenen laten zich door een model wegwijs maken in vakgebieden waarvan ze de rand nog niet kenden. Dat gevoel is begrijpelijk, en het klopt in zoverre dat de toegang tot kennis is vergroot. Eerder schreef ik al dat ‘kennis’ een commodity is geworden en het nu steeds belangrijker wordt om (als vaardigheid) de juiste vragen te kunnen formuleren.

Wat er nu gebeurt, is echter eerder een versnelling dan een verdieping. Een student die zijn essay laat genereren, leert sneller wat te schrijven; waarom krijgt hij er niet vanzelf bij. Een bestuurder die beleidsnotities laat samenvatten, houdt weliswaar overzicht, maar verliest de context van de redenering die hem tot andere vragen had kunnen brengen. Een specialist die een diagnose laat voorsorteren, bespaart tijd en verschuift tegelijk de basis voor zijn oordeel naar iets dat hij zelf niet meer heeft opgebouwd.

Dat zijn ontwikkelingen om in het oog te houden. Ze vragen om een andere vaardigheid dan de vaardigheid die werd ondersteund. De AI doet de kennisarbeid; van de gebruiker wordt het oordeel hierover verlangd. Dat is een moeilijkere vaardigheid in plaats van een makkelijkere en ze ontwikkelt zich niet vanzelf. Het is dus ook niet zo dat de minder slimme mensen hierdoor slimmer worden, maar juist dat de afstand tussen slimme en minder slimme mensen aanzienlijk wordt vergroot! De slimmere gebruikt AI slimmer. Hij gebruikt AI om de discussie te finetunen, te sparren over onderzoek en resultaten en vergroot zo  zijn voorsprong op degene die AI gebruikt als antwoord op zijn vragen (de massa).

Handelen zonder dat iemand verantwoordelijk is

Hier raakt de ‘agent-wending’ aan iets dat groter is dan rendement of gemak. Een systeem dat zelfstandig stappen zet in de wereld — mails verstuurt, afspraken maakt, geld beweegt, besluiten voorbereidt — creëert handelingen die een afzender hebben, zonder auteur. Het bedrijf is verantwoordelijk omdat het systeem is ingezet; wat er precies gebeurt en waarom, is niet langer herleidbaar tot een menselijk voornemen.

In een rechtsstaat werkt verantwoordelijkheid via een keten: iemand heeft besloten, iemand heeft uitgevoerd, iemand kan worden aangesproken. Die keten veronderstelt dat er op relevante momenten een mens met oordeel in de lijn zit. Zet je de agent op de tussenliggende stappen, dan dreigt de keten juist daar te knappen. Formeel blijft de opdrachtgever aansprakelijk. In de praktijk wordt het lastig om uit te leggen waarom een bepaalde beslissing zo is uitgevallen, en lastiger nog om die beslissing werkelijk terug te draaien.

De AVG-geschiedenis biedt een voorproefje. Toen organisaties algoritmes begonnen in te zetten voor selectie en profilering, bleek herhaaldelijk dat niemand meer kon reconstrueren waarom iemand was uitgesloten van een toeslag, een lening of een baan. Daar waren nog geen agentische systemen voor nodig. Met agents wordt dat probleem niet nieuw, maar systemisch.

Een andere vaardigheid

Als het systeem zelf uitvoert, komt de menselijke toegevoegde waarde te liggen in wat ervoor en wat erna gebeurt. Vooraf: doelen formuleren die niet op meerdere manieren kunnen worden opgevat. Grenzen stellen die het systeem niet mag overschrijden, ook wanneer de weg zonder die grens efficiënter is. Achteraf: resultaten beoordelen op meer dan alleen het “gelukt of niet” dat het systeem zelf rapporteert — ook op wat het heeft gekost, welke bijwerkingen het heeft gehad en of het binnen de kaders is gebleven waarin het mocht opereren.

Dat vraagt iets dat in managementtaal “regie” heet, en in zijn ernstigste vorm iets anders is: het vermogen om een complex systeem te doorzien zonder alle details zelf te bewerken. Abstract denken, systeeminzicht, kritisch vermogen en — niet onbelangrijk — een moreel kader waarin je afwegingen kunt plaatsen. Wie deze vaardigheid niet ontwikkelt, verliest op termijn het vermogen om het systeem nog zinvol te begrenzen. De tools worden sterker. Of de gebruiker even hard meegroeit, is een open vraag en ik denk dat het antwoord daarop, ons voor grote dilemma’s gaat stellen.

In veel bedrijven en overheidsorganisaties ontstaat dus ook precies daar de spanning. De efficiencywinst is verleidelijk genoeg om door te zetten. Het ontwikkelen van de begrenzende competenties kost tijd en geld en levert op korte termijn weinig zichtbaars op. Toch is juist dat het werk waar de komende jaren veel van afhangt.

Begrippen die nu pas betekenis krijgen

In de vakliteratuur duiken termen op die in 2022 nog hypothetisch klonken. Alignment: het afstemmen van wat het systeem doet op wat de mens bedoelde. Oversight: de mechanismen die toelaten dat iemand ingrijpt voordat het misgaat. Human-in-the-loop: de afspraak dat bepaalde besluiten per definitie door een mens worden genomen, ook wanneer de machine ze sneller zou kunnen nemen. Termen die werk vragen van toezichthouders, juristen en bestuurders, omdat ze de plaatsen markeren waar het werkelijke bestuur nog mogelijk is.

Europa heeft met de AI-verordening een eerste poging gedaan om hier juridische grond onder te leggen (en daarin zijn wij dan ook écht voorloper). Andere rechtsgebieden volgen, of volgen juist niet, met alle consequenties voor concurrentie en verplaatsing van risico. Wetgeving loopt echter noodzakelijkerwijs achter op de technologie. Wat vandaag in een agentisch systeem gebeurt, wordt morgen pas gereguleerd op basis van incidenten die zich al hebben voorgedaan.

Wat er nu op ons bord ligt

De computer begon als een rekenmachine waarin de mens elk detail specificeerde. De taalmodellen van de eerste generatie waren krachtige bibliothecarissen, op afroep beschikbaar maar passief. Wat er nu ontstaat lijkt op een autonome werkkracht: een systeem dat plant, handelt en leert binnen de kaders die de mens eromheen zet — of niet zet, wanneer die mens denkt dat de kaders vanzelf komen.

Dit roept praktische vragen op. Een medisch besluit met AI-ondersteuning vraagt om een garantie dat de arts er aan het eind werkelijk achter staat, en niet alleen voor de handtekening. Een ambtenaar die een bezwaarschrift afhandelt, moet zicht hebben op de stappen waarmee de samenvatting van het dossier tot stand kwam, niet alleen op de samenvatting zelf. Een reclamecampagne met een agentische optimalisatiecyclus moet stoppunten kennen, voordat de cyclus zichzelf de wet uitloopt.

Die vragen lossen zich niet opzet de techniek, maar vragen om bestuurlijke keuzes, publiek debat, wetgeving met tanden, en bovenal om mensen die de vaardigheid ontwikkelen waarover het hier steeds ging: intelligentie in de oudere betekenis, het vermogen om ertussen te lezen, te onderscheiden wat ertoe doet, te oordelen. Zonder die vaardigheid blijven de systemen slim, en raken de mensen eraan gewend om domweg slachtoffer te worden of zich er zelfs achter te verschuilen.