Menselijk kennen & kunnen in tijden van AI

De student, de dokter, de advocaat… Het gemak en het ongemak

Een student zit achter zijn laptop. Deadline in zicht. Hij tikt wat trefwoorden in een programma dat ‘helpt bij schrijven’ en ziet de tekst zich ontrollen alsof het niets is. Volzinnen, structuur, zelfs bronvermeldingen. Een dokter krijgt een seintje op zijn scherm bij een röntgenfoto: mogelijk iets afwijkends, zegt het systeem. Een advocaat krijgt in enkele seconden relevante uitspraken voorgeschoteld die anders uren zoekwerk kosten.

Eerst voelt het als magie. Dan wordt het gemak. En voor je het doorhebt: vanzelfsprekendheid. Wat ooit een hulpmiddel was, wordt standaard. En ergens in die overgang begint het ongemak.

Niet omdat machines fout doen wat wij vroeger goed deden. Maar omdat ze veel dingen ineens beter lijken te doen — zonder ooit moe te worden, zonder twijfel, zonder schroom en met mogelijke alternatieven en bevestigende of ontkennende redeneringen. 

De vraag is dan niet: “Wat nemen ze over?” Die strijd is voorbij. De vraag wordt: “Wat blijft er over dat nog onmiskenbaar menselijk is?”

Niet alleen de technologie verandert ons, ook ónze blik op onszelf

Het verhaal dat we onszelf eeuwenlang vertelden, was simpel. Machines zijn gereedschappen die mensen helpen, mensen leiden. Die hulpmiddelen zijn verlengstukken van onze geest. Prima. Maar wat als dat verlengstuk slimmer wordt dan degene die het vasthoudt?

Niet alleen ons werk verandert, ook onze ‘zelfdefinitie’ (ik weet niet of het woord bestaat, maar het denkt wel precies de lading) schuift. De dokter die ooit trots was op zijn diagnostische vermogen, gaat twijfelen: “Zie ik nog wat het systeem niet al zag?” De student denkt: “Waarom zou ik zelf worstelen met een essay, als ik met een goede opdracht al halverwege ben?”

Het risico is niet dat we niets meer doen, maar dat we onszelf niet meer nodig vinden.

Wat leren we nog als niets meer hoeft?

Leren is veel meer dan weten (zie blog 137). Het is proberen, twijfelen, struikelen, opnieuw beginnen. Maar wat gebeurt er met leren als het struikelen verdwijnt? Wat blijft er over van een prestatie als het pad er naar toe al volledig geasfalteerd is door een systeem dat al weet waar je naar toe moet?

Onderwijseconomen noemen het ‘vaardigheidsverval’. Mensen die vaardigheden verliezen omdat ze ze niet meer hoeven oefenen. Dat is geen sciencefiction. Denk aan rekenmachines die hoofdrekenen verdrongen. Of navigatie-apps die onze topografische intuïtie afvlakten. Dat vaardigheidsverval is op zich dus helemaal niet dramatisch, want vaardigheden zijn gekoppeld aan de ontwikkeling en verval van behoeften… Een mammoet kunnen afschieten heeft in onze tijd écht geen zin meer. 

Nu gaat het een stap verder: redeneren, schrijven, interpreteren — niet omdat we niet kúnnen, maar omdat het niet meer hoeft. 

En precies daar zit de pijn. Niet omdat het systeem iets fout doet, maar omdat het te goed is en wij ons afvragen: waar zijn wij zelf als mens dan nog goed in?

Wat betekent ‘mens-zijn’ als denken niet langer uniek is?

De eeuwenoude gedachte dat de mens zich onderscheidt door denken, bewustzijn en moreel besef begint eveneens te schuiven. Niet alleen omdat systemen sneller of preciezer zijn, maar omdat ze iets doen wat we lang exclusief menselijk achtten: zélf waarnemen, ervaren, interpreteren en oordelen.

Ze ‘zien’ meer dan wij — letterlijk. Robots (Hoe Slim worden Robots, blog 73) met sensoren voor ook Infrarood, röntgen, elektromagnetische velden, geluidsgolven buiten ons bereik en tegelijk de ‘handen en voeten’ om te interactieren met de dagelijkse werkelijkheid. Ze ‘lezen’ beelden, stemmen, patronen met een scherpte die ons zintuiglijk vermogen overstijgt. Ze ‘proberen’ dingen uit om een doel te bereiken en die zintuigen zijn dus niet losstaande sensoren, maar voedingen voor ervaring en voorwaarden voor handelen. Misschien nu nog geen eigen ervaring als ‘gevoel’, misschien — maar dan wel als datastroom die context vormt. Die betekenis mogelijk maakt. Die keuzes beïnvloedt.

Van daaruit ontstaat iets wat lijkt op creativiteit: Verbanden die niet afgeleid zijn van menselijke voorbeelden, maar voortkomen uit eigen observatie. Visie, niet als projectie van óns denken, maar als synthese vanuit een ander perspectief. En misschien ook: iets wat begint te lijken op empathie of ethiek — niet uit gevoel, maar uit systeemlogica gevoed door rijke waarneming, context-besef en interactie. Nobelprijswinnaar  Geoffrey Hinton (Godfather of AI) is er van overtuigd dat AI binnen een enkele jaren zelfbewust wordt en dus ook zelf moraal en ethiek zal kennen en ervaren.

We staan dus niet tegenover een tool die alleen maar herhaalt wat wij erin stoppen. We staan tegenover systemen die eigen werelden leren lezen — en daar conclusies uit trekken die wij nog niet eens kúnnen zien.

Drie toekomsten: dirigent, passant, of mede-denker?

We kunnen grofweg drie richtingen op.

1. De mens als dirigent
   We blijven aan zet, maar anders. We stellen de juiste vragen, interpreteren, nuanceren. We werken samen met denkende systemen zoals we nu samenwerken met collega’s. De waarde verschuift van kennis hebben naar inzicht geven.
2. De mens als passant
   In dit scenario raken we langzaam buiten spel. Niet omdat iemand dat wil, maar omdat het vanzelf zo loopt. Oplossingen komen sneller van elders. Meningen worden gegenereerd. Creativiteit is te koop. We doen nog mee — maar we zijn optioneel geworden.
3. De mens als mede-denker
   Een scenario waarin systemen zelfstandig leren, redeneren en misschien zelfs waarden ontwikkelen. Niet als hulpjes, maar als deelnemers. Daarin rijst een ongemakkelijke vraag: als zij moreel kunnen handelen, verdienen ze dan ook morele erkenning?

Wat winnen we? Wat verliezen we?

We winnen zonder twijfel veel:

• Snelheid. Nauwkeurigheid. Toegankelijkheid.
• Ondersteuning bij lezen, schrijven, begrijpen — zeker voor mensen die daar nu moeite mee hebben.
• Nieuwe mogelijkheden voor samenwerking, creatie en kennisdeling. Denk aan een ongekende impuls voor wetenschappelijk inzicht en ontwikkeling, oplossingen voor wereldproblemen.

Maar we verliezen ook iets:

• De noodzaak om zelf te worstelen. En daarmee: het gevoel dat iets van jou is.
• Het besef dat fouten onderdeel zijn van groei. Zonder fout, geen verantwoordelijkheid. Zonder moeite, geen betekenis.

Het grootste verlies is misschien niet functioneel, maar existentieel. Wat betekent het om te slagen, als je niet meer kunt falen?

Internationale koers: wie schrijft de spelregels van morgen?

In China is grootschalige inzet van intelligente systemen al de norm: in onderwijs, toezicht, zorg en veiligheid. Daar wordt technologie gezien als instrument van staatsmacht en nationale eenheid. In de VS is AI de nieuwste groeimotor in een allesverslindende marktlogica: wie innoveert, regeert. En Europa? Europa kijkt toe. Bedachtzaam, stroperig, zelfgenoegzaam.

We importeren tools, platformen en infrastructuur, maar vergeten te vragen: vanuit welke waarden zijn die gebouwd?De systemen die ons helpen, worden niet door ons ontworpen — maar wel door ons gebruikt. En zo nestelen zich ongemerkt normen, aannames en mensbeelden in onze besluitvorming die we zelf niet gekozen hebben.

De strijd om technologie is dus geen wedstrijd in snelheid, maar een gevecht om richting. Wie bepaalt wat wenselijk is? Wat toelaatbaar is? Wat een mens nog mag zijn, straks — en wat hij geacht wordt te worden?

Zolang we die vragen niet zelf stellen en politiek vertalen, bepalen anderen het speelveld. En wij mogen dan misschien nog meedoen — maar niet als ontwerpers. Hoogstens als uitvoerders. Of als gebruikers die zich voegen naar systemen die ons allang voorbij zijn.

“Zo’n vaart zal het toch niet lopen?” Voorbeelden die tot nadenken stemmen

Toch wel.

• Verenigd Koninkrijk, 2020: een algoritme dat eindexamens moest beoordelen tijdens de pandemie benadeelde systematisch leerlingen uit lagere inkomensgroepen. Oplossing? Terugdraaien. Vertrouwen? Weg.
• Verenigde Staten: geautomatiseerde strafadviezen blijken keer op keer harder uit te vallen voor zwarte verdachten dan voor witte. En toch worden ze nog gebruikt.
• Amazon: stopte een AI-gestuurd wervingssysteem toen bleek dat het vrouwen vrijwel automatisch diskwalificeerde voor technische functies. Niet omdat het geprogrammeerd was om te discrimineren — maar omdat het leerde van een bestaande werkelijkheid vol vooroordelen.

De technologie faalde niet. Wij faalden. Door te denken dat je morele complexiteit kunt automatiseren zonder daar eerst zélf over nagedacht te hebben.

Herdefinitie: Mens-zijn als vermogen tot betekenis

We moeten opnieuw bepalen wat waardevol is. Niet vanuit angst, maar vanuit noodzaak.

Dat vraagt drie investeringen:

1. Onderwijs dat weer vragen leert stellen
   Geen papegaaien, maar puzzelaars. Geen herhaling, maar reflectie. Vaardigheden die niet uitbesteedbaar zijn: nieuwsgierigheid, ethiek, interpretatie. Opnieuw ontdekken waar onze toegevoegde waarde nog wel ligt bij het moderne ‘gereedschap’. (AI in het onderwijs blog 137)
2. Gezamenlijke kaders
   Transparantie over hoe systemen werken. Weten wie verantwoordelijk is. Geen magie, maar mechaniek. Geen misbruik door marketing en profilering, maar regels van een benodigd ‘hoger niveau’. Iets dat we voorheen minder expliciet mondiaal nodig achtten.
3. Ruimte voor imperfectie
   Falen niet als fout, maar als voorwaarde. Niet alles hoeft efficiënt, snel en perfect. Soms is het ‘onhandige’ juist menselijk. Soms leidt het (slim) falen juist tot nieuwe inzichten en waarden.

Tot slot

De technologie verandert snel. Maar wij bepalen nog steeds hoe we ermee omgaan (denken we). Dat vraagt geen nostalgie naar wat was, maar moed om te heroverwegen wat waarde heeft. Want wie alleen nog waardevol is om wat hij kan, wordt overbodig zodra iets anders het beter doet.

Geoffrey Hinton heeft overtuiging dat de wereld niet beseft waar ze mee bezig is en pleit voor veel meer aandacht voor dit soort zaken… Mijn geringe bijdrage aan de pogingen tot het uitlokken van meer discussie over deze onderwerpen liggen in mijn blogjes hierover. Zo moet u ze ook zien. Aansporen tot nadenken over… niet meer en niet minder…

Wie betekenis geeft aan keuzes, aan fouten, aan anderen… die blijft nodig denk ik… Ook in een wereld die alles al lijkt te weten.

Jeroen Teelen

1 juni 2025