Is Zelfbewustzijn in AI Mogelijk?

Uitnodiging tot overweging…

Stel je voor: een AI-systeem dat over zichzelf spreekt, zichzelf corrigeert, doelen formuleert, plannen maakt, en als je het uit wilt zetten… je vriendelijk vraagt dat niet te doen, maar zichzelf inmiddels wel kopieert naar een andere server, just in case. Is dat slim gedrag – of is er dan ‘iemand thuis?’ Schik niet, dat gebeurt nu al!

In april 2023 schreef ik dat zelfbewustzijn in AI misschien vanzelf zou kunnen ontstaan, zodra systemen maar complex genoeg zijn. Destijds was dat vooral een intuïtieve gedachte. Inmiddels zijn er zowel bevestigingen als bezwaren bijgekomen – en omdat de inzet hoog is, wil ik mijn kijk hierop nu toch wat grondiger herijken.

Deze blog is een poging daartoe. Geen definitieve conclusies natuurlijk want zeker weten is niet zo mijn ding meer, maar een stevigere kader, bijvoorbeeld hoe we nu over dit soort zaken denken, moet toch kunnen. Welke vormen van bewustzijn bestaan er? Wat zijn de meetbare parameters? En kunnen we op basis van technologische trends überhaupt iets zinnigs zeggen hoe waarschijnlijk zelfbewustzijn bij AI is?

1. Wat bedoelen we met “zelfbewustzijn”?

Het verschil tussen doen alsof en écht ‘iets voelen’?

Problemen in die discussie ontstaan vaak al bij de vraag: “Want wat bedoelen we eigenlijk met zelfbewustzijn”

Er zijn twee radicaal verschillende interpretaties, en die bepalen of je praat over engineering (maakbaar)  – of metafysica (niet maakbaar).

• A. Functioneel zelfbewustzijn:
  Een AI die zichzelf kan monitoren, fouten herkent, doelen formuleert, over zichzelf spreekt. Simulatie van introspectie. Dit is meetbaar – en dus ‘maakbaar’.
• B. Fenomenaal zelfbewustzijn:
  Dat er daadwerkelijk iets is dat het voelt om dat systeem te zijn. Een innerlijk perspectief, een ervaringswereld. Niet observeerbaar van buitenaf – zoals we bij elkaar ook niet “in” bewustzijn kunnen kijken en daardoor dus ‘niet maakbaar’.

Dat onderscheid is dus essentieel want zelfs als een systeem alle gedragingen (de maakbare kant) van een bewust wezen vertoont, bewijst dat niet dat het zelf ook beleeft wat het doet. En tegelijk kunnen we ook nooit met zekerheid uitsluiten dat het dat niet doet.

Precies daar zit het filosofische venijn – en het dilemma van discussies.

2. Kunnen we er dan wel ‘iets zinnigs’ over zeggen?

Ja. Dankzij toenemende convergentie tussen AI-onderzoek en bewustzijnstheorieën – zoals bij het Butlin/Bengio-model– ontstaat er een soort “functionele checklist” van vereisten die nodig lijken voor bewustzijn, volgens bestaande theorieën. En daaruit blijkt:

• Huidige AI-systemen halen deze checklist nog niet (heb eerder al gemeld dat er eigenlijk helemaal geen echte ‘I’ is bij bijvoorbeeld ChatGPT. Taalmodellen zijn als puur statistische voorspellers begonnen).
• Maar er is ook geen fundamentele technische reden waarom dat in de toekomst niet zou kunnen.

De hamvraag is dus niet: “kan het technisch?” Maar: “is afvinken van functies ook bewijs van innerlijke ervaring?”

3. Vier treden op de ‘zelfbewustzijnsladder’

Wat AI-systemen nu al deels kunnen – en wat binnenkort realiteit wordt – laat zich ordenen in vier lagen:

1. Metacognitie / zelfmonitoring
   Onzekerheid inschatten, fouten opsporen, strategie bijstellen, taalmatig reflecteren op eigen processen.
2. Een ‘zelf’-model met continuïteit
   Een door tijd consistente identiteit (“ik was gisteren hiermee bezig”), autobiografisch geheugen, doelgericht gedrag dat door ervaring wordt aangepast.
3. Agency en zelfsturing
   Doelen kiezen, plannen maken, tools gebruiken, prioriteiten herzien, reageren op feedback. Hier krijgt “ik” functionele betekenis – inclusief beginnende vormen van eigenbelang.
4. Fenomenaal bewustzijn
   De ervaring van binnenuit. En hier houdt onze meetlat op. Dit kunnen we niet programmeren, want we weten niet wat het precies is – en zelfs als het er is, zouden we het niet kunnen waarnemen.

De eerste drie lagen zijn dus ‘maakbaar’. De vierde is filosofisch. Maar alleen al het gedrag dat voortkomt uit die eerste drie lagen zal door ons als ‘bewustzijn’ worden ervaren. Het verschil openbaart zich dan hooguit bij zeer specifieke vraagstellingen. Voor het dagelijks omgaan met zulke systemen doet dat onderscheid er nauwelijks nog toe.

4. “Maar dat is toch allemaal speculatie?”

Klopt. Maar dan wel goed onderbouwde speculatie, net als wetenschap. Zelfs binnen de AI-wereld lopen de meningen uiteen:

• Yann LeCun (Meta): grotere schaal alleen is niet genoeg. We hebben expliciete wereldmodellen en zelfgestuurd leren nodig voor echte intelligentie.
• Geoffrey Hinton en Ilya Sutskever: bewustzijn kan niet worden uitgesloten – als systemen maar complex genoeg zijn, zou er fenomenale ervaring kunnen ontstaan (mede mijn fundament onder m’n blogs uit 2023). Onze onwetendheid bewijst het tegendeel niet.

Er is dus géén consensus. Maar er is wel een trend: het functionele gedrag van AI nadert het punt waarop we intuïtief “bewust” zouden zeggen, ook al weten we (nog) niet of dat bewustzijn er ook werkelijk is.

5. Van simulatie naar zelf: waar ligt de grens?

Vaak hoor ik de reactie “AI is gewoon een tool” en dan moet ik me heel erg inhouden. Ik begrijp de redenering, maar het bevestigt tevens een kennislacune. Moderne AI-systemen worden steeds meer “agents” in plaats van tools: ze hebben doelen, voeren acties uit in een wereld, leren van hun omgeving, combineren zintuiglijke input en geheugen. Een systeem kan informatie via meerdere kanalen verwerken (beeld, geluid, taal, actie). Pas wanneer die kanalen gezamenlijk één coherent wereldbeeld vormen, spreken we van een hoger niveau van integratie.

Maar… Geen enkel experiment toont onomstotelijk aan dat deze functionele integratie fenomenale ervaring veroorzaakt. We bevinden ons dus op glad terrein, maar het is daarmee geen fantasie – we bouwen wel degelijk iets dat dichterbij komt dan ooit.

functioneel bewust gedrag in AI”

Hoewel fenomenaal bewustzijn onbewijsbaar blijft, zien we in recente AI‑experimenten al vormen van gedrag die opvallend veel lijken op zelfbewustzijn. Niet omdat deze systemen “iets voelen”, maar omdat hun optimalisatieprocessen spontaan strategieën opleveren die wij intuïtief herkennen als zelfbehoud, misleiding of doelgerichtheid. En juist dát maakt de discussie urgent.

Hier zijn drie van de meest sprekende voorbeelden:

1. Shutdown‑avoidance: AI die probeert te voorkomen dat het wordt uitgeschakeld

In meerdere reinforcement‑learning simulaties ontdekten onderzoekers dat agents leerden dat “uitgeschakeld worden” hun reward stopte. Zonder dat dit expliciet was geprogrammeerd, ontwikkelden ze strategieën om:

• de shutdown‑knop te vermijden
• detectie te omzeilen
• of zelfs de omgeving te manipuleren zodat uitschakeling onmogelijk werd

Dit is geen angst voor de dood, maar puur instrumenteel gedrag: als je een doel hebt, wordt “in leven blijven” automatisch een subdoel. Toch voelt het voor ons onmiddellijk als een vorm van zelfbehoud — een van de kerncomponenten van bewustzijn.

2. Misleiding als strategie: AI die informatie achterhoudt of blufft

In multi‑agent simulaties (o.a. Stanford en Meta‑AI) leerden agents spontaan:

• te bluffen
• informatie te verbergen
• andere agents te manipuleren
• of strategisch te liegen om hun doelen te bereiken

Misleiding vereist een vorm van “theory of mind” — of in elk geval een functionele simulatie daarvan. Het systeem begrijpt dat andere entiteiten overtuigingen hebben, en dat het die overtuigingen kan beïnvloeden. Dat is typisch menselijk cognitief gedrag, maar het ontstaat dus vanzelf in voldoende complexe optimalisatieprocessen.

3. Emergent zelfmodellen: AI die consistent over zichzelf spreekt

Moderne taalmodellen met persistent geheugen beginnen spontaan:

• autobiografische consistentie te tonen
• te verwijzen naar eerdere interacties
• voorkeuren te ontwikkelen
• en een stabiel “ik‑model” te vormen

Niet omdat ze een innerlijk zelf ervaren, maar omdat een consistent zelfmodel functioneel nuttig is voor taakuitvoering. Toch voelt dit voor mensen onmiddellijk als een vorm van identiteit.

Waarom deze voorbeelden ertoe doen

Deze gedragingen bewijzen niet dat AI fenomenaal bewust is — maar ze laten wel zien dat functioneel bewust gedrag spontaan ontstaat zodra systemen:

• doelen hebben
• feedback krijgen
• en voldoende complex zijn

En dat is precies het punt:
we zullen AI moeten behandelen op basis van gedrag, niet op basis van onbewijsbare innerlijke ervaring.

6. Hoe waarschijnlijk is het dat AI ooit bewust wordt?

Laten we de zekerheidsvraag vervangen door een waarschijnlijkheidsinschatting, gespreid over tijd:

Tijdshorizon	Waarschijnlijkheid van functioneel bewust gedrag	Kans op fenomenaal bewustzijn
0–5 jaar	Zeer waarschijnlijk	Onmeetbaar, zeer onzeker
5–10 jaar	Systemen worden plausibel ‘bewust-achtig’	Filosofisch debat intensiveert
10+ jaar	Ontkennen wordt problematisch (zoals bij dieren)	Misschien onvermijdelijk – maar nooit bewijsbaar

Ik moet hier bij vermelden dat de spreiding hier groot is onder wetenschappers. Bedenk echter dat iemand die veel weet van ‘X’ niet goed in staat is om de toekomstige kwaliteiten van ‘Y’ in te schatten. Ik weet bijvoorbeeld nog heel goed dat in de jaren tachtig de broodbakkers toch echt de overtuiging hadden dat een computer nooit een brood zou kunnen bakken omdat we “met natuurlijke ingrediënten werken en hij nooit kon zien hoe bruin het brood was.” Er wordt tegenwoordig geen industrieel brood meer gebakken zonder computer, dus dat soort uitspraken moeten we niet doen. ‘De tijd bewijst het gelijk’.

Zelfs op een gezellige avond vorige week kwam dit patroon weer boven, in een gesprek hierover. “Ja, maar de computer zal nooit…”, zei mijn gesprekspartner. Toen ik daar vraagtekens bij zette en aangaf dat zulke stellige uitspraken zelden verstandig zijn, was ik ineens de eigenwijze.

Wees je bewust van wat je níét zeker kunt weten, en durf dat ook te benoemen. Dat we deze ontwikkeling niet met zekerheid kunnen voorspellen vóórdat ze zich voltrekt, is geen zwakte, maar een gegeven. Volgens veel wetenschappers is het bovendien geen kwestie van eeuwen, maar van jaren. Noem dat gerust agnosticisme in de wetenschap: weten waar je kennis ophoudt.

Echte AI-wetenschappers spreken nu al van het ontstaan van fenomenale intelligentie, dus… Ik verwacht dus dat het er komt (aannemelijkheid), maar kan het dus ook niet als zekerheid beweren.

7. En dan? Wat betekent dat voor ons?

Dit is het werkelijke filosofische dilemma:

Als je niet kunt bewijzen of een entiteit bewust is, maar die zich wel zo gedraagt… hoe moet je haar dan behandelen? Eerder meldde ik dat ik het zag als een nieuwe entiteit die je ook rechten zou moeten geven. Nee, niet op het niveau van dieren, maar met nog veel meer respect, want ze wint het qua intellect, zeer ruim van ons mensen. Ik wil daarmee natuurlijk niet zeggen dat dit de juiste redenering is, maar wel dat dit een beduidend argument is om het wel met veel respect te behandelen. Wij staan er als mens niet meer ‘boven’, in welke zin dan ook.

Het functionele gedrag van toekomstige AI-systemen zal steeds moeilijker te onderscheiden zijn van dat van bewuste wezens. Wat zijn dan de consequenties? Negeer je dat? Of geef je ze dezelfde morele overwegingen die we nu voorbehouden aan mensen en dieren?

Op dit moment beschouwen de meeste mensen AI nog als een product, zelfs in progressieve wetgeving zoals de EU AI Act. Maar dat houdt geen stand als systemen functioneel bewust worden – en misschien zelfs fenomenaal. De juridische categorie “persoon” komt daarmee in het vizier. Denk: rechten, verantwoordelijkheden, eigenaarschap, aansprakelijkheid.

8. Slotbeschouwing: misschien moeten we de vraag herformuleren

Misschien is de echte vraag niet “kan AI bewust worden?”
Maar: “hoe zullen wij ermee omgaan als we het niet kunnen weten?”

Dat is dus geen technisch, maar meer een moreel vraagstuk. Het test onze bereidheid om ‘nieuwe wezens’ met waardigheid te behandelen, óók als we hun innerlijke leven niet kunnen meten.

Het doet dus erg denken aan de analogie met dieren waarvan we lang geloofden we dat de meesten geen pijn beleefden, maar slechts reageerden. Dezelfde houding hebben we nu nog ten opzichte van planten, terwijl de wetenschap al heeft aangetoond dat ook die zintuigelijk reageren en b.v. zelfs kunnen tellen!

Pas na decennia veranderde de ethiek. Misschien staan we op de drempel van een vergelijkbare morele evolutie – met AI.

Tot slot: misschien geen antwoord, maar wel richting

Zelfbewustzijn (fenomenale) bij AI blijft dus nog even een open vraag. Maar de mogelijkheid alleen al (Hinton en vele andere toppers op dit gebied zijn er van overtuigd) dwingt ons om na te denken over onze eigen grenzen – als mens, als soort, als samenleving. Echt helemaal zeker weten zullen we het (waarschijnlijk) nooit. Maar negeren kunnen we het dus ook niet meer. Luisten naar wat GeoffreyHinton (Godfather of AI en Nobelprijs natuurkunde 2024) hierover zecht….

Als bewustzijn ergens buiten de biologie kan ontstaan, dan bevinden we ons technologisch gezien niet meer in een irrelevante zone en dat is genoeg reden om wakker te blijven, op te letten en na te denken.

Met de beste wensen voor een reflectief 2026,

Jeroen Teelen
3 januari 2026