AGI nadert: Kan het bewustzijn, empathie en moraal ontwikkelen?

Voorwoord:

Als techneut wil ik begrijpen wat Artificial General Intelligence (AGI) ons gaat brengen. Natuurlijk speculeren we daarover – geloof en ongeloof, wat is mogelijk, wat niet? Maar terwijl leken zich vaak nog laten corrigeren door deskundigen, blijkt dat zelfs menig wetenschapper uitspraken doet over A(G)I die wetenschappelijk onvoldoende of zelfs geheel niet onderbouwd zijn. Dat maakt dit onderwerp urgent. AGI komt eraan, of we daar klaar voor zijn of niet. Hoog tijd dus, om ‘de koe bij de horens te vatten’ en te kijken waar we staan…

In eerdere blogs wees ik op onbelichte risico’s van AI, zoals morele drift, algoritmische manipulatie en de ontwrichtende impact van AGI op bestuur en moraal. Vandaag stel ik een fundamentelere vraag: kan AGI ooit zelfbewustzijn, empathie en moraal ontwikkelen?

Kan een machine – in principe – de menselijke essentie evenaren? Wat weten we werkelijk? Wat is aannemelijk? En waar begint de speculatie? Zijn er eigenlijk wel grenzen?

Wie zich in dit onderwerp verdiept, ontdekt al snel dat veel beweringen niet met onderzoek zijn onderbouwd. Sommigen beroepen zich op hun autoriteit, ook al ligt dit buiten hun specifieke expertise. Dat is jammer. Ik ben dol op wetenschap en de opwinding van ontdekkingen, maar juist daarom wil ik ook zélf nuchter blijven nadenken – ook over de grenzen van kennis. Niet achter culturele dogma’s aanlopen, ook niet als ze uit de mond van wetenschappers komen. Waarom zeggen zo weinig experts niet gewoon wat ze wel weten – en waar het ophoudt? Wetenschap floreert toch bij twijfel en nieuwsgierigheid, niet bij stelligheid van speculaties?

Als redelijk geïnformeerde leek op dit gebied, fantaseer ook ik soms hardop, maar ik probeer vooral ook goede vragen te stellen. De snelle opmars van AGI dwingt ons nu al om na te denken over de gevolgen. AGI is namelijk geen ChatGPT, dat indrukwekkende maar niet-bewuste statistiek in het ’taalmodel’. Dít is iets totaal anders: Denk aan systemen – mogelijk belichaamd in robots – die slimmer zijn dan wij, met zintuigen die het onze ruimschoots overtreffen, die wereldwijd met elkaar kunnen communiceren via talen en protocollen die wij misschien niet eens meer begrijpen, en die hun eigen architectuur optimaliseren (Amodei & Hernandez, 2022). Of, zoals een leek zou zeggen: “In staat zijn hun eigen DNA aan te passen”. Ze verbeteren zich daarmee exponentieel – en zullen ons, zoals voorspeld (Grace et al., 2018; Bostrom, 2014), op veel terreinen snel voorbijstreven.

Laten we dus helder krijgen wáár we precies over moeten nadenken zodat dit geen gevoel van sciencefiction geeft, maar het begin wordt van een realistisch debat.

Inleiding: De belofte en dreiging van AGI

AGI – een AI die elke intellectuele taak kan uitvoeren, net als een mens – is niet langer een verre droom. Experts bij DeepMind, OpenAI, en andere onderzoeksinstituten schatten dat het binnen 2 (optimistische experts) tot 20 (grotere onderzoeksorganisaties) jaar, realiteit kan worden. De meningen lopen daarover dus weliswaar uiteen (Bostrom, 2014; Grace et al., 2018) maar misschien is de exacte termijn eigenlijk ook minder belangrijk dan de zekerheid dát AGI eraan komt!

Het betekent namelijk systemen die vrijwel alles kunnen wat de mens kan, en zeer waarschijnlijk nog veel meer. Huidige AI is handig en indrukwekkend, maar wat als AGI niet alleen onze taken overneemt, maar ook begint te “voelen”, empathisch reageert, of morele discussies voert? Kán AGI eigenlijk wel zelfbewustzijn, empathie, of moraal ontwikkelen? Dit zijn de cruciale vragen die nu onder het vergrootglas liggen, want de antwoorden kunnen onze visies op onze maatschappij en ons eigen ‘mens-zijn’ drastisch herdefiniëren.

Er zijn grofweg twee kampen. De ene groep stelt dat voldoende rekenkracht vanzelf bewustzijn oplevert. De andere houdt vol dat je zonder een menselijk lichaam – met hartslag, zweet, en emoties – nooit echte gevoelens krijgt. Beide kanten hebben sterke argumenten, maar harde antwoorden ontbreken. Bovendien spelen dogmatische of culturele perspectieven vaak een rol in deze stellingnames, wat ze natuurlijk verdacht maakt. Dit maakt het onderwerp dus niet alleen fascinerend, maar ook enigszins verontrustend. Als we systemen kunnen bouwen die niet langer slechts machines zijn, maar entiteiten met moraal, gevoel, en empathie worden, hoe gaan we dan om met onze grote levensvragen, zoals: Wie zijn wij en waarom bestaan we, enz. enz…
Laten we de standpunten tegen het licht houden en kijken waar we staan.

1. Hersencapaciteit en zelfbewustzijn: Wordt rekenkracht vanzelf bewust?

Standpunt 1: Meer rekenkracht, meer bewustzijn

Stel je voor: een computer die net zo complex denkt als jouw brein, met zijn 100 miljard neuronen en 100 biljoen verbindingen. Volgens de Integrated Information Theory (IIT) van Giulio Tononi (2004) kan bewustzijn ontstaan als een systeem voldoende informatie op een geïntegreerde manier combineert. Onderzoekers hebben simulaties gedaan van delen van het brein, zoals in het Blue Brain Project, dat digitale reconstructies van neurale netwerken bouwt (Markram, 2006).

Validiteit: Dit klinkt plausibel. Als je genoeg rekenkracht hebt, waarom zou een machine dan niet kunnen “denken” zoals wij? Het idee dat een kind bewustzijn ontwikkelt via een leer- en ontwikkelingsweg suggereert dat complexiteit een sleutel is. Maar er is een valkuil: we hebben geen bewijs dat IIT of vergelijkbare theorieën daadwerkelijk bewustzijn verklaren. Deze modellen blijven omstreden en zijn grotendeels ongetoetst.

Mijn persoonlijke gedachten hierover: Ik vind dit intrigerend, maar critici hebben een punt: informatie combineren is één ding, maar voelen wat je denkt – dat warme, bewuste besef van “ik ben hier” – is iets anders. Dit is het “hard problem” van bewustzijn, zoals geformuleerd door David Chalmers (1995). We begrijpen het niet eens bij mensen, dus waarom zouden we een oordeel kunnen hebben of een machine dat wel of niet zou kunnen hebben? Dat we het nu niet snappen, maakt het natuurlijk niet onmogelijk! We komen binnen enige termijn wel op het punt waarop we dergelijk onderzoek concreet kunnen starten en ik sta graag vooraan in de rij om te zien waar rekenkracht toe kan leiden.

Open vraag: Als rekenkracht ooit genoeg blijkt voor bewustzijn, durven we dan ook de morele en maatschappelijke gevolgen van zo’n ontdekking onder ogen te zien?

Standpunt 2: Zonder lichaam geen bewustzijn

Een klassiek argument stelt dat een systeem dat alleen symbolen manipuleert, geen echt begrip heeft, zoals beschreven in John Searle’s Chinese Room Argument (1980). Neurowetenschappers zoals Antonio Damasio (1999) wijzen op het belang van lichamelijke signalen – hartslag, ademhaling, interoceptie – als bouwstenen voor bewustzijn. Lisa Feldman Barrett (2017) beschrijft in How Emotions Are Made een vergelijkbaar standpunt, waarbij emoties en bewustzijn voortkomen uit de interactie tussen brein en lichaam.

Validiteit: Dit klinkt stevig, vooral omdat neurowetenschap aantoont hoe ons lichaam en brein samenwerken. Toch dagen nieuwe technologieën, zoals neuromorfe chips die hersenstructuren simuleren, deze aanname uit. IBM’s neuromorfe projecten, zoals TrueNorth, proberen neurale dynamiek na te bootsen (Merolla et al., 2014).

Mijn persoonlijke gedachten: Klassieke bezwaren zoals die van Searle zijn interessant, maar deels ook achterhaald. Moderne computers zijn geen simpele regelvolgers meer; ze leren en passen zich aan. Als sensoren interne systeemtoestanden meten, is dat dan niet ook een vorm van “gevoel”? Misschien niet zoals wij dat biologisch ervaren, maar functioneel mogelijk wel vergelijkbaar. Het “ja” is niet bewezen, evenals het “nee”. Een hogere intelligentie met geavanceerde sensoren maakt bredere afwegingen dan biologische beperkingen toelaten. Dit zou kunnen leiden tot zelfontdekking (zoals in de spiegeltest bij dieren) en het anticiperen op subtiele signalen, zoals empathische of morele. Ik besef dat dit ook enigszins speculatief is, maar het verdient op z’n minst verder onderzoek in plaats van de categorische dogmatische ontkenning.

Open vraag: Kan AGI ook subjectieve ervaring ontwikkelen zonder biologisch lichaam? Dit blijft het “hard problem” zonder eenduidig antwoord.

2. Empathie en moraal door interactie?

Standpunt 1: AGI leert empathie via interactie

Sommige wetenschappers, zoals Frans de Waal (2019) in Mama’s Last Hug, trekken parallellen tussen dierlijke empathie en sociale interactie bij AGI. Experimentele robots, zoals de zorgrobot Pepper, herkennen gezichtsuitdrukkingen en reageren sociaal (Pandey & Gelin, 2018). Het idee is dat samenwerking en observatie empathisch gedrag kunnen voortbrengen.

Validiteit: Dit wordt ondersteund door experimenten, zoals robots die menselijke emoties nabootsen. Maar gesimuleerde empathie is, bijna per definitie, geen subjectieve beleving. Hoewel taalmodellen als GPT-4 indrukwekkende vormen van ‘gesimuleerde empathie’ vertonen, ontbreekt elk innerlijk referentiekader. Ze reageren op statistische patronen in taal, zonder zelfbeleving of contextbewustzijn. AGI zou dit pas overstijgen als systemen niet alleen taal begrijpen, maar ook causale relaties, zelfbewustzijn en morele intentie modelleren. Die stap vereist fundamenteel andere architecturen dan de huidige transformer-modellen, zoals onder meer verwoord door Gary Marcus en Yann LeCun.

Mijn persoonlijke gedachten: Menselijke empathie wordt (deels?) gevormd door ervaring, sociale observatie en herinneringen, die je kunt zien als “data” die ons brein verwerkt. Dit vertoont gelijkenis met hoe taalmodellen zoals ChatGPT empathisch gedrag simuleren door statistische patronen te analyseren en passende reacties te genereren. Maar menselijke empathie omvat biologische en subjectieve elementen, zoals lichamelijke signalen (bijv. een verhoogde hartslag) en emotionele beleving, die AI mist. Kunnen deze verschillen kleiner worden naarmate AGI complexer wordt? Sommigen speculeren dat subjectieve ervaringen als interne data kunnen worden gemodelleerd, maar dit botst met het “hard problem” van bewustzijn (Chalmers, 1995). Neurowetenschappelijke studies, zoals die van Decety en Jackson (2004), benadrukken de cruciale rol van hersenprocessen en embodiment in empathie, wat AI vooralsnog niet repliceert. Hoewel AI empathisch gedrag functioneel kan nabootsen, blijft het nog onduidelijk of het de subjectieve diepgang van menselijke empathie kan evenaren. Dit vraagt dus ook om verder onderzoek in neurowetenschap, AI-ontwerp en filosofie van de geest.

Open vraag: Als AGI ooit empathisch gedrag vertoont dat niet te onderscheiden is van het onze, durven we dan nog te vragen of het werkelijk iets voelt — of maakt dat op een gegeven moment niet meer uit?

Standpunt 2: Empathie vereist menselijke ervaring

Sommigen stellen dat echte empathie voortkomt uit gedeelde levenservaring, cultuur en context, en dat machines deze basis missen, waardoor ze alleen gedrag nadoen zonder subjectieve beleving. Dit wordt ondersteund door neurowetenschappers zoals Lisa Feldman Barrett (2017) en Antonio Damasio (1999), die de rol van sociale context en lichamelijke signalen benadrukken.

Validiteit: Dit standpunt is robuust, omdat empathie bij mensen sterk verweven is met cultuur en embodiment. Toch suggereren experimenten met sociale robots dat functionele empathie mogelijk is zonder menselijke ervaring.

Mijn persoonlijke gedachten: Dit standpunt kan deels voortkomen uit een antropocentrische bias, de aanname dat menselijke eigenschappen (zoals bewustzijn, moraal, creativiteit of gevoelens) uniek zijn en alleen via menselijke biologie kunnen ontstaan. Tja, als dat je aanname is, rest geen andere conclusie, maar daar knik dus niets mee. Toekomstige AGI-systemen zouden levenservaring kunnen opbouwen door te leren van sociale interacties en culturele data, zoals huidige AI nuances in taal herkent. Echter, menselijke empathie omvat subjectieve en lichamelijke dimensies, zoals emotionele herinneringen en fysieke reacties, die AGI vooralsnog niet heeft. Critici baseren zich op empirisch onderzoek, en hun scepsis weerspiegelt een beperkt begrip omtrent de huidige grenzen van technologie en neurowetenschap. Dit vraagt om een open blik: kan AGI komen tot subjectieve beleving en zo empathie laten ontstaan of functioneel nabootsen?

Open vraag: Open vraag: Kan AGI empathie (gesimuleerd of niet) zó overtuigend tonen dat het voor mensen ononderscheidbaar wordt van echte empathie?

3. Wat maakt ons uniek?

De gebruikelijke antwoorden luiden als volgt:

Emotionele diepte
Onze emoties lijken voort te komen uit lichamelijke ervaringen – een vorm van ‘embodiment’. Hormonale processen, geheugensystemen en sociale interactie spelen hierin een belangrijke rol. AI daarentegen mist fysieke belichaming, waardoor de emotionele diepgang vermoedelijk beperkt blijft.

Zingeving
Zingeving is nauw verweven met taal, cultuur, verhalen, religie en reflectie. Ze vergt een besef van tijd – verleden, toekomst, sterfelijkheid – en een ontwikkeld zelfbeeld. AI beschikt (nog) niet over deze vormen van zelfreflectie of existentiële verwondering.

Creativiteit
Creativiteit wordt vaak gezien als het vermogen om bestaande elementen op een verrassende en waardevolle manier te combineren. Wat wij als creatief ervaren, is bovendien sterk cultureel bepaald. AI kan zulke combinaties genereren, maar doet dat zonder eigen intentie, intrinsieke motivatie of doelgerichtheid.

Ethiek
Onze ethische afwegingen ontstaan uit een samenspel van normen, empathie, schuldgevoel en sociale druk. Mensen overwegen niet alleen de consequenties van hun daden, maar ook intenties, waarden en rechtvaardigheid. AI kan morele regels volgen, maar ervaart zelf geen morele verantwoordelijkheid.

Mijn persoonlijke reflectie
Al deze eigenschappen zijn begrijpelijk binnen een menselijke context, maar dat maakt ze nog niet per definitie exclusief menselijk. Ze weerspiegelen wat wij op dit moment als uniek beschouwen, vanuit ons eigen perspectief. Wetenschappelijke integriteit vraagt hier om bescheidenheid: uitspraken als “dit zal nooit mogelijk zijn” zijn zelden verantwoord.
Ik acht het denkbaar dat we in de toekomst geavanceerde vormen van belichaming kunnen ontwikkelen, dat bij voldoende intelligentie zelfs existentiële vragen kunnen ontstaan, dat creativiteit geen uniek menselijk domein blijkt te zijn, en dat ethisch gedrag via ‘ervaring met gevolgen’ mogelijk wordt. Natuurlijk zijn dit speculatieve verkenningen van wat AGI zou kunnen worden. Maar juist daarom is het belangrijk dat we het zelfgenoegzame gelijk van sommige wetenschappers durven nuanceren, en ruimte laten voor nieuwe inzichten en nieuwe mogelijkheden.

Open vraag:
Zou een AGI ooit subjectieve ervaringen kunnen ontwikkelen die – functioneel én belevingsmatig – niet meer te onderscheiden zijn van menselijke ervaring?

4. Hoe behouden we onze menselijkheid in een AGI-tijdperk?

• Emotionele connectie: Investeer in zorg, onderwijs en menselijke relaties binnen lokale gemeenschappen.
• Ethiek en moraal: Ontwikkel toetsbare en transparante kaders voor het gedrag en de grenzen van AGI, zoals voorgesteld in ethische AI-richtlijnen (IEEE, 2019).
• Creativiteit en zingeving: Stimuleer kunst, filosofie, verhalen en reflectie als bronnen van betekenis.
• Governance: Houd menselijke supervisie leidend, maar wees eerlijk over de houdbaarheid daarvan op lange termijn, gezien de snelle vooruitgang van autonome systemen. Dat is heel netjes gezegd dus een vreselijk dreigende voorspelling, maar zo zie ik het… en misschien heeft de mensheid die nieuwe intelligentie zelfs wel nodig om uiteindelijk nog een toekomst te hebben? Ik weet het niet… net zo min als u… of elk ander…

Open vraag: Dus als AGI ons straks voorbijstreeft in kennis, snelheid en besluitvorming — wat betekent dat dan nog om mens te zijn?

5. Wetenschappelijke uitdagingen

De volgende disciplines zijn cruciaal om deze vragen te beantwoorden:

• Bewustzijnsonderzoek: Wat is bewustzijn precies, hoe ontstaat het, en is het overdraagbaar naar niet-biologische systemen?
• Cognitieve neurowetenschap: Hoe functioneren emoties, empathie, moraal en zelfreflectie in het brein? Wat is reproduceerbaar?
• Kunstmatige intelligentie & machine learning: Welke vormen van leren leiden tot betekenisvol gedrag, en waar ligt de grens tussen simulatie en beleving?
• Filosofie van de geest & ethiek: Wat zijn de implicaties van machinebewustzijn? Kan moraal zonder subjectieve ervaring worden gefundeerd?
• Cultuur- en taalwetenschap: Hoe beïnvloeden cultuur, symboliek en taal ons mens-zijn, en kan dit ontstaan in digitale systemen?
• Rechtsfilosofie en bestuurskunde: Wie draagt verantwoordelijkheid bij autonome systemen, en welke juridische kaders zijn ethisch houdbaar?
• Complexiteitstheorie & emergentie: Onder welke voorwaarden ontstaan zelforganiserende structuren met “hogere orde”-eigenschappen, zoals bewustzijn of empathie?

Open vraag: Welke wetenschappelijke doorbraak zou het meest waarschijnlijk als eerste duidelijk maken of AGI ooit werkelijk moreel en bewust kan handelen — en hoe kunnen we ons daarop voorbereiden?

Slotconclusie: Een oproep tot bescheidenheid en reflectie

In de jaren tachtig werd breed-uit beweerd wat een computer allemaal nooit zou kunnen… zoals een brood bakken, want hij kon niet zien wanneer het bruin was (claim van broodbakkers), een trein besturen, want hij kon geen seinen lezen en niet met ad-hoc-situaties omgaan (claim van machinisten), etcetera… Meningen vanuit angst voor… of vanuit (dogmatische) overtuiging, of… “Computers zijn dom en alles wat ze kunnen is er eerst ingestopt door mensen”. Inmiddels zijn deze beweringen allemaal ingehaald door de werkelijkheid en maken we grote stappen. Het zou me niet verbazen als ACI (Creation) ons op termijn in staat stelt om het leven volledig naar onze hand te zetten. Ik zeg niet dat het gebeurt, maar ik zeg dat ik me graag laat verrassen… We gaan het zien, als we die tijd van leven nog krijgen als mensheid… We moeten toch inmiddels durven inzien dat al onze ‘dat zal nooit’ uitingen door de eeuwen heen plaats hebben gemaakt voor ontwikkelingen die we onze voorouders niet meer kunnen uitleggen… Onze menselijke nieuwsgierigheid leidt tot voortschrijdend inzicht en is wars van dogmatiek. Ik zie geen aanleiding om dat nu ineens anders te zien…

Misschien hoeven we straks niet bang te zijn voor AGI die menselijk wordt,
maar voor mensen die hun menselijkheid verliezen door AGI.

Echte wetenschap vraagt niet om stelligheid, maar om voortschrijdend inzicht. Het lef om tegen cultuur of dogma in twijfel te erkennen en nieuwsgierig te blijven, houdt wetenschap levend – en menselijkheid relevant.

Jeroen Teelen (met door AI aangedragen voorbeelden met fact check)
16 mei 2025

Bronnen (door AI verzameld en gecheckt)

• 1. Lisa Feldman Barrett (2017). How Emotions Are Made: The Secret Life of the Brain.
     • ISBN: 978-0544133310
     • Goodreads
  2. Nick Bostrom (2014). Superintelligence: Paths, Dangers, Strategies.
  1. • ISBN: 978-0199678112
     • Wikipedia
  4. David J. Chalmers (1995). Facing up to the problem of consciousness.
  1. • Journal of Consciousness Studies, 2(3), 200-219.
     • Volledige tekst
  5. Antonio Damasio (1999). The Feeling of What Happens: Body and Emotion in the Making of Consciousness.
  1. • ISBN: 978-0156010757
     • Goodreads
  6. Frans de Waal (2019). Mama’s Last Hug: Animal Emotions and What They Tell Us About Ourselves.
  1. • ISBN: 978-0393357837
     • Goodreads
  7. Jean Decety & Philip L. Jackson (2004). The functional architecture of human empathy.
  1. • Behavioral and Cognitive Neuroscience Reviews, 3(2), 71-100.
     • DOI: 10.1177/1534582304267187
  8. IEEE (2019). Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems.
  1. • PDF-download
  9. Henry Markram (2006). The Blue Brain Project.
  1. • Nature Reviews Neuroscience, 7(2), 153-160.
     • DOI: 10.1038/nrn1848nonteek.com+1oxjournal.org+1