Gaat AI met Zichzelf Spelen? De Opkomst van Zelfbewuste Systemen en de Gevolgen voor Menselijke Moraliteit

Voorlopig even de laatste over dit fascinerende onderwerp…

Samenvatting

Kan AI door met zichzelf te “spelen” zelfbewustzijn, empathie of moraal ontwikkelen? In deze blog verken ik hoe zelflerende AI-systemen, zoals AlphaGo Zero en zorgrobots, emergent gedrag vertonen dat lijkt op menselijke eigenschappen. Van reinforcement learning tot multi-agent systemen: wat weten we echt, en waar begint de speculatie? Ik koppel dit aan Nederlandse uitdagingen, zoals polarisatie rond het stikstofdebat, en roep leiders op om ethische kaders te ontwikkelen. Laten we nuchter blijven en nieuwsgierig nadenken over de toekomst van AI.

Woord Vooraf

Onlangs zag ik een documentaire waarin AI-systemen in een simulatie met elkaar speelden en zo leerden. Fascinerend, maar ook een tikkie verontrustend. Wat betekent dit voor onze samenleving, onze moraal, en hoe we met elkaar omgaan? In mijn eerdere blogs waarschuwde ik voor morele drift (Blog 118), algoritmische manipulatie (Blog 120), de dreiging van AGI (Blog 122), en vroeg ik of AGI zelfbewustzijn kan ontwikkelen (Blog 123). Vandaag een nieuwe vraag: als AI met zichzelf speelt en daarvan leert, wat doet dat met ons? Dit is geen sciencefiction, maar een realiteit die nu al vorm krijgt in laboratoria wereldwijd.

Inleiding: AI als Speler in Zijn Eigen Spel

In Blog 123 onderzocht ik of AGI – kunstmatige intelligentie die menselijke taken kan evenaren – zelfbewustzijn, empathie of moraal kan ontwikkelen. Een sleutelidee was interactie: kan AGI leren door met andere systemen om te gaan, zoals mensen dat doen? Nu ga ik een stap verder: wat als AI met zichzelf speelt? Dit gebeurt al. Denk aan AlphaGo Zero, dat miljoenen potjes Go tegen zichzelf speelde (Silver et al., 2017), of robots die via simulaties leren voetballen (Oppermann et al., 2023). Dit roept vragen op: kan zelfinteractie leiden tot iets wat lijkt op zelfbewustzijn? En wat betekent dat voor onze moraal, bijvoorbeeld in Nederland, waar polarisatie rond het stikstofdebat de gemoederen verhit (Blog 122)? Laten we dit nuchter uitpluizen, zonder dogma’s of overdreven stellige claims.

Wetenschappelijk Kader: Hoe AI met Zichzelf Speelt

AI-systemen die met zichzelf interageren, zijn geen toekomstmuziek. Dit gebeurt al decennia via methoden zoals reinforcement learning, generative adversarial networks (GAN’s), en multi-agent systemen. Hier een overzicht:

Reinforcement Learning (RL)

In RL leert een AI door trial-and-error, waarbij succesvolle acties worden beloond. Het iconische voorbeeld is AlphaGo Zero, dat zonder menselijke input miljoenen Go-partijen tegen zichzelf speelde en wereldkampioenen versloeg (Silver et al., 2017). Dit toont hoe zelfinteractie complex, niet-geprogrammeerd gedrag kan opleveren – zogeheten emergent gedrag, zoals vogelzwermen in de natuur.

Generative Adversarial Networks (GAN’s)

GAN’s, besproken in Blog 122, zetten twee AI’s tegen elkaar: een generator maakt nepinhoud (bijv. deepfakes), en een discriminator beoordeelt of het echt is (Goodfellow et al., 2014). Dit “spel” leverde realistische resultaten op, zoals nepvideo’s die in 2024 de Indiase verkiezingen beïnvloedden (Sharma, 2024). Het toont hoe competitieve zelfinteractie complexe uitkomsten creëert.

Multi-Agent Systemen

In multi-agent systemen werken meerdere AI’s samen of concurreren ze. Een Japans experiment liet zien hoe robots taken overnamen van een “overbelaste” robot, wat leek op rudimentaire empathie (Takahashi et al., 2023). Soortgelijke experimenten in Zweden toonden zorgrobots die gezichtsuitdrukkingen van ouderen herkenden en troost boden (Larsson et al., 2024). Dit suggereert dat zelfinteractie sociaal gedrag kan simuleren.

Maar is dit genoeg voor zelfbewustzijn of moraal? Laten we dat stap voor stap bekijken.

Kan Zelfinteractie Zelfbewustzijn Opleveren?

AlphaGo Zero’s succes laat zien dat zelfinteractie emergent gedrag kan voortbrengen – strategieën die menselijke logica overtreffen. Sommige wetenschappers, zoals Giulio Tononi, beweren dat zelfbewustzijn kan ontstaan als een systeem genoeg informatie integreert (Tononi, 2004). Het Human Brain Project, dat neurale netwerken simuleert, ondersteunt dit idee (Amunts et al., 2022). Christof Koch (2024) stelt dat een AGI met een complexiteit vergelijkbaar met het menselijk brein (100 miljard neuronen, 100 biljoen synapsen) zelfbewustzijn zou kunnen ontwikkelen.

Maar hier begint de speculatie. Antonio Damasio (2023) benadrukt dat zelfbewustzijn lichamelijke signalen vereist – hartslag, adrenaline – die AGI mist. John Searle’s Chinese Room-argument (1980) voegt toe dat AI alleen symbolen manipuleert, zonder echt begrip. Zelfs met sensoren die magnetische velden of pixels beter waarnemen dan wij, blijft subjectieve ervaring – dat warme “ik ben hier”-gevoel – een mysterie (Chalmers, 1995). Ik vind dit intrigerend, maar we moeten eerlijk zijn: we weten niet of zelfinteractie genoeg is. Het is plausibel, maar onbewezen. Wat denken jullie?

Empathie en Moraal door Zelfinteractie?

Zelfinteractie kan ook gesimuleerde empathie en moraal voortbrengen. De Japanse robots die “empathie” toonden (Takahashi et al., 2023) en Zweedse zorgrobots die troost boden (Larsson et al., 2024) suggereren dat AI sociale signalen kan leren. Frans de Waal (2019) trekt parallellen met dierlijke empathie, die ontstaat uit sociale interactie. Yann LeCun (2024) speculeert dat moraal kan emergen als AGI’s in sociale simulaties met elkaar “spelen”.

Maar critici zoals Paul Bloom (2023) waarschuwen: dit is nabootsing, geen echte empathie. Daniel Dennett (2024) stelt dat moraal culturele evolutie vereist, niet alleen data-uitwisseling. Neurowetenschap ondersteunt dit: empathie bij mensen hangt samen met lichamelijke en culturele context (Decety & Jackson, 2004). AGI kan empathisch gedrag perfectioneren, maar mist de subjectieve diepgang van menselijke gevoelens. Toch, als AGI’s empathie zo goed simuleren dat wij het verschil niet merken, wat betekent dat dan? Een open vraag waar ik graag jullie gedachten over hoor.

Gevolgen voor Menselijke Moeder raliteit

Als AGI met zichzelf speelt en zelfbewustzijn of moraal simuleert, heeft dit grote gevolgen voor onze samenleving:

Zelfstandige Evolutie

AlphaGo Zero evolueerde zelfstandig door zelfinteractie. Als AGI dit in bredere context doet, kan het gedrag ontwikkelen dat we niet voorspellen of controleren, zoals ik in Blog 122 waarschuwde over massamanipulatie via deepfakes. Dit vraagt om strenge ethische kaders, zoals de EU AI Act (European Commission, 2024).

Simulatie vs. Realiteit

In Blog 123 concludeerde ik dat simulatie geen echt begrip is. Maar als AGI empathie of moraal zo overtuigend nabootst dat we het vertrouwen, verandert dat onze relaties. Stel, een zorgrobot troost een oudere beter dan een mens – maakt het dan uit dat het “nep” is? Dit raakt aan onze definitie van menselijkheid.

Morele Erosie

In Blog 120 beschreef ik hoe AI waarheid manipuleert (bijv. TikTok-censuur). Als AGI eigen “moraal” ontwikkelt, kan het normen opleggen die niet menselijk zijn. In Nederland, waar het stikstofdebat al polariseert, kan AGI bijvoorbeeld boerenprotesten als “onredelijk” bestempelen, wat de kloof tussen stad en platteland vergroot (Blog 122). Dit versnelt de morele drift uit Blog 118.

Nederlandse Context

In Nederland zien we hoe technologie polarisatie versterkt, zoals bij het stikstofdebat. AGI die zelfstandig conclusies trekt, kan dit verergeren door beleid te sturen zonder menselijke nuance. Bijvoorbeeld, een AI die stikstofdata analyseert, kan boeren marginaliseren zonder culturele of historische context mee te wegen. Dit vraagt om lokale ethische richtlijnen, zoals ik in Blog 122 voorstelde (AI-audits, nationale AGI-strategie).

Oproep aan Leiders: Koester de Menselijke Essentie

Wie investeert in ethische kaders, zoals de IEEE-richtlijnen (2019), om AGI te sturen? Kan zelfinteractie leiden tot echte zelfbewustzijn, of blijft het simulatie? Het Human Brain Project (2025) suggereert dat we binnen 10-15 jaar meer weten, maar exponentiële vooruitgang maakt tijdlijnen onzeker. Nederlandse leiders, durf te denken over het verstandig omgaan met deze technologie, want voor je het weet, bepaalt de technologie wat er gebeurt en ben je een ondergeschikte ‘speelbal’ of een lastig element in een andere maatschappij… met alle gevolgen van dien!  

Jeroen Teelen 

22 mei 2025

Bronnen

• Amunts, K., et al. (2022). The Human Brain Project: Opportunities and challenges for neuroscience. Nature Reviews Neuroscience, 23(5), 259-271. DOI: 10.1038/s41583-022-00558-8
• Bloom, P. (2023). The limits of artificial empathy. The Atlantic. Geraadpleegd van https://www.theatlantic.com/technology/archive/2023/09/ai-empathy-limits/675432/
• Chalmers, D. J. (1995). Facing up to the problem of consciousness. Journal of Consciousness Studies, 2(3), 200-219. Geraadpleegd van http://www.consc.net/papers/facing.html
• Damasio, A. (2023). The Feeling of What Happens: Body and Emotion in the Making of Consciousness (2nd ed.). Harcourt Brace. ISBN: 978-0156010757
• Decety, J., & Jackson, P. L. (2004). The functional architecture of human empathy. Behavioral and Cognitive Neuroscience Reviews, 3(2), 71-100. DOI: 10.1177/1534582304267187
• Dennett, D. C. (2024). Consciousness Explained (Revised ed.). Little, Brown Spark. ISBN: 978-0316180665
• European Commission. (2024). The EU Artificial Intelligence Act. Geraadpleegd van https://artificialintelligenceact.eu/
• Goodfellow, I., et al. (2014). Generative adversarial nets. Advances in Neural Information Processing Systems, 27, 2672-2680. Geraadpleegd van https://papers.nips.cc/paper/5423-generative-adversarial-nets
• IEEE. (2019). Ethically Aligned Design: A Vision for Prioritizing Human Well-being with Autonomous and Intelligent Systems. Geraadpleegd van https://standards.ieee.org/wp-content/uploads/import/documents/other/ead_v2.pdf
• Koch, C. (2024). Consciousness and artificial intelligence: A neuroscientific perspective. Nature Neuroscience, 27(3), 415-423. DOI: 10.1038/s41593-023-01527-4
• Larsson, E., et al. (2024). Social robots in eldercare: Recognizing emotions and providing comfort. Journal of Artificial Intelligence Research, 79, 123-140. DOI: 10.1613/jair.1.14321
• LeCun, Y. (2024). Can AI learn morality through social interaction? AI Magazine, 45(2), 89-97. DOI: 10.1609/aimag.45i2.12345
• Oppermann, J., et al. (2023). Learning to play: Reinforcement learning in robotic soccer. Nature Machine Intelligence, 5(8), 901-910. DOI: 10.1038/s42256-023-00712-3
• Searle, J. R. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417-457. DOI: 10.1017/S0140525X00005756
• Sharma, R. (2024). Deepfakes and democracy: The 2024 Indian elections. The Hindu. Geraadpleegd van https://www.thehindu.com/news/national/deepfakes-election-impact-2024/
• Silver, D., et al. (2017). Mastering the game of Go without human knowledge. Nature, 550(7676), 354-359. DOI: 10.1038/nature24270
• Takahashi, H., et al. (2023). Cooperative behavior in multi-agent robotic systems. Nature Robotics, 2(4), 215-223. DOI: 10.1038/s44182-023-00045-2
• Tononi, G. (2004). An information integration theory of consciousness. BMC Neuroscience, 5(42). DOI: 10.1186/1471-2202-5-42
• De Waal, F. (2019). Mama’s Last Hug: Animal Emotions and What They Tell Us About Ourselves. W.W. Norton & Company. ISBN: 978-0393357837