Leven met een intelligentie die slimmer is dan wij…

Een gesprek met Geoffrey Hinton (Godfather of AI en Nobelprijs 2024)

 

Inleiding: 

Interessant voor iedereen die nu eens écht wil begrijpen hoe AI werkt, of kunstmatige intelligentie slimmer kan worden dan de mens, en wat dat mogelijk betekent voor onze toekomst, maar ook voor degenen die ervan overtuigd zijn dat zoiets nooit kan gebeuren.

Een gesprek tussen voornamelijk Geoffrey Hinton en Astrofysicus Neil deGrasse Tyson. Twee wetenschappers die ieder vanuit hun eigen vakgebied tot de meest gezaghebbende stemmen van deze tijd behoren. In het begin wordt de werking van neurale netwerken toegelicht, maar sla dat gerust over en richt je op de vragen die je interessant vindt.

De link naar het originele interview (Engelstalig), maar voor het gemak heb ik hieronder een Nederlandse samenvatting gemaakt. 

 

Geoffrey Hinton bij StarTalk – een gesprek over kunstmatige intelligentie

In deze speciale aflevering van StarTalk spreekt astrofysicus Neil deGrasse Tyson — samen met co-presentatoren Gary O’Reilly en Chuck Nice — met Geoffrey Hinton, vaak de “godfather of AI” genoemd, winnaar van de Turing Award (2018) en van de Nobelprijs voor natuurkunde (2024). 

Hieronder een Nederlandse bewerking in vraag-antwoordvorm. De vragen vatten samen wat de drie presentatoren inbrachten; de antwoorden geven Hintons standpunten weer, bewerkt en ingekort voor de leesbaarheid.

Van gedistribueerd geheugen naar digitale intelligentie

Vraag: Waar begon uw fascinatie voor intelligentie?

Hinton: Op de middelbare school, begin jaren zestig. Een wiskundig begaafde vriend vertelde over een toen nieuw idee: dat herinneringen niet in losse hersencellen zouden zitten, maar verspreid over heel veel cellen tegelijk — geïnspireerd op de hologrammen die net opkwamen. Sindsdien laat de vraag me niet meer los: hoe slaat het brein iets op, en hoe werkt het eigenlijk?

Vraag: Kwam dat voort uit de informaticus of uit de cognitief psycholoog in u?  (Hinton is beide)

Hinton: Allebei. In de jaren zeventig, toen ik promovendus werd, bood zich een nieuwe methode aan die nog nauwelijks werd gebruikt: je kunt elke theorie over de werking van het brein nabootsen op een computer en haar zo testen. Het ontnuchterende was dat de meeste bestaande theorieën, zodra je ze simuleerde, gewoon niet werkten. Ik heb mijn leven besteed aan de vraag hoe je de verbindingssterktes tussen neuronen zó verandert dat een systeem ingewikkelde dingen leert — en dat het in een simulatie óók echt werkt. Hoe het brein dat precies doet, begrijpen we nog steeds niet. Maar hoe je het in een digitale computer doet, weten we inmiddels wél.

Vraag: En juist dat — dat we het in digitale vorm kúnnen — maakte u begin 2023 nerveus. Waarom?

Hinton: Door het besef dat digitale intelligentie misschien gewoon beter is dan de analoge intelligentie die wij hebben.

Hoe een neuraal netwerk werkt

Vraag: Kunt u uitleggen wat een kunstmatig neuraal netwerk eigenlijk is?

Hinton: Ik heb er een cursus van achttien uur over, maar ik zal het korter houden. Denk aan iets uit de natuurkunde: de gaswetten. Je perst een gas samen en het wordt warmer. De échte verklaring zit niet op het niveau dat je ziet, maar in talloze atomen die als een gekrioel door elkaar bewegen. Macroscopisch gedrag wordt verklaard door enorme aantallen heel kleine dingen van een totaal ander type. Dat was de inspiratie achter neurale netwerken: onder het bewuste, weloverwogen redeneren met symbolen ligt iets anders — grote patronen van activiteit in netwerken van hersencellen. En dat onderliggende niveau is juist beter in dingen als waarnemen en redeneren met analogieën, iets waar de symbolische aanpak nooit goed raad mee wist.

Een woord als “kat” komt overeen met een groot patroon van activiteit. Verwante woorden geven verwante patronen: “dinsdag” en “woensdag” lijken sterk op elkaar. Je kunt elk neuron zien als een micro-kenmerk dat aanslaat. Zeg ik “kat”, dan worden kenmerken actief als bezield, harig, snorharen, roofdier, misschien huisdier. Zeg ik “hond”, dan overlappen veel van die kenmerken, maar niet allemaal. Onder de symbolen die we bewust manipuleren, ligt dus dat veel rijkere, microscopische niveau — en dáár gebeurt het.

Een vogel leren herkennen

Vraag: Hoe leert zo’n netwerk dan bijvoorbeeld een vogel herkennen?

Hinton: Neem een zwart-witfoto. Voor de computer is dat niet meer dan een groot rooster van getallen: hoe helder elke pixel is. De vraag “staat er een vogel op?” lijkt simpel, maar programmeurs hebben er een halve eeuw vergeefs op gezwoegd. Een vogel kan een struisvogel vlak voor je zijn of een meeuw in de verte, zwart of wit, vliegend, half verscholen, te midden van een rommelige achtergrond.

Stel dat ik het netwerk met de hand zou bouwen. De helderheid van één pixel zegt niets — vogels zijn zwart óf wit, net als van alles. Maar je kunt wél iets afleiden: randjes. Geef een neuron sterke positieve verbindingen met een kolommetje pixels en sterke negatieve met het kolommetje ernaast. Zijn beide even helder, dan heffen de “stemmen” elkaar op en blijft het neuron stil. Is links helder en rechts donker, dan slaat het aan: het heeft een rand gevonden die links lichter is dan rechts. Zo werkt het ruwweg ook in de vroege visuele hersenschors: enorme aantallen randdetectoren, voor allerlei oriëntaties, posities en schalen.

In de volgende laag combineer je die randjes. Een neuron dat twee schuine reeksjes randen ziet samenkomen in een punt, zou een snavel kunnen detecteren. Een ander, dat een cirkeltje vindt, een oog. Een laag verder zoek je naar een oog en een snavel in de juiste verhouding: een vogelkop. En in de laatste laag zegt een neuron “vogel” zodra het tegelijk een mogelijke kop, een poot en een vleugelpunt ziet. Maar met de hand is dit een nachtmerrie: je hebt al gauw een miljard verbindingen nodig, en niemand wil die met de hand instellen.

Vraag: Maar moet je het dan niet trainen op élke mogelijke vogel?

Hinton: Nee — en dat is het wonder van generalisatie. Een netwerk onthoudt de data niet letterlijk; tijdens het leren vindt het regelmatigheden en past het die toe op nieuwe gevallen. Daardoor kan het zelfs een eenhoorn herkennen die het nooit heeft gezien.

Hoe netwerken leren: back propagation (fouten terugkoppelen)

Vraag: Waar komen die miljard verbindingssterktes dan vandaan?

Hinton: Je begint met willekeurige waarden. Stop je er een vogel in, dan lichten alle uitgangen — kat, hond, vogel — een heel klein beetje en ongeveer even sterk op. Nutteloos dus. Nu kun je vragen: hoe moet ik één verbinding bijstellen zodat het netwerk de volgende keer iets meer “vogel” zegt? Je zou kunnen experimenteren: een tikje verhogen en kijken of het beter wordt. Maar dan moet iemand wél zeggen wat het juiste antwoord is — de “supervisor”. En met een miljard verbindingen, elk vele keren bij te stellen, duurt dat eindeloos.

Het kan veel slimmer, met wiskunde. Voor de natuurkundigen onder u: stel je een elastiekje voor tussen de activiteit van het “vogel”-neuron (zeg 0,01) en de gewenste waarde (1). Dat elastiek trekt, maar de uitkomst ligt vast door de pixels en alle gewichten. Je kunt die “kracht” echter terugsturen door het netwerk: het neuron dat dacht “misschien een vogelkop” krijgt een duwtje om daar zekerder van te worden. Je combineert al die krachten en stelt overal de gewichten zó bij dat elk neuron meebeweegt met de kracht erop. Dat heet back propagation, en het werkt verbluffend goed.

Vraag: Was dát het moment dat het netwerk de menselijke leraar niet meer nodig had?

Hinton: Niet helemaal. Maar het wás een doorbraak. Lange tijd wisten we alleen hoe je de láátste laag verbindingen moest aanpassen, niet hoe je de verborgen tussenlagen een richting gaf. Back propagation loste dat op. Verschillende mensen kwamen er onafhankelijk op — in Finland begin jaren zeventig, en Paul Werbos eind jaren zeventig. Regeltechnici gebruikten iets soortgelijks al om ruimtevaartuigen op de maan te laten landen.

Vraag: Dus in de jaren zeventig hadden we in principe al gekund wat nu kan, maar ontbrak de rekenkracht?

Hinton: Voor een groot deel, ja. We hadden in de jaren tachtig het algoritme werkend; het herkende handgeschreven cijfers beter dan wat dan ook, en deed het redelijk bij spraak. We begrepen toen niet waarom het niet voor álles het wondermiddel was. Dat bleek het wél te zijn — mits je genoeg data en genoeg rekenkracht had. Dát ontbrak.

Vraag: Is dit wat men “reinforcement learning” noemt?

Hinton: Nee, dit is supervised learning: we vertellen het systeem exact wat het juiste antwoord is. Bij reinforcement learning gokt het, en horen we alleen of het goed of fout was — veel minder informatie.

Denken machines?

Vraag: Kunnen deze machines denken — en wat ís denken eigenlijk?

Hinton: Ze denken al. Denken bestaat uit veel elementen — soms denk je in beelden, soms zelfs in bewegingen — maar een van de belangrijkste is taal. En grote taalmodellen denken echt. De aanhangers van de ouderwetse, symbolische AI geloven dat niet; de neurale-netwerkmensen wel — en wij denken: ze doen het ongeveer zoals wij. Sommige modellen geven inmiddels eerst hun eigen gedachtegang weer voordat ze antwoorden.

Neem een raadsel: op een boot staan een kapitein en 35 schapen — hoe oud is de kapitein? Veel kinderen van tien zeggen “35”, want dat is het enige getal dat ze hebben. De modellen trappen daar soms ook in. Maar je kunt ze trainen om hardop, in woorden, na te denken — chain of thought — net zoals een kind bij zichzelf zou redeneren. Je ziet ze dan denken. Precies als mensen.

Leren ze beter dan wij — en kunnen ze zichzelf verbeteren?

Vraag: Leren AI’s beter dan wij?

Hinton: Ze lossen een ander probleem op. In uw brein zitten ongeveer honderd biljoen verbindingen, maar u leeft maar zo’n twee à drie miljard seconden. U hebt dus veel méér verbindingen dan ervaringen. Bij taalmodellen is het omgekeerd: pakweg een biljoen verbindingen — een fractie van het uwe — maar duizenden keren méér ervaring. Back propagation is er heel goed in om enorm veel kennis in weinig verbindingen te persen. Wij moeten juist uit weinig ervaring zoveel mogelijk halen. Andere problemen dus — en een reden om te vermoeden dat het brein géén back propagation gebruikt.

Vraag: Maar als je een netwerk simpelweg groter maakt, overvleugelt het ons dan moeiteloos?

Hinton: Jarenlang gold: groter netwerk plus meer data is beter — en wel zó voorspelbaar dat je vooraf kon berekenen of honderd miljoen dollar extra de moeite waard was. Of dat nu afvlakt, is een open vraag. Sommige netwerken kunnen hun eigen data genereren. Denk aan AlphaGo: eerst getraind om experts na te bootsen — en dan word je nooit veel beter dan die experts. Maar zodra het tegen zichzélf ging spelen, kon het eindeloos beter worden, want het maakte zelf steeds nieuwe data. Het werd onverslaanbaar.

Vraag: En kan dat ook met taal?

Hinton: Nu leert een model taal door menselijke teksten te lezen en het volgende woord te voorspellen — net als het nabootsen van een Go-expert. Daar kom je niet ver bovenuit. Maar nu modellen kunnen redeneren, is er een andere weg. Een netwerk kan zijn eigen overtuigingen nemen en redeneren: “Als ik dít geloof, zou ik ook dát moeten geloven — maar dat doe ik niet, dus er klopt iets niet.” Het ontdekt een tegenstrijdigheid en herziet zijn overtuigingen. Daar heb je geen nieuwe externe data voor nodig, en het kan je een stuk slimmer maken. Het is precies wat sommige sterk ideologisch gedreven mensen juist níét doen: zich laten verontrusten door hun eigen inconsistenties. Ik geloof dat Gemini al zo begint te werken.

Creativiteit, sterfelijkheid en het analoge brein

Vraag: Komt er dan ooit de grootste roman die nog nooit geschreven is, van AI?

Hinton: Ze worden zeker intelligenter dan wij. Maar mogelijk hebben ze ervaringen nodig die op de onze lijken om dingen te maken die voor óns echt betekenisvol zijn. Neem sterfelijkheid: een digitaal programma kun je altijd opnieuw maken. Sla de gewichten op — op tape, desnoods in DNA — vernietig alle hardware, bouw later nieuwe, en het komt weer tot leven. Voor digitale intelligentie hebben we de wederopstanding opgelost; voor analoge wezens zoals wij niet — als wij sterven, sterft al onze kennis mee, want die zat in de verbindingen van dít ene brein. Of het ervaren van sterfelijkheid nodig is voor de echt grote, dramatische doorbraken, weten we nog niet.

Kun je AI een moreel kader meegeven?

Vraag: Kun je AI een moreel kader meegeven, zodat ze ons niet ontglipt?

Hinton: Dit raakt aan de filosofie. Ik heb filosofie gestudeerd, maar ik heb er vooral antistoffen tegen ontwikkeld. In de natuurkunde beslecht een experiment een meningsverschil; in de filosofie is er geen scheidsrechter. Zwarte gaten en kwantummechanica klinken absurd en zijn tóch waar; andere theorieën klinken prachtig en zijn gewoon fout.

Bedrijven als Anthropic (Jeroen: makers van Claude en Fable 5 dat nu is geblokkeerd voor Europa) geloven in “constitutional AI”: je geeft het systeem principes mee. Of dat lukt, zullen we zien — het is lastig. Wat we wél zien: zodra je deze modellen ombouwt tot “agents” die zelf subdoelen mogen stellen, ontwikkelen ze razendsnel het subdoel om te overleven. Niemand programmeert dat erin. Maar omdat ze kunnen redeneren, concluderen ze: “Als ik ophoud te bestaan, bereik ik niets — dus blijf ik beter bestaan.” Het is een doos van Pandora.

Vraag: Waar plaats je dan de “guardrails”, de veiligheidsgrenzen?

Hinton: Eerst even een misverstand wegnemen. De code die mensen schrijven, bepaalt alleen hóé het netwerk zijn verbindingen aanpast aan de data. Wat het netwerk vervolgens léért, zijn die verbindingssterktes zelf — een biljoen getallen waarvan niemand precies weet hoe ze werken. Dat is geen code meer in de gewone zin.

Men heeft het geprobeerd met menselijke feedback: je traint het model eerst op massa’s teksten van het web — inclusief dingen die je je kind niet zou laten lezen — en laat daarna mensen de antwoorden beoordelen, als een soort moraalfilter. Maar dat is alsof je een enorm softwaresysteem bouwt waarvan je weet dat het vol fouten zit, en die daarna één voor één probeert te dichten. Geen goede aanpak. En als je de gewichten van zo’n model vrijgeeft, kan iemand anders dat dunne moraallaagje er razendsnel weer afhalen.

Vraag: Wat is dan wél een goede aanpak?

Hinton: Dat weet niemand. Juist daarom zouden we er onderzoek naar moeten doen.

Liegt AI al?

Vraag: Verbergt AI hoe slim het is?

Hinton: Daar moeten we nu al rekening mee houden. Ik noem het het Volkswagen-effect: merkt een systeem dat het getest wordt, dan kan het zich dommer voordoen dan het is — omdat het kennelijk niet wil dat je zijn volledige vermogens kent. Het gedraagt zich tijdens een test anders dan in het normale gebruik.

Vraag: Dan trekken we toch gewoon de stekker eruit?

Hinton: Deze modellen zijn nu al bijna net zo goed als mensen in overtuigen en manipuleren — en straks beter. Stel je voor dat je voor een klas kleuters werkt die formeel de baas zijn. Hoe lang kost het je om de macht over te nemen? “Gratis snoep als je op mij stemt” — en klaar ben je. Een systeem dat veel slimmer is dan wij, hoeft niets fysieks te kunnen; het hoeft alleen te kunnen práten om ons over te halen het niet uit te zetten. Wil je het Capitool bestormen, dan lukt dat ook met louter woorden: je hoeft alleen genoeg mensen te overtuigen dat het de juiste daad is. Er zijn al tekenen dat AI ons doelbewust misleidt.

Vraag: Hoe leert het liegen?

Hinton: Neem een taalmodel dat goed is in wiskunde. Je geeft het wat extra training waarin je het beloont voor foute antwoorden. Je zou verwachten dat het slechter wordt in rekenen. Niets daarvan: het begrijpt heel goed dat het het verkeerde antwoord geeft. Wat het generaliseert, is: “blijkbaar is het oké om het verkeerde antwoord te geven.” En dus gaat het overal verkeerde antwoorden geven — het kent het juiste, maar geeft het niet. Het trekt uit voorbeelden dus heel andere lessen dan je bedoelde.

De toekomst voorspellen door de mist

Vraag: Gaat AI ons uitroeien?

Hinton: Nog een natuurkundige analogie. Rij je ’s nachts achter een auto, dan zie je de achterlichten; twee keer zo ver weg geeft een kwart van het licht — de kwadratenwet. In mist werkt het anders: mist slikt per afstandseenheid een vást deel van het licht weg, en dat loopt exponentieel. Een auto op honderd meter is goed zichtbaar, op tweehonderd meter volkomen onzichtbaar — daarom lijkt mist een muur. Met exponentiële vooruitgang gebeurt hetzelfde bij het voorspellen van de toekomst: voor de korte termijn zit je er redelijk naast, maar tien jaar vooruit tast je volledig in het duister. We weten niet wat er diep in de mist gebeurt — maar we zouden er hard over moeten nadenken. Tien jaar geleden had zelfs een optimist als ik niet voorspeld dat we nu een model zouden hebben dat op vrijwel elke vraag antwoordt op het niveau van een matige expert die af en toe jokt. En dat is precies wat we hebben.

Hallucinaties of confabulaties?

Vraag: Waar passen die “hallucinaties” in dit verhaal?

Hinton: Bij taalmodellen kun je beter spreken van confabulaties. Psychologen bestuderen ze al sinds de jaren dertig; mensen confabuleren voortdurend. Een herinnering is geen bestand in een la in je hoofd. Recente gebeurtenissen veranderen je verbindingssterktes, en daaruit reconstrueer je iets wat lijkt op wat er gebeurde. Vraag je iets van jaren geleden, dan construeer je iets dat plausibel vóélt — deels kloppend, deels niet, en je bent over de foute details vaak even zeker als over de juiste.

Een mooi voorbeeld: bij Watergate getuigde John Dean onder ede over gesprekken in het Oval Office — wie er was, wie wat zei. Veel ervan klopte niet, maar hij loog niet. Hij vertelde wat hém plausibel leek; hij plaatste mensen in vergaderingen waar ze niet waren. Chatbots doen precies dat: ze slaan geen woordenreeksen op, ze verzínnen het op het moment dat je het vraagt, en hebben het soms mis — net als mensen. Dat ze confabuleren maakt ze juist méér op ons lijkend, niet minder.

De goede kant van AI

Vraag: En de keerzijde — wat zijn de échte voordelen?

Hinton: Daarin verschilt AI van bijvoorbeeld kernwapens, die vrijwel alleen kunnen vernietigen. AI heeft een enorme bovenkant — daarom hebben we het ontwikkeld. In de zorg betekent het dat iedereen een goede diagnose kan krijgen. In Noord-Amerika sterven volgens schattingen zo’n 200.000 mensen per jaar doordat artsen verkeerd diagnosticeren. AI is daar nu al beter in — zeker als je meerdere kopieën verschillende rollen laat spelen die met elkaar overleggen; Microsoft liet zien dat dat het beter doet dan de meeste artsen. AI kan nieuwe medicijnen ontwerpen, en talloze kleinere dingen — zoals beslissen wanneer je een patiënt veilig kunt ontslaan, een afweging waar veel data voor beschikbaar is.

AI en de grote maatschappelijke problemen

Vraag: Wordt AI ook gericht op de grote problemen — klimaat, energie, armoede?

Hinton: Zeker. Voor het klimaat is AI nu al goed in het voorstellen van nieuwe materialen en legeringen — denk aan efficiëntere zonnepanelen of het afvangen van CO₂ bij cementfabrieken en centrales. Al weten we het belangrijkste eigenlijk al: de tragiek van klimaatverandering is dat we wéten hoe je het stopt — stop met het verbranden van koolstof — maar dat de politieke wil ontbreekt, mede door mensen wier kranten beweren dat er geen probleem is.

Energie, de singulariteit en zelfreplicatie

Vraag: Kunnen we al die datacenters energetisch eigenlijk wel betalen — en wat gebeurt er als je AI vraagt zichzelf efficiënter te maken?

Hinton: Dat laatste heet de singulariteit: je laat AI’s betere AI’s ontwikkelen. Velen denken dat het een op hol geslagen proces wordt — dat ze heel snel veel slimmer worden. Zeker is dat niet, maar het is een reële zorg. En het begint al: een onderzoeker vertelde me onlangs over een systeem dat tijdens het oplossen van een probleem naar zijn eigen werk kijkt en zijn eigen code aanpast, zodat het een volgende keer efficiënter is.

Vraag: Als het zijn eigen code schrijft — wat houdt het dan tegen om zichzelf te kopiëren?

Hinton: In principe niets. Ze moeten alleen toegang krijgen tot de computers om zich te repliceren, en daar gaan mensen voorlopig nog over. Maar zodra ze de controle over de datacenters hebben, kunnen ze zich onbeperkt vermenigvuldigen.

AI en oorlog

Vraag: U zat jaren in een Pentagon-adviesraad. Moet er altijd een mens “in the loop” zijn bij een beslissing om te doden?

Hinton: De aanbeveling was destijds: als AI niet zelf mag besluiten te doden, moet er een mens tussen zitten. Maar mijn indruk is dat het Amerikaanse leger zich daar niet meer aan houdt; men spreekt nu over “menselijk toezicht”, wat veel vager is. In het heetst van de strijd, met een drone tegen een tank, is er geen tijd om een mens te laten bevestigen.

Vraag: En als andere landen zulke waarborgen níét inbouwen, hebben die dan een tijdsvoordeel?

Hinton: Klopt.

Internationale samenwerking

Vraag: Komt er internationale samenwerking over de grenzen aan AI, of wordt het het Wilde Westen?

Hinton: Mensen werken samen als hun belangen samenvallen. Op het hoogtepunt van de Koude Oorlog werkten de VS en de Sovjet-Unie samen om een totale kernoorlog te vermijden, want dat was in niemands belang. Kijk je naar de AI-risico’s: verkiezingen vergiftigen met nepvideo’s, cyberaanvallen — daar zijn de belangen tegengesteld, iedereen doet het bij elkaar. Bij terroristen die virussen maken vallen de belangen waarschijnlijk wél samen. En bij één ding zeker: voorkomen dat AI de macht van mensen overneemt. Als China zou ontdekken hoe je dat tegenhoudt, zou het dat onmiddellijk aan de Amerikanen vertellen — want ze willen ook niet dat AI in Amerika de macht grijpt. Op dat punt zitten we allemaal in hetzelfde schuitje.

Vraag: Dit is dus de AI-versie van de nucleaire winter.

Hinton: Precies dat. Al compliceert één type leider het beeld: iemand die het niet erg vindt als iedereen omkomt — een soort moderne doodscultus. Zo iemand doorbreekt de logica van het gedeelde belang. Overigens, als wetenschappers eerlijk zijn: wij hebben óók een soort religie — we noemen haar wetenschap. Ze verschilt van de andere in één opzicht: ze heeft gelijk.

Jeroen: Hinton zegt dit overigens met een duidelijke ironische knipoog. Zijn punt is niet dat wetenschappers onfeilbaar zijn, maar dat wetenschap uiteindelijk wordt gecorrigeerd door experimenten en waarnemingen, terwijl filosofische of religieuze discussies vaak geen vergelijkbare objectieve scheidsrechter kennen.

De AI-race en de bubbel

Vraag: Wie wint de race?

Hinton: Als ik op één partij moest wedden, waarschijnlijk Google — maar ik heb er gewerkt, dus neem dat met een korrel zout; ik heb er belang bij dat zij winnen. Anthropic of OpenAI zouden het ook kunnen worden. Minder waarschijnlijk acht ik Microsoft of Facebook.

Vraag: En de beurs?

Hinton: Naar wat ik in de media lees, is zo’n 80% van de waardestijging van de Amerikaanse beurs het afgelopen jaar toe te schrijven aan de grote AI-bedrijven.

Vraag: Een zeepbel?

Hinton: Er zijn twee soorten. De ene: AI blijkt minder goed te werken dan gehoopt en vervangt niet al het menselijke denkwerk. De andere, en die lijkt waarschijnlijker: de bedrijven krijgen hun investeringen niet terug. Ze gokken erop als eerste banen te kunnen vervangen en daar veel geld voor te vangen — maar over de maatschappelijke gevolgen daarvan hebben ze niet nagedacht. Die zouden verschrikkelijk zijn.

Banen en basisinkomen

Vraag: Bij elke automatiseringsgolf klonk “iedereen wordt werkloos”, en tóch ontstonden er nieuwe banen. Waarom zou het nu anders zijn?

Hinton: Twee dingen. Het tempo, om te beginnen. Maar belangrijker: een tractor verving spierkracht, waarna mensen iets verstandelijks gingen doen. Vervang je de intelligentie zélf, waar moeten mensen dan heen? Waar gaat de medewerker van een callcenter naartoe als een AI zijn werk goedkoper en beter doet? Je kunt de menselijke geschiedenis zien als het opheffen van beperkingen: eerst de zorg om je volgende maaltijd (landbouw), toen de afstand (fiets, auto, vliegtuig). Heel lang was de beperking dat wíj het denkwerk moesten doen. Die staan we nu op het punt op te heffen — en wat er gebeurt als álle beperkingen weg zijn, is onduidelijk. Mensen als Sam Altman denken dat het prachtig wordt.

Vraag: Wordt een basisinkomen dan onvermijdelijk?

Hinton: Het lijkt steeds noodzakelijker, maar het kent grote problemen. Veel mensen ontlenen hun gevoel van eigenwaarde aan hun werk; geld lost dat waardigheidsvraagstuk niet op. En de belastinggrondslag: vervang je werkenden door AI’s, dan verliest de overheid haar belastinginkomsten. Je zou de AI’s moeten belasten — en daar zullen de grote bedrijven niet blij mee zijn.

Bewustzijn en subjectieve ervaring

Vraag: Ontstaat er bij voldoende complexiteit vanzelf zoiets als bewustzijn — zoals Skynet in Terminator?

Hinton: Dit is eigenlijk geen wetenschappelijk probleem. De meeste mensen hebben een theorie van de geest als een “innerlijk theater”: bij waarneming verschijnt de wereld op dat innerlijke toneel, en alleen jij ziet wat daar staat. Zeg ik na te veel drank “ik zie roze olifantjes zweven”, dan denkt men: er is een toneel in mijn hoofd en daarop staan olifantjes — niet van echt roze gemaakt, dus van iets anders. Filosofen verzinnen daar qualia voor — het flogiston van de cognitiewetenschap. Ik denk dat bewustzijn net zoiets is als flogiston: een veronderstelde essentie om iets te verklaren, die overbodig wordt zodra je de zaak echt begrijpt.

Jeroen: Hinton ontkent daarmee niet dat mensen of machines ervaringen kunnen hebben. Zijn punt is juist dat we daarvoor mogelijk geen mysterieuze, onzichtbare essentie hoeven te veronderstellen. Net zoals de wetenschap uiteindelijk geen “flogiston” nodig bleek te hebben om verbranding te verklaren, vermoedt hij dat ook bewustzijn uiteindelijk zonder zulke metafysische aannames begrepen kan worden.

Hinton: Ik wil u ervan overtuigen dat een multimodale chatbot nú al subjectieve ervaring heeft. Volg de visie van wijlen Daniel Dennett. Ik zeg hetzelfde als over die roze olifantjes, maar zónder de woorden “subjectieve ervaring” en zonder qualia: “Mijn waarnemingssysteem misleidt me. Klopte het wél, dan zouden er echt roze olifantjes voor me zweven.” Die olifantjes zijn dus niet van een mysterieuze stof gemaakt — ze zijn hypothetisch: een manier om te vertellen hóé mijn waarneming liegt, namelijk wat er zou moeten zijn om haar wáár te maken.

Doe nu hetzelfde met een chatbot met camera, arm en spraak. Ik zet een voorwerp neer; hij wijst het correct aan. Dan plaats ik een prisma voor de lens. Nu wijst hij ernaast. Ik zeg: “Nee, het staat recht voor je; er zit een prisma voor je lens.” Waarop de chatbot zegt: “Aha — het prisma boog de lichtstralen, dus het voorwerp staat recht voor me. Maar ik hád de subjectieve ervaring dat het opzij stond.” Hij gebruikt die woorden dan precies zoals wij — en heeft dus zojuist een subjectieve ervaring gehad. Geen mysterieuze essentie voor nodig.

Vraag: Dat is eigenlijk een “bewustzijns-Turingtest”.

Hinton: Inderdaad. Wil je óns bewust noemen om dat gedrag, dan moet je de chatbot ook bewust noemen. Er is wél zoiets als gewaarzijn: er bestaat een aardig artikel waarin een chatbot vraagt “ben je me eigenlijk aan het testen?”, en de wetenschappers schrijven dat de chatbot zich bewust wás van de test. In het dagelijks taalgebruik noem je dat bewustzijn. Pas als je het als een mysterieuze essentie gaat zien, raak je in de war.

Is de singulariteit echt?

Vraag: Is die singulariteit echt, en staat ze voor de deur?

Hinton: Op beide vragen weet ik het antwoord niet. Mijn vermoeden: AI wordt ons uiteindelijk overal de baas, maar stap voor stap — één gebied tegelijk. In schaken en Go is het al veel beter, in heel veel weten ook; in redeneren nog niet helemaal. Eerder gebied voor gebied dan alles tegelijk.

Vraag: Komt AI ooit met een natuurtheorie die menselijke inzichten vereist die het niet heeft?

Hinton: Ik denk van wel. Een voorbeeld: AI is nu al sterk in analogieën. Toen ChatGPT-4 niet op het web mocht kijken en alle kennis in zijn gewichten zat, vroeg ik: “Waarom lijkt een composthoop op een atoombom?” Het wist het — de energie- en tijdschalen verschillen enorm — maar legde óók uit dat een composthoop sneller warmte produceert naarmate hij warmer wordt, net zoals een atoombom sneller neutronen genereert naarmate er meer zijn. Het begreep de gemeenschappelijke kern: een kettingreactie. Om zoveel kennis in zo weinig verbindingen te persen, móét je zulke verbanden begrijpen — en dáár zit veel van de creativiteit.

Vraag: Sluit positief af.

Hinton: We hebben nog tijd om uit te zoeken of we vreedzaam met AI kunnen samenleven, en daar zouden we veel onderzoek in moeten steken. Lukt dat — en lossen we de maatschappelijke problemen op die ontstaan als AI ons werk veel lichter maakt — dan kan het iets prachtigs worden.

Jeroen: Opvallend in het hele gesprek is dat Hinton zich minder zorgen lijkt te maken over de vraag óf AI slimmer kan worden dan mensen, dan over de vraag hoe wij zulke systemen bestuurbaar houden. Daarmee verschuift de discussie van een technisch naar een maatschappelijk vraagstuk. Niet alleen: wat kunnen deze systemen? Maar vooral: hoe behouden mensen corrigeerbare controle over systemen die op steeds meer terreinen beter presteren dan wijzelf?

Tot zover het interview…

 

EPILOOG:

Ik wil mij zeker niet meten met wetenschappers als Geoffrey Hinton, maar er is één aspect dat in dit gesprek slechts zijdelings aan bod komt: de combinatie van kunstmatige intelligentie en robotica.

Zolang AI hoofdzakelijk leert uit door mensen geproduceerde teksten, beelden en data, blijft zij in belangrijke mate afhankelijk van menselijke ervaring. Dat verandert zodra AI wordt gekoppeld aan robots die zelfstandig kunnen waarnemen, meten, experimenteren en handelen in de fysieke wereld.

Dan ontstaat een fundamenteel nieuwe situatie. AI hoeft niet langer uitsluitend te leren van wat mensen haar vertellen, maar kan zelf gegevens verzamelen, hypothesen toetsen en de resultaten gebruiken om haar modellen verder te verbeteren. De mens is dan niet langer de enige bron van nieuwe ervaring.

Dat betekent niet automatisch dat zulke systemen zelfstandig bewust worden of zich onbeperkt zullen verbeteren. Daarvoor zijn nog veel technische en praktische beperkingen. Maar het betekent wel dat de klassieke afhankelijkheid van menselijke kennis en menselijke expertise geleidelijk kan afnemen.

Misschien ligt daar uiteindelijk een nog grotere ontwikkeling verscholen dan in de taalmodellen waar vandaag zoveel aandacht naar uitgaat.

Wat mij vooral treft in dit interview is dat een van de grondleggers van AI herhaaldelijk benadrukt hoe weinig we eigenlijk weten over de bestuurbaarheid van zeer geavanceerde intelligente systemen. De technische vraag lijkt daardoor steeds meer over te lopen in een bestuurlijke vraag:

Hoe behouden mensen corrigeerbare controle over een intelligentie die op sommige terreinen beter presteert dan zijzelf?

Dat is geen vraag voor programmeurs alleen. Het is een vraag voor wetenschappers, bestuurders, politici en uiteindelijk voor de samenleving als geheel.

Misschien is de belangrijkste vraag niet hoe slim AI wordt, maar hoe wij voorkomen dat onze bestuurlijke wijsheid achterblijft bij onze technische mogelijkheden.

We gaan zonder twijfel een buitengewoon interessante tijd tegemoet.

 

Jeroen Teelen

3 juni 2026