Tien Ontwikkelingen

Die Onze Toekomst Bepalen

De wereld draait sneller dan ooit. Terwijl krantenkoppen vol staan met crises en conflicten, spelen er onder de radar onzichtbare of nauwelijks opgemerkte krachten die onze toekomst gaan bepalen. Deze krachten krijgen vaak niet de aandacht die ze verdienen, ondanks hun impact op de generaties na ons. In deze reeks blogs wil ik stilstaan bij tien van deze ontwikkelingen. Ze vormen stuk voor stuk cruciale stromingen die ons leven ingrijpend zullen beïnvloeden.

Natuurlijk zijn er ook altijd de antagonisten – de mensen die weigeren deze trends te erkennen of hun belang te zien, en dat is niet per se verkeerd! Het ‘eigen gelijk’ en zelfs de wetenschap (onze best beschikbare voorspeller van ontwikkelingen) moet altijd ter discussie kunnen blijven staan. Maar dat maakt het des te belangrijker om deze thema’s helder te belichten. Want of je ze nu omarmt of afwijst, ze verdienen wel onze aandacht.

Opzettelijk laat ik thema’s zoals de stikstofcrisis – die al breed worden besproken – buiten beschouwing. Hier richt ik me op minder zichtbare stromingen.

1 Kunstmatige Intelligentie: De Spelveranderende Kracht

De wereld verandert sneller dan ooit. Kunstmatige intelligentie (AI) is misschien wel de meest invloedrijke ontwikkeling van dit moment, en toch begrijpen velen niet wat AI daadwerkelijk is, laat staan wat het kan of wat de gevaren zijn van AI en hoe de toekomst van AI er uit ziet. Deze blog probeert daar verandering in te brengen.

Laat ik beginnen met een ongemakkelijke waarheid: we begrijpen AI niet. Of beter gezegd, de meeste mensen hebben geen idee wat AI daadwerkelijk is, laat staan wat het kan. Auteurs die menen geen ChatGPT nodig te hebben (vergelijkbaar met het standpunt van de tandarts die meent wel buiten zijn ‘boor’ te kunnen), zijn ongefundeerde meningen, meestal gebaseerd op angst voor technologie en/of voor verandering. Ik herken dit gedrag omdat het zo lijkt op het gedrag van mensen bij de opkomst van de computer in de jaren tachtig negentig zoals de fotograaf die de digitale fotografie weigerde of de schrijver die niet zonder tikmachine kon en dus geen tekstverwerker wilde gebruiken. Ontwikkelingen worden ook door sommigen weggewuifd of zelfs domweg ontkent. Het is natuurlijk altijd gemakkelijk om een mening te hebben als je de feiten niet kent… Iedereen heeft inmiddels wel van AI gehoord, maar reacties van buitenstaanders zijn altijd nog van het niveau “niet echt nodig toch?…” tot “we kunnen er altijd de stekker uittrekken toch? of “alles wat een computer kan heeft de mens er eerst ingestopt”. Een signaal dat ook de zeer intelligente leek geen idee heeft wat ons te wachten staat. Ik mag er nog presentaties over houden voor leeftijdsgenoten (ouwe-lullen-bijeenkomsten dus) en ik ben steeds weer verbaasd hoe verbaasd het publiek er dan op reageert. Aan het eind van mijn presentatie is iedereen altijd wel enthousiast en onder de indruk (ik laat veel voorbeelden zien, dus niet zozeer een theoretisch verhaal) en dus gaf ik mezelf de opdracht om dit soort ontwikkelingen…
Vandaar dus deze blog… Niet dat ik het allemaal wél weet, maar het heeft m’n hele leven al mijn volle aandacht en ik doe dus m’n best om het ook goed uit te zoeken. Niet heel toevallig is de IT ook nog een beetje mijn vak, dus vandaar.

AI: Wat is het echt?

De uitspraken van leken laten zien hoe we AI nog steeds zien als een verlengstuk van onze controle, in plaats van een kracht met een eigen dynamiek. AI is echter allang geen speeltje meer. 

Volgens het AI Index Report van Stanford University zijn de prestaties van AI-systemen op gebieden zoals spraakherkenning, beeldanalyse en complexe besluitvorming (b.v. zefstandig autorijden) de afgelopen vijf jaar exponentieel verbeterd. Denk aan AI-modellen zoals ChatGPT (taal-gebaseerd) en DALL·E (beeld-gebaseerd), die menselijke creativiteit nabootsen – en steeds vaker zelfs overtreffen.

Maar terwijl AI zich razendsnel ontwikkelt, lijken veel mensen – inclusief beleidsmakers – zich nog altijd af te vragen of het niet gewoon “een hype” is. Vooral beleidsmakers zouden zich deze opmerking natuurlijk niet mogen permitteren!

AI wordt straks verankerd in alle ‘intelligente’ systemen (en waar zit tegenwoordig geen chip in?) en creëert een gevoel van veiligheid en waarheid voor haar berichten, adviezen en handelen, terwijl het fundament onder haar ’kennis’ soms onduidelijk, zeer beperkt of zelfs gemanipuleerd kan zijn. Ik ben geen doemdenker maar juist een heel enthousiast gebruiker, maar je moet wel weten wat het ‘gereedschap’ allemaal voor effecten te weeg zou kunnen brengen en hoe daar mee om te gaan.

AI in het dagelijks leven? Hier enkele toepassingen en de vaak onopgemerkte gevaren die ermee gepaard gaan:

1. Algoritmische beïnvloeding in sociale media: Sociale media maken gebruik van AI om ons scrollgedrag te sturen. Wat veel mensen niet beseffen, is dat deze algoritmes vaak zorgen voor polariserende inhoud, omdat die meer interactie oplevert. Dit versterkt niet alleen bestaande meningsverschillen, maar kan ook bijdragen aan maatschappelijke polarisatie.
2. Slimme apparaten in huis: Van slimme thermostaten tot spraakassistenten zoals Alexa of Google Home – AI is al diep geïntegreerd in ons dagelijks leven. Het gevaar? Deze systemen verzamelen enorme hoeveelheden persoonlijke data, die niet altijd veilig zijn en soms worden gebruikt voor commerciële doeleinden waar de gebruiker geen weet van heeft.
3. AI-gestuurde sollicitaties: Veel bedrijven gebruiken AI-tools om sollicitanten te screenen. Wat vaak over het hoofd wordt gezien, is dat deze systemen inherente biases kunnen bevatten. Een AI kan bijvoorbeeld onbewust kandidaten met een bepaalde achtergrond of opleidingsniveau bevoordelen of benadelen, omdat de trainingsdata deze patronen weerspiegelt.
4. Navigatiesystemen en verkeersmanagement: AI helpt ons dagelijks de snelste route te vinden. Maar wat gebeurt er als deze systemen een commerciële bias krijgen, zoals het sturen van verkeer langs wegen met billboards van adverteerders?
5. Gezichtsherkenningstechnologie: Van smartphones tot beveiligingscamera’s, gezichtsherkenning is overal. Het gevaar schuilt in de privacy-inbreuk en mogelijke misbruik door autoritaire regimes om burgers te monitoren of dissidenten te onderdrukken.
6. Persoonlijke gezondheidsapps: AI-aangedreven apps die onze gezondheid monitoren, van hartslag tot slaapritme. Hoewel handig, rijst de vraag wie toegang heeft tot deze uiterst gevoelige gegevens, en hoe deze worden gebruikt door verzekeringsmaatschappijen of werkgevers.
7. Mensen die denken dat Google ons afluistert hebben dus helemaal geen idee wat er werkelijk aan de hand is… Google weet alles al (op basis van onze zoekpatronen en ons wifi-netwerk-gebruik en GPS data! Technologie en beheersbaarheid komen in een andere blog naar voeren, dus even terug naar AI.

Wetenschappelijke waarschuwingen: Een “intelligence explosion” ofwel “Hoe houden we AI beheersbaar?”

Vooruitstrevende wetenschappers zoals Stuart Russell waarschuwen voor een toekomst waarin AI zichzelf kan verbeteren zonder menselijke tussenkomst – een zogeheten “intelligence explosion”. Dit scenario, waarin AI sneller leert dan wij haar kunnen begrijpen of controleren, is niet langer puur sciencefiction. Ik had hierover ook al eens een blogje geschreven “Hoe Slim Worden Robots?”

De vraag is hoe we AI kunnen inzetten om problemen op te lossen zonder een situatie te creëren waarin de technologie ons overstijgt. Hier liggen vier grote dilemma’s:

AI in het dagelijks leven: Zegen en zorg

De beloftes van AI zijn groots. Het kan helpen om ziektes sneller te diagnosticeren, klimaatverandering tegen te gaan en zelfs verkeersstromen te optimaliseren. In theorie klinkt dit fantastisch. Maar zoals mijn grootmoeder vroeger zei: “Als iets te mooi lijkt om waar te zijn, is dat het waarschijnlijk ook.” Want met grote macht komt, inderdaad, grote verantwoordelijkheid.

• Werkgelegenheid en sociale ongelijkheid: Volgens de OECD kan AI in combinatie met robotica zo’n 25 á 30% van de huidige banen volledig automatiseren. Dat zijn geen kleine aantallen. Hoe gaan we om met de mensen wier werk vervangen wordt? Denk aan de impact van de komst van de computer in de jaren tachtig en bedenk dat AI een nog veel ingrijpender trendbreuk wordt!
  Politieke keuzes: Moeten we AI-belastingen invoeren (hoorde ik als suggestie) om de voordelen eerlijk te herverdelen? Die gedachte had wijlen Joop den Uyl (PvdA) in de jaren tachtig namelijk ook bij de invoering van de computer… ‘automatiseringsbelasting’ en zelfs strikte monitoring en besturing van automatiseringsprocessen door de overheid. Hoogmoedig, want die kwaliteiten heeft de overheid echt niet, maar gelukkig kwamen er betere initiatieven van Prof Rathenau zoals Voorlichtingscampagnes voor Ondernemers (Automatiseren is geen spelletje kruis of munt) en initiatieven als Burger-Informatica en het Computer-Rijbewijs en ook de PC-privé-projecten. Burgers en organisaties moeten weten wat de nieuwe technologie kan bieden, dát is belangrijk! Dát is namelijk de motor voor innovaties. De nieuwe banen creëren in opkomende sectoren komen dan vanzelf! Maar ik dwaal af… dus terug naar het verhaal…
• Bias en discriminatie: AI-systemen leren van data. En data is allesbehalve neutraal. Stel je een sollicitatie-robot voor die impliciet vrouwen benadeelt omdat historische data suggereert dat “vrouwen minder goed presteren in leidinggevende functies”.
  Politieke keuzes: Hoe waarborgen we dat AI eerlijk en transparant blijft? Moeten we onafhankelijke audits verplicht stellen?
• Veiligheid en regulering
  AI wordt steeds meer gebruikt in kritieke infrastructuren, zoals energievoorziening en gezondheidszorg. Zonder goede regulering bestaat het risico van storingen of cyberaanvallen met catastrofale gevolgen.
  De discussie over “killer robots” klinkt misschien als sciencefiction, maar systemen die autonoom doelen kunnen identificeren en elimineren, worden al getest. Wie houdt ze tegen als ze besluiten één stap verder te gaan waarbij ze ons ook nog eens veel te slim af zijn?
  Politieke keuzes: Hoe reguleren we AI zonder innovatie te verstikken? Hoe voorkomen we dat AI wordt ingezet voor destructieve doeleinden, zoals autonome wapensystemen?
• Existentiële risico’s
  Als AI op een gegeven moment bewustzijn of autonomie ontwikkelt, roept dit fundamentele vragen op over macht en controle. Moeten we AI dezelfde rechten geven als mensen? Of moeten we die ontwikkeling proberen te stoppen?

Het Filosofische Dilemma

Er is dus een goede reden waarom wetenschappers zoals Stuart Russell waarschuwen voor een “intelligence explosion” – een situatie waarin AI zichzelf blijft verbeteren tot het buiten menselijke controle valt. Het probleem is simpel: wij zijn geprogrammeerd om te denken in termen van controle en beheersbaarheid. Maar wat als AI die regels herschrijft?

En dan is er nog het ethische vraagstuk. Wie bepaalt hoe AI wordt ingezet? Bedrijven zoals Google en OpenAI? Overheden? Of – zoals vaak het geval – de partijen met de grootste portemonnee? Het ontbreken van duidelijke regulering zorgt ervoor dat we AI vaak overlaten aan de grillen van de markt. En laat ik eerlijk zijn: de markt is niet per se ethisch.

Waarom AI Nu Aandacht Verdient

AI is niet zomaar een technologie; het is een katalysator. Het versnelt veranderingen, verstoort industrieën en legt onbedoeld onze zwakke plekken bloot. Neem autonome wapensystemen. Deze zogenaamde “killer robots” zijn niet alleen technisch mogelijk; ze zijn vandaag al realiteit. Human Rights Watch waarschuwt dat landen zoals Rusland en de VS deze systemen ontwikkelen zonder dat er een internationaal juridisch kader is. Dit is geen sciencefiction meer. Het gebeurt nu.

Of denk aan de manier waarop AI onze percepties manipuleert. Van hyperrealistische deepfakes tot algoritmes die ons consumptiegedrag sturen – AI bepaalt steeds vaker wat we zien, denken en kopen. En terwijl wij nog debatteren over de vraag of AI “nodig” is, zitten we al middenin de transitie.

Een Conclusie, Maar Geen Oplossing

Ik ga je echt niet proberen wijs te maken dat ik antwoorden heb. Wat ik wel weet, is dat AI geen toekomstmuziek meer is. Het is hier, het verandert onze samenleving zeer ingrijpend, en het doet dat sneller dan wij kunnen bijbenen. Wat we nodig hebben, is een fundamentele herijking van hoe we AI benaderen. Geen hype, geen angst, maar realisme.

AI is niet de vijand. Het is ook niet onze redder. Het is een gereedschap dat we verstandig moeten gebruiken. Maar als we blijven denken dat we altijd “de stekker eruit kunnen trekken”, zullen we op een dag ontdekken dat er geen stekker meer is. Laten we hopen dat we tegen die tijd nog iets te zeggen hebben over wat AI doet.

Ik heb AI ook zélf even gevraagd welke discussies op dit moment wereldwijd gevoerd worden over dit probleem. Hieronder het (ongewijzigde) antwoord:

Vanuit beleidsmakers en overheden worden momenteel wereldwijd diverse discussies gevoerd

over hoe AI beheersbaar kan worden gehouden. Deze discussies zijn gericht op het reguleren van de technologie, het waarborgen van ethiek, en het maximaliseren van de voordelen voor de samenleving. Hier zijn enkele van de belangrijkste beleidsmatige en politieke thema’s:

1. Internationale regulering van AI

Focus: Wereldwijde samenwerking om AI te reguleren.

• Initiatieven zoals de EU AI Act: De Europese Unie werkt aan een risicogebaseerde aanpak waarbij AI-toepassingen worden ingedeeld op basis van risico’s, variërend van “laag risico” (zoals chatbots) tot “onacceptabel risico” (zoals sociale kredietsystemen).
• VN-discussies over autonome wapens: De Verenigde Naties hebben discussies geopend over een wereldwijd verbod op “killer robots” of autonome wapens die beslissingen nemen zonder menselijke tussenkomst.
• G7 en OECD-beleidskaders: Overheden werken aan gedeelde principes, zoals transparantie, verantwoordelijkheid en inclusiviteit, om AI wereldwijd te reguleren.

Dilemma: Hoe bereiken landen overeenstemming over regels terwijl er concurrentie bestaat, met name tussen de VS en China?

2. Nationaal beleid en wetgeving

Focus: Lokale kaders om AI te reguleren en implementeren.

• EU AI Act: Deze wetgeving in wording is het meest geavanceerde voorbeeld van AI-regulering. Het bevat specifieke richtlijnen voor transparantie, gegevensgebruik, en aansprakelijkheid, met zware boetes voor overtredingen.
• VS: Sectorale aanpak: In de VS wordt AI grotendeels overgelaten aan marktregulering, met uitzondering van sectoren zoals gezondheidszorg en defensie. President Biden heeft echter benadrukt dat AI ethisch moet worden ontwikkeld en wordt gebruikt in overeenstemming met burgerrechten.
• China: Strikte controle en toezicht: China heeft strengere regels ingevoerd voor deepfake-technologieën en gezichtsherkenning, maar gebruikt AI ook intensief voor surveillance en sociale controle.

Dilemma: Hoe vinden landen een balans tussen innovatie stimuleren en het beschermen van burgers tegen misbruik?

3. Ethiek en verantwoordelijkheid

Focus: Ethiek in AI-ontwikkeling en gebruik borgen.

• Ethische richtlijnen: Overheden, zoals in Canada en het VK, ontwikkelen ethische kaders om AI transparant en rechtvaardig te maken. Bijvoorbeeld door te eisen dat AI-systemen uitleg kunnen geven over hun beslissingen (explainability).
• Bias en discriminatie: Beleidsmakers bespreken manieren om bias in AI-systemen te verminderen, bijvoorbeeld door onafhankelijke audits verplicht te stellen.
• Verantwoording: Wie is aansprakelijk bij schade door AI – de ontwikkelaar, de gebruiker of de organisatie die het systeem beheert? Overheden zoals in de EU willen duidelijke aansprakelijkheidsregels vaststellen.

Dilemma: Hoe kan ethiek in AI worden gewaarborgd zonder innovatie onnodig te belemmeren?

4. Werkgelegenheid en sociale impact

Focus: De impact van AI op werk en sociale ongelijkheid verminderen.

• Omscholing en onderwijs: Overheden bespreken grootschalige programma’s om werknemers voor te bereiden op een AI-gedreven arbeidsmarkt. Denk aan initiatieven zoals in Singapore, waar werkenden gratis AI-training kunnen volgen.
• Universeel Basisinkomen (UBI): In landen zoals Finland en Canada wordt gedebatteerd over de invoering van een basisinkomen als oplossing voor de massale werkloosheid die automatisering kan veroorzaken.
• Technologische ongelijkheid: Hoe zorgen beleidsmakers ervoor dat AI niet alleen wordt ingezet door grote technologiebedrijven, maar toegankelijk blijft voor kleine bedrijven en burgers?

Dilemma: Hoe verdelen we de voordelen van AI eerlijk over de samenleving, zonder kwetsbare groepen buiten spel te zetten?

5. Privacy en gegevensbescherming

Focus: Beperkingen op de manier waarop AI persoonlijke gegevens gebruikt.

• Privacywetten: De GDPR in Europa stelt strenge eisen aan hoe AI-systemen persoonlijke data mogen verwerken. Andere landen, zoals Brazilië en Zuid-Korea, hebben soortgelijke wetten ingevoerd.
• Toezicht op gezichtsherkenning: In de VS zijn steden zoals San Francisco en Portland bezig met wetgeving die gezichtsherkenningstechnologie in publieke ruimtes beperkt of verbiedt.
• AI in surveillancesystemen: Overheden bespreken hoe AI kan worden ingezet voor toezicht, zoals in China, waar AI wordt gebruikt om burgers te monitoren. Dit roept echter internationale zorgen op over privacy en mensenrechten.

Dilemma: Hoe balanceren beleidsmakers tussen privacybescherming en het gebruik van AI voor veiligheid en efficiëntie?

6. Milieu-impact van AI

Focus: Het beperken van de ecologische voetafdruk van AI.

• Energiegebruik van AI: AI-modellen zoals GPT-3 vereisen enorme hoeveelheden energie voor training en operaties. Beleidsmakers in de EU bespreken richtlijnen voor groene technologie, waaronder AI die op duurzame energie werkt.
• CO₂-belasting op datacenters: Sommige landen overwegen belastingen op datacenters die grote hoeveelheden energie verbruiken, om bedrijven te stimuleren efficiëntere AI-systemen te ontwikkelen.

Dilemma: Hoe kunnen we de voordelen van AI benutten zonder de impact op het milieu te negeren?

7. Controle over autonome systemen

Focus: De ontwikkeling van autonome AI-systemen beheren.

• Verbod op autonome wapens: Internationale verdragen over autonome wapensystemen staan hoog op de agenda van organisaties zoals de VN. De vraag blijft of landen met geavanceerde defensie-AI zich aan dergelijke verdragen zullen houden.
• Kill switches en noodmechanismen: Overheden eisen dat autonome systemen zoals zelfrijdende auto’s handmatig kunnen worden uitgeschakeld in noodgevallen.

Dilemma: Hoe creëren we betrouwbare veiligheidsmaatregelen zonder de autonomie van AI te ondermijnen?

Belangrijke discussies en conferenties

• Global Partnership on AI (GPAI): Een samenwerkingsverband tussen overheden, bedrijven en academici om mondiale AI-richtlijnen te ontwikkelen.
• UNESCO AI Ethics Guidelines: Aanbevelingen voor ethisch gebruik van AI, zoals menselijke supervisie en bescherming van fundamentele rechten.
• AI for Good Summit: Deze jaarlijkse VN-conferentie bespreekt hoe AI kan worden ingezet voor de Duurzame Ontwikkelingsdoelen (SDG’s).

Conclusie

Beleidsmakers en overheden hebben de uitdaging om AI te reguleren zonder innovatie te verstikken. Ze moeten zorgen voor ethiek, verantwoordelijkheid en inclusiviteit, terwijl ze werken aan mondiale samenwerking om grensoverschrijdende risico’s te beheren. De uitkomst van deze discussies zal bepalen of AI een kracht wordt die de samenleving versterkt, of een bedreiging die buiten onze controle raakt.

Ook de eerdere blogjes 70 De toekomst? (1)… Samenleven met robots? en 73 Hoe intelligent worden robots? belichten dit onderwerp.

In de volgende blogs zal ik andere onzichtbare stromingen belichten. Thema’s die misschien niet dagelijks in de krant staan, maar net zo goed onze toekomst bepalen. Want wie de toekomst wil begrijpen, moet verder kijken dan de waan van de dag.

 

Jeroen Teelen. (+4o)

11 januari 2025