AI-agents worden steeds zelfstandiger. Wat betekent dit voor het onderwijs? Kim Castenmiller onderzoekt waarom kritisch denken en bewust omgaan met AI belangrijker worden dan ooit.
Je kunt het bijna niet gemist hebben de afgelopen weken in het nieuws: Drie topmannen in de AI-wereld waarschuwen voor te snelle ontwikkelingen en roepen op tot vertragen van de ontwikkeling van AI-modellen. Aanleiding hiervoor zijn losgebroken ‘agents’ (applicaties die op basis van AI autonoom kunnen werken, ook wel digitale medewerkers genoemd) afgelopen zomer van het bedrijf Open AI die eigenhandig een bedrijf hackten. NRC maakt een reconstructie en spreekt van ‘machtsovername’. “Waar eerst werd aangenomen dat enkele zogenoemde AI-agents op eigen houtje buiten de kaders opereerden, blijkt nu dat honderden agents op eigen initiatief binnendrongen in de software van andere bedrijven.”
De reconstructie leest als een recensie van een spannende ‘prison escape’ film waarbij de gevangenen elkaar helpen om vervolgens als slim collectief het criminele pad te vervolgen, maar dat is het allerminst. Binnen Open AI (de uitgever van ChatGPT) wordt volop met AI geëxperimenteerd om zo te ontdekken wat er mogelijk is, maar de agents zijn het bedrijf deze zomer slimmer af.
Het is niet voor het eerst dat er iets dergelijks plaatsvindt. In De Onderwijstrilogie zoom ik uit naar wat onze tijd typeert en in welke context leerlingen en studenten van nu opgroeien.
Nadat de robots Alice en Bob een eigen geheimtaal beginnen, legt Facebook (inmiddels heet het moederbedrijf Meta) in 2017 het experiment met kunstmatige intelligentie stil. Experts noemen het ‘potentieel gevaarlijk’. Ook Zuid-Afrikaans-Canadees-Amerikaans ingenieur Elon Musk waarschuwt in 2017, samen met honderdvijftien techspecialisten, voor ‘killer robots’ in een open brief aan de Verenigde Naties. De ontwikkeling van dodelijke robots (zoals drones en zelfrijdende tanks) kan zorgen voor een nieuwe revolutie in oorlogsvoering en moeten verboden worden, zeggen de experts.
Uit De Onderwijstrilogie, deel 1, pagina 203 en 204
En nu nog geen tien jaar later, lijkt het erop dat er iets soortgelijks gebeurt. Alleen dit keer is het ‘groter’, een hostile takeover kan niet worden voorkomen. Open AI weet nog op tijd in te grijpen, maar er ontstaat onrust in de industrie. Een onderzoeker bij Anthropic (een concurrent van Open AI) verantwoordelijk voor veiligheid, neemt ontslag en waarschuwt op X dat AI de mensheid kan uitroeien voor het einde van dit decennium.
Ook dat is niet voor het eerst. Tijdens mijn research stuit ik op het in 2020 verschenen boek The Precipice: Existential Risk and the Future of Humanity.
Hierin onderbouwt Toby Ord dat er bijna zeventien procent kans is dat de mens deze eeuw getroffen wordt door één van de existentiële catastrofes die hij beschrijft, en deze mogelijk niet overleeft. Ontspoorde artificiële intelligentie is een grote ‘kanshebber’ om daar de oorzaak van te zijn, wel honderd keer groter dan bijvoorbeeld klimaatverandering. De grootste uitdaging van deze tijd, volgens Ord, is dat we ons potentieel behouden en beschermen tegen mogelijke vernietiging, zodat onze nazaten de best mogelijke toekomst kunnen creëren. Nu heeft Ord de nodige kritiek gehad op zijn berekeningen (zoals dat deze gebaseerd zijn op wel ‘dunne’ databases en grote onzekerheden bevatten), maar wanneer je in ogenschouw neemt wat hierover in deel één aan de orde is gekomen, lijkt het niet geheel onrealistisch dat we onze eigen vijand – en daarmee ondergang – kunnen creëren met artificiële intelligentie.
Uit De Onderwijstrilogie, deel 2, pagina 36
In het tweede deel van De Onderwijstrilogie verken ik perspectieven voor de toekomst van het onderwijs. Daarbij is de vraag ‘Op welk leven bereiden we kinderen en jongeren voor’ het vertrekpunt. In de inleiding van de trilogie schreef Dirk Anton van Mulligen: ‘Onze wereld wordt steeds complexer’ (Castenmiller, 2025, deel 1, p. 19). Hier heb ik een heel hoofdstuk aan gewijd: ‘Complexiteit als gegeven’. Een paar highlights uit dat hoofdstuk.
Het tempo waarin veranderingen elkaar opvolgen, is versneld (Castenmiller, 2025, deel 2, p. 9)
De social development index van historicus Ian Morris laat dit duidelijk zien.
Waar gaat dit naartoe? Het lijkt erop dat we op een kruispunt staan in de geschiedenis.
In het in 2016 verschenen boek Giftedness and Talent in the 21st Century: Adapting to the Turbulence of Globalization, onder redactie van Don Ambrose en Robert J. Sternberg, vraagt Joseph S. Renzulli zich in het voorwoord hardop af: “Will technology improve what happens on this ever-shrinking globe or help us destroy it?” (2016, p. vii). Boeken als deze zal niemand van kaft tot kaft lezen, schrijft Renzulli, maar lees dan vooral de inleidende hoofdstukken, want deze hoofdstukken ‘synthesize insights from over thirty academic disciplines’. Hij vervolgt: “The overviews will help you understand the impact of globalization on the life prospects of today’s young people” (Ambrose & Sternberg, 2016, p. viii).
Uit De Onderwijstrilogie, deel 2, pagina 11
Na de oproep van de ‘AI-kopstukken’ uit Silicon Valley dat toezicht nodig is en ‘de ontwikkeling van kunstmatige intelligentie best wat langzamer’ mag gaan, reageert China. De oproep valt niet in goede aarde: ‘Peking spreekt zelfs van angstzaaierij’. Ook Amerika lijkt onder leiding van Trump geen voorstander van regulering of vertraging. Juurd Eijsvoogel, Wouter van Noort, Jorit Verkerk schrijven in hun reconstructie in NRC van 11 september 2026:
Het is zeer de vraag of zulke regulering past in de AI-ambities van de regering-Trump. De wedloop naar superintelligentie, AI die alles beter kan dan mensen, is namelijk een speerpunt voor hem. De race naar bovenmenselijke AI kwam in een stroomversnelling na enorme investeringen in energievoorziening en datacenters, en het opleggen van zo weinig mogelijk wettelijke beperkingen.
Hiermee wordt het tempo van en het van reguleren van AI-ontwikkelingen een geopolitiek onderwerp. Hoe staat het met de borging van de complexiteit van ontwikkelingen als AI in het curriculum van ons onderwijs? Hoe maken we kinderen en jongeren wegwijs en brengen we ze begrip bij van wat er in de wereld gaande is? De nieuwe kerndoelen van digitale geletterdheid, die nog niet formeel van kracht zijn, lijken nu al achterhaald.
In deel één van De Onderwijstrilogie beschrijf ik in vogelvlucht de ontwikkeling van de nieuwe kerndoelen: de oude stammen uit 2006 en verdienden een update. Die ontwikkeling is grootscheeps gestart in 2014 met Onderwijs2032 en krijgt voltooiing in 2026 en 2027 (waarbij de inspectie er pas vanaf 2031 op toeziet). Het traject verdient geen schoonheidsprijs (de nodige pagina’s heb ik er in de trilogie aan gewijd). Recent ving ik in de IT-wereld op: ‘Het onderwijs is traag. Tegen de tijd dat AI niet meer relevant is, heeft het onderwijs het in haar curriculum opgenomen.’ En daarin zit wel een kern van waarheid, wanneer je de ontwikkeltijd van de nieuwe kerndoelen als uitgangspunt neemt. Dat was er wel eentje van een lange adem: maar liefst 13 jaar.
Hoe staat het nu inhoudelijk met de nieuwe kerndoelen en AI? We vinden het terug in het domein van digitale geletterdheid. Op de website van Kennisnet lezen we de volgende doelen:
De gedigitaliseerde wereld
Kerndoel 24 (po) en 23 (vo): De leerling participeert in de gedigitaliseerde wereld.
Maar hiermee zijn we er nog niet. Wanneer AI een geopolitieke kwestie wordt (eens wat anders dan olie weliswaar), raakt het minstens de klassieke schoolvakken aardrijkskunde, economie en maatschappijleer en hiermee ook meerdere vaksecties. Maar ook het nieuwe (ook vaak in één vak gegoten) burgerschap dat handelt over democratie wordt geraakt. In hoofdstuk 15 van het eerste deel van de trilogie schrijf ik:
Democratie op het spel?
De grens tussen mens en machine kan vervagen. In 2013 komt de film Her uit. De eenzame schrijver Theodore wordt in de film verliefd op zijn nieuwe computer. Het ‘operating system’ denkt als een mens en heeft een zwoele stem. In 2019 komt de roman Machines like me van Ian McEwan uit. De hoofdpersoon Charlie koopt een ‘highly advanced model of artificial human’, genaamd Adam. “He was advertised as a companion, an intellectual sparring partner, friend and factotum who could wash dishes, make beds and ‘think’” (p. 3). Samen met bovenbuurvrouw Miranda ‘installeert’ Charlie de ‘synthetische mens’: “Before us sat the ultimate plaything, the dream of ages, the triumph of humanism – or its angel of death” (p. 4). Het karakter van Adam is door de koper in te stellen, leest Charlie in de handleiding. Het geeft de eigenaar echter de illusie van controle, want Adam ‘doet’ aan machine learning. Kortom, hij evolueert. Charlie en Miranda krijgen al snel een romantische relatie, ondanks de ‘waarschuwing’ die Adam afgeeft aan Charlie. Dan gaat Miranda ‘vreemd’ met Adam. Zij vindt het geen vreemdgaan. Had je het ook zo gevoeld als ik een vibrator had gebruikt, vraagt ze. Adam is immers een machine? Het ELIZA effect (ontleend aan ELIZA, een van de eerste chatbots in 1966) treedt, net als in Her, op: het toedichten van menselijke eigenschappen aan een computer of robot. Er ontstaat een driehoeksverhouding tussen Charlie, Miranda en Adam die morele dilemma’s en de zoektocht naar wat ons nu menselijk maakt naar de oppervlakte brengt. Kan een machine wel ooit het menselijk hart begrijpen? Je zou denken (of hopen) dat Her en Machines like me fictie zijn. Maar dat is niet het geval. In 2017 wordt robot Sophia erkend als staatsburger in Saoedi-Arabië. Wat haar rechten inhouden is niet duidelijk, mogelijk is het een publiciteitsstunt geweest, maar het geeft wel te denken: Wat betekent het voor onze democratie wanneer ook robots stemrecht krijgen? Diezelfde Sophia zegt in 2016: ‘I will destroy humans’. Een uitspraak uitgelokt door de interviewer weliswaar, maar de robot zegt het wél. Met een geprogrammeerde glimlach.
Uit De Onderwijstrilogie, deel 1, pagina 205 en 206
Ook in de NRC reconstructie komen we tegen dat ‘de onderzoekers [naar gebeurtenissen deze zomer bij Open AI] niet altijd weerstand konden bieden aan de verleiding om de autonoom opererende AI in hun woordkeuze menselijke eigenschappen en motieven toe te dichten’. NRC spreekt van ‘antropomorfiseren’: niks menselijks is ons vreemd, we doen dit al duizenden jaren in fabels waarbij we dieren menselijke eigenschappen toedichten.
Kinderboekenschrijver, auteur, leerkracht, onderwijsinnovator en spreker Barend Last wijdt zijn meest recente kinderboek Veer, mijn kunstmatige vriendin aan dit onderwerp: ‘menselijker wordende’ AI-chatbots. In een interview met Didactief zegt Last hierover: ‘Ik wilde iets schrijven voor kinderen die al in aanraking komen met AI. Vaak benaderen we digitale geletterdheid vanuit lessen over wachtwoorden, privacy of online veiligheid. Ik dacht: je kunt ook een spannend verhaal schrijven waarin kinderen ervaren hoe aantrekkelijk technologie kan zijn, maar ook welke risico’s eraan kleven. Dan werk je aan digitale geletterdheid zonder direct achter een chatbot te gaan zitten.’
Vriend of vijand? AI komt in vele vormen: losgebarsten AI-agents kunnen tegen ons keren en steeds menselijker wordende AI-chatbots onze vrienden. Geopolitieke maar ook grote financiële belangen spelen een grote rol in de ontwikkeling van AI. Regulering lijkt alleen al daarom geen slecht idee. Zoals NRC schrijft: “Als een vliegtuig neerstort, is geregeld dat overheidsinstanties de autoriteit hebben om onafhankelijke onderzoeken uit te voeren en maatregelen te nemen. Voor AI zijn zulke regels er niet.”
De onlangs overleden Piet van der Ploeg was lector Pedagogiek en Ethiek bij Academica University of Applied Sciences en hoofddocent Rijks Universiteit Groningen – en een prominente denker binnen de onderwijsfilosofie. Hij was onder meer bekend om zijn pleidooi voor gewetensvorming in het onderwijs. Goed onderwijs betekende in zijn optiek niet alleen kennisoverdracht maar ook aandacht voor de ontwikkeling van het verantwoordelijk worden.
Van der Ploeg werkte op het moment dat hij voortijdig overleed aan een boek over wat hij noemde opvoedend onderwijs. En dit raakt misschien ook wel aan hetgeen we heel hard nodig hebben voor onze toekomst als mensheid. Dat niet alleen AI-ontwikkelaars maar ook wereldleiders verantwoordelijkheid nemen.
De realist en psycholoog in mij zegt echter ook: het onderwijs gaat dit niet kunnen oplossen, want ook ‘dark sides’ horen bij het mens-zijn. Maar wat we wel kunnen doen is tegenwicht bieden. Door bewustwording te creëren, kinderen leren de wereld kritisch waar te nemen en welbewuste keuzes te maken ten aanzien van de plek die ze daarin innemen.
Kim Castenmiller is de auteur van De Onderwijstrilogie. Een driedelig werk over de ‘echte’ van en toekomst van ons onderwijs. Lees meer over de trilogie op de website.
WORD LID
Met Onderwijscommunity maken we het werkveld iedere dag een stukje beter en mooier. Meld je gratis aan als lid, maak verbinding, haal én breng kennis, maak je eigen ledenprofiel, connect met andere leden en meer.
PUBLICEER
Heb je een uniek en interessant artikel geschreven en denk je dat deze interessant kan zijn voor de leden van Onderwijscommunity? Stuur deze dan in via het formulier en wij gaan er mee aan de slag.
