Ik ben Carl Mangold, IT-er met een bovenmatige interesse in safety en security, en vader van een dochter in het voortgezet onderwijs. De afgelopen maanden heb ik iets zien gebeuren dat me niet loslaat: AI is met een razendsnelle vaart het onderwijs binnengestormd, en scholen hebben geen idee hoe ze ermee om moeten gaan.
Mijn dochter komt thuis met verhalen over klasgenoten die ChatGPT gebruiken voor hun huiswerk. Haar docenten worstelen met de vraag of ze AI moeten verbieden of juist omarmen. En ondertussen roepen diverse instituten moord en brand over de risico’s van AI in het onderwijs, maar niemand biedt scholen een concreet, werkbaar plan om dit veilig en verantwoord aan te pakken.
Dat moet anders. Daarom start ik Veilig AI
Scholen staan er alléén voor
Het is geen verbeelding dat scholen worstelen met AI. De signalen zijn overduidelijk:
Scholen weten niet waar ze moeten beginnen. Uit onderzoek blijkt dat duizenden scholieren aangeven wekelijks tot dagelijks AI-tools te gebruiken bij hun schoolopdrachten, terwijl docenten dit vaak niet doorhebben. De VO-raad erkent dat AI-gebruik “een worsteling is voor scholen en docenten” en dat opdrachten daarom worden aangepast.
De overheid erkent het probleem, maar biedt geen concrete oplossing. Kennisnet heeft in 2024 een handreiking gepubliceerd met adviezen over AI in het onderwijs, maar staatssecretaris Paul geeft toe: “Ik denk dat veel mensen, ikzelf zeker, heel erg achterlopen op de ontwikkelingen.” Het is aan scholen en docenten zelf om te bepalen hoe AI te gebruiken, terwijl zij juist om hulp vragen.
Toezichthouders slaan alarm. De Autoriteit Persoonsgegevens waarschuwt al langer voor “toenemende risico’s door gebruik van AI in digitale leermiddelen” en wijst erop dat deze technologieën “de kansenongelijkheid in de klas kunnen vergroten.” De AP benadrukt dat scholen bewust moeten nadenken over de mogelijke risico’s die gepaard gaan met het gebruik van AI, maar biedt geen kant-en-klare oplossing.
En de wetgeving maakt het alleen maar ingewikkelder. Per 1 augustus 2024 is de AI-verordening in werking getreden, met de eerste verplichtingen die vanaf februari 2025 gelden. Scholen moeten nu dus al voldoen aan complexe eisen rond hoog-risico AI-systemen, maar hebben vaak niet de expertise in huis om dit goed te doen.
En er is niemand die dit serieus oppakt. Ik heb de markt afgezocht. Er zijn wel algemene AI-cursussen en er zijn consultants die bedrijven helpen met AI-strategie, maar een aanbieder die scholen helpt met het ontwikkelen én implementeren van een specifiek, gecertificeerd AI-beleid? Die bestaat nog niet. Terwijl scholen juist behoefte hebben aan een gestructureerde aanpak die rekening houdt met de unieke context van het onderwijs: minderjarige leerlingen, onderwijsdoelen, en de specifieke risico’s die daarbij horen.
Een serieuze aanpak voor een serieus probleem
En daarom start ik dus Veilig AI Niet als zoveelste partij die roept dat AI gevaarlijk is, maar als een bedrijf dat scholen daadwerkelijk helpt met concrete oplossingen.
Ons uitgangspunt is helder: we baseren ons op ISO 42001, de internationale standaard voor AI-managementsystemen. Deze norm biedt een solide framework voor verantwoord AI-gebruik, maar is oorspronkelijk ontwikkeld voor grote bedrijven. Wij vertalen deze naar de onderwijscontext en maken er een werkbare toolkit van die scholen stap voor stap door het proces leidt.
Scholen die met ons werken, krijgen dan niet alleen een beleid op papier, maar een implementeerbaar plan met praktische handvatten. En als het beleid voldoet aan onze eisen, certificeren we het met een “Veilig AI-beleid” badge. Zodat ouders, leerlingen en inspectie kunnen zien: deze school neemt AI-veiligheid serieus.
Wat nu?
Ik ga nu als eerste maar eens aan de slag met het onderzoeken van de markt. Welke AI-toepassingen kom je in het onderwijs al tegen? Hoe wordt dat risico-gemanaged? Tegen welke problemen lopen scholen aan? Wat zien scholen op de schoolpleinen gebeuren?
Veel scholieren gebruiken al meer AI dan de onderwijzers, maar worden daar niet op voorbereid met gedegen AI-lessen. Hoe gaan we daar als samenleving mee om?
Als je ervaringen hebt vanuit het onderwijs - als docent, schoolleider, ouder of leerling - hoor ik dat graag. Want dit probleem lossen we niet alleen op, maar samen.
Carl Mangold
Oprichter Veilig AI