Het is voor lang niet iedereen duidelijk hoe het zit met de wet- en regelgeving omtrent AI in het onderwijs en de daarbij behorende leeftijdsrestricties. Er zijn drie zaken voor een school om in de gaten te houden: de Europese AI Verordening, de AVG, en de gebruiksvoorwaarden.

De Europese AI Verordening
Sinds 1 augustus 2024 is de Europese AI-verordening deels in werking. De volledige Verordening zal ergens in de loop van 2026-2027 van kracht zijn. Echter, op dit moment is er vertraging omdat men de Verordening naar alle waarschijnlijkheid wil versoepelen.

De AI-verordening is vooral bedoeld voor gebruikersverantwoordelijken, dus in het geval van onderwijs, de aanbieders van AI systemen en scholen zelf. Ik heb een artikel geschreven over deze Verordening, maar hier volgen de belangrijkste punten voor scholen.

• Al het personeel dat gebruik wil maken van Generatieve AI moet AI-geletterd zijn. Dit gaat verder dan een ‘knoppencursus.’
• AI-gebruik dat invloed heeft op “toegang, toelating en toewijzing tot onderwijs, beoordelen van passend onderwijsniveau, monitoren en detecteren van ongeoorloofd gedrag tijdens toetsen, en evalueren van leerresultaten en sturen van het het leerproces, valt onder ‘hoog risico.’
• Hoog risico systemen hebben menselijk toezicht nodig. Er moet bij onregelmatigheden kunnen worden ingegrepen.

De AVG en AI-systemen
De Algemene Verordening Gegevensbescherming (AVG) gaat over de borging van privacy. Volgens de AVG moet iedere school een verwerkingsovereenkomst sluiten met iedere dienstverlener die data van personen verwerkt, waaronder AI-bedrijven.

Gegevens dienen in Europa te zijn opgeslagen. Je kunt middels een SCC (Standard Contractual Clause) data op een buitenlandse server zetten. Deze SCC zorgt er dan voor dat de AVG ook op die data rust in het buitenland. Echter, als dat de Verenigde Staten zijn, vindt er spanning plaats tussen de AVG en de Cloud Act. De Cloud Act geeft de Amerikaanse overheid toestemming om data in te zien op servers van Amerikaanse bedrijven, ook als ze in het buitenland staan. SCC borgt dus niet automatisch de AVG in de Verenigde Staten en opgeslagen data bij Amerikaanse bedrijven buiten de Verenigde Staten.

De AVG zegt in brede zin dat in Nederland voor online diensten ouderlijke toestemming nodig is als een gebruiker jonger is dan 16 jaar. Dit is te vinden in de Algemene Verordening Gegevensbescherming (artikel 6, lid 1a). Echter, wanneer een systeem noodzakelijk is voor onderwijs, ook wel bekend als de vervulling van de publiekrechtelijke taak, is er geen ouderlijke toestemming nodig. Dit mag alleen als AI noodzakelijk is voor het uitvoeren van onderwijs (artikel 6, lid 1e).

Gebruiksvoorwaarden
Iedere software heeft gebruiksvoorwaarden (Terms of Service). Dit zijn de voorwaarden waaronder de dienst gebruikt mag worden. In de gebruiksvoorwaarden worden onder andere de leeftijdbeperkingen genoemd. Hier volgen de leeftijdsbeperkingen voor het gebruik van de meest bekende platformen.

ChatGPT (OpenAI)
Minimumleeftijd: 13 jaar
Ouderlijke toestemming: tussen 13 en 18 jaar
Link: gebruiksvoorwaarden

Claude (Anthropic)
Minimumleeftijd: 18 jaar
Ouderlijke toestemming: nvt
Link: gebruiksvoorwaarden

Gemini (Google)
Minimumleeftijd: Is lastig te bepalen omdat toegang gebeurt via een Google Account. Vanaf je 16e mag je een eigen Google account hebben. Ben je jonger dan beheren je ouders of de school het account. Toegang tot (opties van) Gemini worden geregeld via het Google Account.
Ouderlijke toestemming: jonger dan 16 (AVG)
Link: Help Center

Copilot (Microsoft)
Minimumleeftijd: 16 jaar
Ouderlijke toestemming: nvt
Link: Support
NB: Kennisnet adviseert terughoudendheid met Microsoft 365 Copilot

Le Chat (Mistral)
Minimumleeftijd: 13 jaar
Ouderlijke toestemming: jonger dan 16 (AVG)
Link: gebruiksvoorwaarden

Grok (xAI)
Minimumleeftijd: 13 jaar
Ouderlijke toestemming: tussen 13 en 18 jaar
Link: gebruiksvoorwaarden
NB: Grok ligt onder vuur vanwege de mogelijkheid om uitkleedbeelden te maken (link naar rechtbank)

Deepseek (DeepSeek)
Minimumleeftijd: geen, maar Deepseek geeft wel dat het bedoeld is voor volwassenen
Ouderlijke toestemming: jonger dan 18
Link: gebruiksvoorwaarden
NB: DeepSeek houdt zich mogelijk niet aan de AVG en wordt onderzocht door de Autoriteit Persoonsgegevens.

Canva (Canva)
Minimumleeftijd: 13 jaar
Link: gebruiksvoorwaarden

Canva Education (incl. AI) (Canva)
Minimumleeftijd: geen
Ouderlijke toestemming: tot 16 jaar (AVG; ToS)
Er dient altijd een toezichthouder te zijn.
Link: gebruiksvoorwaarden

AI via een tussenpersoon
AI modellen kunnen ook aangeboden worden via een tussenpersoon. Deze partij geeft via hun eigen platform, toegang tot een model, vaak middels een zogenaamde API. Dit is een beveiligd kanaal naar een model, zoals Claude of ChatGPT.

In dit geval gelden de leeftijdrestricties zoals hierboven beschreven niet. Leeftijdsrestricties gaan namelijk over de aangeboden service (het platform), niet het model zelf. Aangezien de tussenpersoon het model via haar eigen platform aanbiedt, is de tussenpersoon verantwoordelijk voor het gebruik. Leeftijd wordt dan bepaald door gebruiksvoorwaarden van de API, de AVG, en AI-verordening (en mogelijk een grens die de tussenpersoon zelf heeft opgesteld).

De tussenpersoon zal wel technische maatregelen moeten nemen om te voldoen aan de AVG en de (toekomstige) AI-verordening. Een verwerkingsovereenkomst alleen is niet voldoende. Het gaat om maatregelen die de privacy en veiligheid kinderen en jongeren borgen. Denk aan filters voor input/output, mogelijk maken van toezicht op wat leerlingen met het model doen, borging van privacy in de communicatie met het model, encryptie van gegevens, etc.

Zoekmachines: de AI-achterdeur in het basisonderwijs
Basisschoolleerlingen kunnen via Google Search (www.google.com) nog steeds gebruik maken van Gemini, ondanks dat je hier 13 jaar voor moet zijn. Elke keer als je een zoekopdracht hebt uitgevoerd krijg je een AI Overview waarna je met het model kunt interacteren. Omdat deze functie integraal is opgenomen in Google Search, kan je deze functie niet uitzetten, ook niet als beheerder. Het is zoals Gemini zelf zegt: “De school kan de deur (de Gemini app) dichtdoen, maar de AI komt via het raam (Google Search) nog steeds naar binnen.” Overigens geldt hetzelfde voor Bing met Copilot.

Er zijn workarounds, zoals het noai.duckduckgo.com als standaard browser instellen, het installeren van add-ons in de browser, of het automatisch laten toevoegen van “&udm=14” aan de url van elke Google zoekopdracht. Dat laatste forceert een Google pagina zonder AI. Echter, dan kan een leerling altijd nog naar Bing met Copilot previews.

Je zult nooit alles kunnen dichttimmeren, maar je kunt ver komen met het blokkeren van websites en andere aanpassingen. Het is aan de schoolleiding waar de school verstandig aan doet en naar het beste van haar kunnen voldoet aan de gebruiksvoorwaarden.

_____________

Zie je nog onjuistheden of onvolledigheden? Stuur een bericht (met bronvermelding) naar info[at]drakenvlieg.nl.

Laatste update: 03/05/2026

Foto door Aerps.com op Unsplash