Schrif­te­lijke vragen Algo­ritmen op scholen

Indiendatum: 23 mei 2024

Schriftelijke vragen 99/2024

Het College voor de Rechten van de Mens heeft verkennend onderzoek laten doen naar de toepassing van algoritmes in het onderwijs. Dergelijke algoritmen worden op steeds grotere schaal ingezet in het onderwijs. In het basisonderwijs gaat het om 63% van de scholen en in het voortgezet onderwijs is het 31%. Dat loopt uiteen van lesmateriaal dat zich automatisch aanpast aan het niveau van een leerling en programma's die zelfstandig nakijken tot algoritmes die fraude opsporen. Deze kunnen werk uit handen van docenten nemen. Op scholen is vaak te weinig kennis in huis om dergelijke technologie op een verantwoorde manier in te zetten. Hierdoor lopen leerlingen onnodig veel risico op discriminatie door algoritmes en in het bijzonder leerlingen en studenten met een migratieachtergrond en uit gezinnen met een laag inkomen en in een kwetsbare situatie. Het College concludeert dat scholen en onderwijzers meer bewust moeten worden gemaakt van de risico's van algoritmen.

De fracties van BIJ1, GroenLinks, DENK, PvdA, Partij voor de Dieren en D66 maken zich zorgen om de risico’s op discriminatie bij de inzet van algoritmes en de mogelijk verregaande gevolgen voor leerlingen en stellen daarom de volgende vragen:

Vragen:

1. Heeft de wethouder in beeld hoeveel en welke scholen in Utrecht gebruik maken van algoritmen, wat voor algoritmen worden toegepast en hoe? Indien nee, is de wethouder bereid hier navraag naar te doen en de Raad hierover te informeren?

2. Als algoritmen niet goed zijn getest, kunnen zij bestaande vooroordelen tegen deze groepen versterken en verspreiden. Dat kan weer leiden tot discriminatie van leerlingen en kansenongelijkheid. Wat gaat de wethouder doen om dit tegen te gaan? Wordt dit risico meegenomen in de aanpak ongelijk investeren voor gelijke kansen?

3. De inzet van digitale leersystemen zou ook kunnen leiden tot kansenongelijkheid, omdat niet elke leerling evenveel toegang heeft tot dezelfde apparatuur, dure software en een snelle internetverbinding. Hebben we in beeld welke leerlingen in Utrecht hier de dupe van zijn en welke verschillen er zijn tussen scholen?

4. Is er in beeld hoeveel leerlingen en studenten in Utrecht in hun studieloopbaan zijn benadeeld door het gebruik van deze algoritmen? Indien nee, is de wethouder bereid hier informatie over op te halen en de Raad hierover te informeren? En wat gaat de wethouder, in samenwerking met scholen, doen om dit te herstellen voor de getroffen leerlingen en studenten?

5. Het College voor de Rechten van de Mens concludeert dat er bij scholen en onderwijzers een gebrek aan kennis is en er meer bewustwording van de risico’s van algoritmen nodig is. Welke rol kan de gemeente spelen op het gebied van preventie en controle? En is hierover contact met de partners van de Utrechtse Onderwijs Agenda?

6. Wat wordt er door scholen ondernomen om docenten te onderwijzen over de risico’s van algoritmen? Worden er bijvoorbeeld trainingen gegeven door schoolbesturen?

7. Op welke wijze worden ouders, leerlingen en studenten geïnformeerd over het gebruik van algoritmes en hun gegevens?

8. Is er contact met belangenorganisaties over de uitkomsten van het onderzoek, zoals LAKS en Ouders & Onderwijs

Stevie Nolten en Noura Oul Fakir, BIJ1
Melody Deldjou Fard en Maartje Vermeulen, GroenLinks
Mahmut Sungur, DENK
Ilse Raaijmakers, PvdA
Louise de Vries en Xenia Minnaert, Partij voor de Dieren
Venita Dada-Anthonij, D66