Toezichthouder: kunstmatige intelligentie en algoritmes zorgen voor problemen in onderwijs

Het gebruik van kunstmatige intelligentie en algoritmes kan voor problemen zorgen in de onderwijssector. Dit blijkt uit onderzoek van de Autoriteit Persoonsgegevens (AP). In een woensdag verschenen rapport van de toezichthouder staat dat deze technologieën de kansenongelijkheid in de klas kunnen vergroten. Een andere zorg van de AP is dat er in online leeromgevingen privégegevens van leerlingen worden opgeslagen. Dat kan bij bijvoorbeeld een datalek grote gevolgen hebben.

Met behulp van kunstmatige intelligentie en algoritmes hebben docenten direct zicht op de voortgang, het gedrag en ontwikkeling van leerlingen in de klas. In online leeromgevingen maken leerlingen onder andere opdrachten over de lesstof. Daarbij krijgen leraren vanachter hun eigen computerscherm verschillende data over opdrachten binnen. Ook kunnen ze naast de antwoorden inzien hoe lang de leerlingen over een vraag hebben gedaan. Dit zou ervoor moeten zorgen dat de leerkracht beter kan inspelen op waar de klas moeite mee heeft of juist goed in is.

Maar volgens de AP pakt dat niet altijd goed uit. Het kan namelijk de ontwikkeling van leerlingen en studenten schaden, schrijft de toezichthouder op het gebied van privacy in het rapport. Het programma kan bijvoorbeeld de informatie over de gemaakte opdrachten verkeerd interpreteren en daarmee leerlingen bevooroordelen. Dit kan ten koste gaan van kansengelijkheid en diversiteit in de klas. Bovendien komt de autonomie van leerlingen en leraren onder druk te staan.

Ook wijst de toezichthouder erop dat kunstmatige intelligentie en algoritmes niet transparant genoeg zijn. Het is volgens de AP belangrijk om deze risico’s bespreekbaar te maken in de klas. De AP wil een beleid over de wenselijkheid van deze technologieën in het onderwijs en vindt dat leerkrachten meer kennis moeten opdoen over kunstmatige intelligentie en algoritmes.