Algoritmes die worden gebruikt in digitale leermiddelen kunnen leerlingen op een zijspoor zetten. Daarvoor waarschuwt het College voor de Rechten van de Mens (CRM).
In opdracht van het CRM is een verkennend onderzoek uitgevoerd naar de wijze waarop algoritmes in het onderwijs in Nederland worden ingezet. Er is met name gekeken naar risico’s op discriminatie en de mogelijkheden om dat te voorkomen.
Uit het onderzoek blijkt dat digitale systemen vooroordelen over bepaalde groepen leerlingen kunnen versterken. Dit kan leiden tot discriminatie en kansenongelijkheid. Ook blijkt dat leerlingvolgsystemen zoveel data over kinderen verzamelen, dat hun recht op privacy en autonomie wordt geraakt.
Het CRM vindt dat het ministerie van OCW onderzoek naar de effecten van digitale systemen moet stimuleren en voorlichting moet geven over de risico’s aan schoolbesturen, leraren, ouders en leerlingen.