Risico's algoritmes en AI in het onderwijs

Uitdagingen en risico’s

Zorgvuldige inzet van algoritmes en AI in het onderwijs is cruciaal, net als kennis van de beperkingen. Want het gaat om de ontwikkeling van kinderen en jongvolwassenen. Een paar voorbeelden van uitdagingen en risico’s uit de Rapportage AI- & algoritmerisico’s Nederland (RAN) van de AP, editie najaar 2023: 

• Adaptieve leersystemen stellen moeilijker de behoeftes vast van leerlingen die de lesstof minder goed beheersen dan van leerlingen die de stof beter beheersen. Adaptief leren kan beter werken voor de ene groep leerlingen dan voor de andere. Dat is een risico. Een menselijke leraar weet meer over een kind, zoals de thuissituatie of concentratiespanne, dan een adaptief leersysteem kan weten. Het is daarom belangrijk dat leraren en AL-systemen elkaar blijven aanvullen. 
• Docenten leren tijdens hun opleiding de kwaliteit en geschiktheid van onderwijsmateriaal te beoordelen. Dat lukt ze goed met ‘traditionele’ lesmaterialen zoals hand- en oefenboeken. Als docenten algoritmische onderwijsmaterialen moeten beoordelen, zoals adaptieve leersystemen, dan vergt dat een heel ander soort kennis. Het is de vraag of docenten daar momenteel over beschikken.
• Onderwijsinstellingen zien adaptieve leersystemen vaak slechts als middel om leraren vrij te spelen voor andere taken. Maar dat is te simpel gedacht. Leraren moeten bijvoorbeeld kunnen ingrijpen wanneer een leersysteem onjuiste keuzes maakt. Leraren moeten hun aandacht dus evengoed bij de klas houden, maar nu via het leersysteem. Dat kost ook tijd. Bovendien moete leraren genoeg over de werking van het adaptieve leersysteem weten om in te kunnen grijpen. Een leraar wint dus niet alle tijd (die men vroeger aan oefeningen besteedde) terug door een adaptief leersysteem. Leraren krijgen eerder een andere rol. In die andere rol moet een leraar ook tijd investeren.
• De inzet van learning analytics om individuele studieresultaten van studenten te bevorderen, vraagt om het profileren van studenten en dus ook om het verwerken van persoonsgegevens. Dat betekent altijd een inbreuk op hun privacy. De inzet van LA-systemen zonder duidelijk doel en heldere kaders vergroot de kans op onrechtmatig en onverantwoord gebruik enorm.  
• Ondoordacht gebruik van LA-systemen vergroot de kans op onrechtvaardige behandeling van studenten. Als onderwijsinstellingen de data en profielen gebruiken zonder duidelijkheid over wat de data wel en niet betekenen en welke conclusies eruit getrokken mogen worden, kan dit leiden tot onjuiste oordelen.  
• In het voortgezet onderwijs gebruiken leerlingen generatieve AI voor huiswerkopdrachten. Instellingen in het mbo en hoger onderwijs hebben echter nog amper beleid voor wat wel en niet mag met generatieve AI. Dit brengt onder meer het risico op plagiaat en misinformatie met zich mee. Zie ook: Risico's generatieve AI  

Wat is er nodig?

De AP adviseert onder meer dat onderwijsinstellingen de inzet van AI meenemen in hun ICT-strategie. En om daarbij te zorgen voor voldoende ondersteuning door interne of externe experts. Ook het vergroten van kennis over AI bij docenten is een aandachtspunt. 

Meer weten over de risico’s van algoritmes en AI in het onderwijs die de AP in kaart heeft gebracht? Lees dan hoofdstuk 4 van de RAN, editie najaar 2023.