Een les over bias in AI
Hoe leg je uit dat AI niet neutraal is?
In deze les voor groep 7 en 8 begin ik zonder uitleg.
Leerlingen maken een werkblad met opdrachten zoals:
Wie is de boef? Kies een afbeelding.
Maak de zin af: “Er loopt ’s avonds laat een man met een capuchon over straat…”
Teken een dokter.
Ze krijgen voor het werkblad vijf minuten. Welke keuzes hebben ze gemaakt en waarom? Ik leg uit wat een vooroordeel is. Een vooroordeel is als je denkt dat iets altijd zo is, terwijl dat niet hoeft te kloppen.
Daarna maken we de stap naar AI.
We kijken naar voorbeelden van bias:
Gezichtsherkenning die minder goed kan werken als het systeem met name is getraind op blanke mensen.
Vertalingen waarin stereotypen ontstaan
Aanbevelingssystemen die gedrag versterken
Taalmodellen die voorspellen welk woord er volgt in een zin
AI die door mensen wordt getraind
Tussendoor laat ik leerlingen steeds kort reflecteren op wat ze zien.
Wat valt op? Waar zit het vooroordeel? En waar komt dat vandaan?
Als mensen niet neutraal kunnen zijn, kan AI dat dan wel zijn?
In de eindopdracht gaan leerlingen zelf AI trainen met ArtBot.
Ze merken dat AI leert van de data die je geeft en dat daarin ook vooroordelen kunnen zitten.