Wim Groot Top Institute Evidence Based Education Research (TIER) Teachers Academy

1. Wim Groot Top Institute Evidence Based Education Research (TIER) Teachers Academy Evidence based: theorie en praktijk

2. Wat is evidence based onderwijs? • ‘Evidence based onderwijs’ is de filosofie dat onderwijsbeleid en -praktijk gebaseerd dienen te zijn op een oordeelkundig, expliciet en nauwgezet gebruik van de huidige best evidence. • ‘Evidence based onderwijs’ verwijst enerzijds naar de verzameling van interventies die positief geëvalueerd zijn, anderzijds verwijst het naar een houding of attitude onder beleidsmakers en mensen uit de onderwijspraktijk (werken op basis van evidence based onderwijs).

3. Evidence based attitude • Een evidence based attitude impliceert dat de leraar of de beleidsmaker zich bij elke beslissing bewust is: • Of er bewijsmateriaal (evidence) is om deze beslissing te ondersteunen; • Hoe sterk dit bewijsmateriaal is.

4. Vormen van evidentie • Gradaties van hardheid van bewijs • Zachtbewijs: gevalsonderzoek • Hard bewijs: experimenteelonderzoek • Soortenbewijs: • Reviews en statistischemeta-analyses van bestaandonderzoek • Verleggen van de grenzen van kennis door nieuwonderzoek

5. Kennispyramide: Niveaus voor onderscheid in de hardheid en generaliseerbaarheid van bewijs, en de mate waarin uitspraken gedaan kunnen worden over causale verbanden.

6. Voorwaarden voor echt bewijs • De interventie is helder omschreven • Random (door toeval) bepaalde toewijzing aan condities • Geen systematische verschillen tussen de experimentele en de controlegroep • Valide en betrouwbaar gemeten uitkomstmaten • (bijna) geen experimentele uitval • Rapportage van effecten bij afgebroken behandeling • Rapportage van lange termijn effecten • Rapportage van de grootte van het effect en significantie • Rapportage van differentiële effecten • Rapportage van alle effecten (ook negatieve en non-effecten)

7. 5 stappen in evidence based methode • Het probleem vertalen in beantwoordbare vraag; • Efficiënt zoeken naar het beste bewijsmateriaal • Een kritische beoordeling van methodologische kwaliteit en toepasbaarheid van dit materiaal (critical appraisal); • Wat is de validiteit van de studie? • Zijn gevonden effecten significant en relevant? • Een beslissing nemen op grond van de beschikbare evidentie; • Wat is het belang van de evidentie? • Is de evidentie generaliseerbaar? • Is de interventie ook technisch en logistiek toepasbaar? • Wat is de kosteneffectiviteit? • Regelmatig evalueren van de kwaliteit van dit proces.

8. Hoe krijgt evidence based education vormbinnen TIER-UM? • Evaluatie-onderzoek op basis van gerandomiseerdeexperimenten of quasi-experimentennaaro.a.: • Evaluatieconvenantenterugdringenvoortijdigschoolverlaten • Evaluatiebredescholen • Evaluatieverlengdeschooldag • Evaluatieteambeloning in het onderwijs • Evaluatielesmethoden en kwaliteit van leraar • Meta-analyses en review studies • De maatschappelijkebaten van onderwijs • Productiviteit in het onderwijs • Ontwikkelen portal ‘watwerkt in het onderwijs’

9. Het probleem vertalen in een beantwoordbare vraag • Probleem: ikkan/wilalleenonderwijsvolgenals het watoplevert. • Vraag: Watlevert het op alsik het een master opleidingvolg?

10. Het probleem vertalen in een beantwoordbare vraag • Opbrengst voor: • Mezelf? • Inkomen • Plezier in het werk • Carrière • Leerlingen? • Leeropbrengsten • Doorstroom • Arbeidsmarktkansen • De samenleving? • Economische groei • Voortijdig schooluitval • Etc.

11. Opbrengst voor mezelf: inkomen • Onderzoekbare vraag: wat levert het volgen van een jaar opleiding aan extra inkomen op? • Wat is het rendement van scholing? • Rendement = opbrengst als % van de investering

12. Meta-analyse • Meta-analyse is een onderzoek waarin onderzoeken naar een bepaald onderwerp worden samengevoegd om één meer betrouwbare uitkomst te verkrijgen. Hiervoor worden vaak statistische methoden gebruikt. • Beperkingen meta-analyse: • Studies zijn niet altijd onderling vergelijkbaar • Publicatie bias

13. Meta-analyse rendement van een jaar onderwijs • Orley Ashenfelter, Colm Harmon & Hessel Oosterbeek (1999), ‘A review of estimates of the schooling/earnings relationship, with tests for publication bias’, Labour Economics 6, p. 453-470 • Meta-analyse van 27 studies, 96 waarnemingen van rendementen voor 9 landen

15. Gemiddelde waarden en standaard deviatie van rendementen in de 27 studies

16. Conclusies uit meta-analyse rendement van een jaar onderwijs • Rendement van een jaar onderwijs is 7-9% • Rendement is hoger in de VS dan in andere landen • Rendement is de afgelopen twintig jaar gestegen

17. Opbrengst voor leerlingen • Onderzoekbare vraag: Zijn de leerprestaties hoger als docent een master opleiding heeft? • Steven Rivkin, Eric Hanushek & John Kain (2005), ‘Teachers, schools, and academic achievement’, Econometrica 73, p. 417-458

18. Opzet onderzoek • Statistische analyse op administratieve gegevens van leerlingen in Texas • Basisschool en brugklas leerlingen • 3 jaargangen met elk meer dan 200.000 leerlingen van 3000 openbare scholen • Gekeken naar effect van klassengrootte, gemiddeld aantal jaren ervaring van de leraar en aandeel leraren met masteropleiding op school op voortgang in rekenen en lezen

21. Resultaten onderzoek Rivkin et al naar effect kwaliteit leraar op leerprestaties • Beginnende leraren en leraren met 2-3 jaar ervaring in rekenonderwijs presteren minder; • De volgende twee ervaringsjaren leveren een beperkt positief effect op leerprestaties op voor rekenen en lezen; • Dit kan zowel een ervarings- of aanpassingseffect zijn en een selectie-effect; • Geen bewijs dat een masteropleiding de kwaliteit van het onderwijs verhoogt.

22. Één onderzoeksuitkomst vormt nog geen voldoende bewijs • Sharon Kukla-Acevedo (2009), ‘Do teacher characteristics matter? New results on the effects of teacher preparation on student achievement’,Economics of Education Review 28, p. 49-57 • Data van rekenvaardigheden van 5e klas leerlingen in regio in Kentucky • 3812 leerlingen, 46 scholen en 120 leraren

24. Resultaten onderzoek Kukla-Acevedo naar effect kwaliteit leraar op leerprestaties • Wiskundeprestaties van leerlingen zijn hoger naarmate: • Leraren minder ervaringsjaren hebben • Leraren hogere cijfers haalden tijdens hun vooropleiding • Ze tijdens hun vooropleiding meer uren wiskunde hebben gehad • Ze meer uren wiskunde-instructie hebben gehad

25. Nog een voorbeeld • Thomas Kane, Jonah Rockoff & Douglas Staiger (2008), ‘What does certification tell us about teacher effectiveness? Evidence from New York city’, Economics of Education Review 27, p. 615-631 • Leerlingen basisschool en onderbouw • Wiskunde en leesvaardigheden • 623.482 leerlingen en 18.856 leraren

26. Resultaten onderzoek Kane et. al naar effect kwaliteit leraar op leerprestaties • De wiskunde scores van leerlingen die les krijgen van onderwijsassistenten (Teaching Fellow) of zij-instromers zijn 0.20 en 0.28 standaard deviatie lager dan wiskunde scores van leerlingen die een gekwalificeerde leraar hebben • Leerlingen met een buitenlandse leraar en onbevoegde leraar scoren 0.48 en 0.13 standaard deviatie lager • Vergelijkbare uitkomsten voor leesscores

27. Meer weten: MEBIT • Postinitiële master • VO-docenten , master , 1e graads • 60 ECTS: 1680 uur • Master of Science • NVAO-accreditatie

28. Carrière maken binnen de klas Optimaal investeren in beroepsontwikkeling en loopbaanperspectief van docenten Professionele ontwikkeling van docenten Imagoversterking van het beroep van leraar Verbetering van de kwaliteit van het VO ‘Mensen die excelleren moeten niet ophouden zich te ontwikkelen’

30. MEBIT-structuur

31. Informatie: • www.teachersacademy.nl • www.tierweb.nl