Aan zuidzijde van de kerk gelegen alleenstaand huisje uit het einde van de achttiende eeuw, een voormalige kaarsengieterij.
Het Kostershuisje was gedurende generaties het verblijf van de Hovese kosterfamilies Nagels en
Mortelmans. Nadat het gemeentebestuur De Markgraaf had aangekocht, waar onder andere de bibliotheek en de kunstacademie een onderkomen vonden, werd het Kostershuisje ter beschikking gesteld van het gemeentelijk feestcomité. Naast een opbergruimte voor het feestmateriaal was er een kleinere vergaderzaal en mogelijkheid voor het houden van tentoonstellingen. Het naastgelegen schuurtje zou worden omgebouwd tot Sprookjeshuisje. In 1978 werd tijdens de braderie het Sprookjeshuisje in gebruik genomen met als meter en eerste vertelster Yvonne Waegemans, terwijl Wim Van Gelder als peter ook zijn spannende verhalen aan de Leuvense stoof kwam vertellen. Ondertussen hebben duizenden kinderen er geluisterd naar oude en moderne sprookjes.
Het werd in 1981 als geklasseerd gebouw genoteerd. Nadat het gemeentelijk centrum De Markgraaf werd gerenoveerd, werd ook het Kostershuisje aangepakt en op 21 augustus 1986 had de inhuldiging plaats.