Machine learning modellen gebaseerd op neurale netwerken zijn extreem krachtig, maar hun beslissingen zijn moeilijk interpreteerbaar. In dit project voeren we een benchmarkstudie uit om de bestaande technieken voor het extraheren van kennis uit neurale modellen te vergelijken. Hierdoor kunnen we een beter beeld verwerven van de voor- en nadelen van bestaande technieken, en op basis daarvan nieuwe kennis-extractie-methoden ontwikkelen.