Interpretabilita modelů strojového učení

Abstract

Interpretabilita modelů strojového učení slouží k vysvětlení chování, jinak mnohdy zcela neprůhledných, modelů. Tato práce představuje nejpoužívanější metody a nástroje interpretability. Vlastnosti jednotlivých metod pak ilustruje na několika příkladech, jak jednoho modelu z praxe, tak ukázkových. Praktická část práce se pak zabývá návrhem a implementací softwarové knihovny ExpyBox, která slouží pro usnadnění práce a experimentování s vybranými metodami interpretability v prostředí interaktivních Jupyter notebooků.

Interpretability of machine learning models tries to explain behavior of unknown models. This thesis shows the most frequently used methods and tools for interpretability. It ilustrates the behavior of selected methods on a few examples of artificial and actual productionalized models. Second part of the work is focused on design and implementation of ExpyBox package, which aims to provide easy interface for working and experimenting with chosen methods of interpretability in interactive Jupyter notebooks.