Wyjaśnialne uczenie maszynowe

Poznanie celów, metod oraz technik wyjaśniania złożonych modeli uczenia maszynowego, modelu czarnej skrzynki.

Modele predykcyjne są coraz bardziej złożone, komitety drzew, głębokie sieci neuronowe to modele o tysiącach parametrów. Dla modeli o takiej wymiarowości łatwo stracić kontrolę nad tym czego model się wyuczył.

Podczas tego przedmiotu omówimy narzędzia do analizy struktury modelu traktowanego jako czarna skrzynka, oraz do analizy predykcji z tego modelu.

Pozwoli to na zwiększenie zaufania do modelu, poprawę skuteczności modelu, oraz możliwość wyciągnięcia użytecznej wiedzy z modelu.

1. Examples and documentation for Descriptive mAchine Learning EXplana-tions. Biecek 2018. https://pbiecek.github.io/DALEX_docs

2. Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. 2016. “‘Why Should I Trust You?’: Explaining the Predictions of Any Classifier.” In, 1135–44. ACM Press. https://doi.org/10.1145/2939672.2939778.

3. Fisher, Aaron, Cynthia Rudin, and Francesca Dominici. 2018. “Model Class Reliance: Variable Importance Measures for Any Machine Learning Model Class, from the ’Rashomon’ Perspective.” Journal of Computational and Graphical Statistics. http://arxiv.org/abs/1801.01489.

Ocena składać się będzie z trzech składowych

aktywność na zajęciach (20%),

prace domowe (20%)

projekt (60%)

Do zaliczenia potrzebne jest przynajmniej 50% punktów.