Wyjaśnialne uczenie maszynowe

monograficzne

Głębokie sieci neuronowe 1000-317bDNN
Uczenie statystyczne 1000-317bSML

Celem przedmiotu jest Poznanie zagadnień, metod oraz technik wyjaśniania złożonych modeli uczenia maszynowego. Modele predykcyjne są coraz bardziej złożone, komitety drzew, głębokie sieci neuronowe to modele o tysiącach parametrów. Dla modeli o takiej wymiarowości łatwo stracić kontrolę nad tym czego model się wyuczył.

Podczas tego przedmiotu omówimy narzędzia do analizy struktury modelu traktowanego jako czarna skrzynka, oraz do analizy predykcji z tego modelu. Pozwoli to na zwiększenie zaufania do modelu, poprawę skuteczności modelu, oraz możliwość wyciągnięcia użytecznej wiedzy z modelu. Poznamy najpopularniejsze metody wyjaśnień, przedyskutujemy ich silne i słabe strony tak by uczestnik zajęć miał niezbędne kompetencje do dalszego zgłębiania literatury z tego obszaru.

- Wprowadzenie do wyjaśnialnej sztucznej inteligencji, interpretowalnego uczenia maszynowego i zagadnienia dyskryminacji

- Metody analizy warunkowej modeli predykcyjnych: metoda Break-Down, Break-Down z interakcjami, SHAP, ASV

- Metody analizy modeli przez perturbacje: metoda LIME, LORE

- Metody analizy modeli contekstowych i testowania wrażliwości modeli: Ceteris Paribus, Partial Dependence, Accumulated Local Effects

- Metody oceny ważności zmiennych: Variable Importance by Pertmutations, Model Class Reliance

- Sprawiedliwość i stronniczość

- Objaśnienia specyficzne dla sieci neuronowych