Wyjaśnialne uczenie maszynowe

monograficzne

Głębokie sieci neuronowe 1000-317bDNN
Uczenie statystyczne 1000-317bSML

Celem przedmiotu jest Poznanie zagadnień, metod oraz technik wyjaśniania złożonych modeli uczenia maszynowego. Modele predykcyjne są coraz bardziej złożone, komitety drzew, głębokie sieci neuronowe to modele o tysiącach parametrów. Dla modeli o takiej wymiarowości łatwo stracić kontrolę nad tym czego model się wyuczył.

Podczas tego przedmiotu omówimy narzędzia do analizy struktury modelu traktowanego jako czarna skrzynka, oraz do analizy predykcji z tego modelu. Pozwoli to na zwiększenie zaufania do modelu, poprawę skuteczności modelu, oraz możliwość wyciągnięcia użytecznej wiedzy z modelu. Poznamy najpopularniejsze metody wyjaśnień, przedyskutujemy ich silne i słabe strony tak by uczestnik zajęć miał niezbędne kompetencje do dalszego zgłębiania literatury z tego obszaru.

- Wprowadzenie do wyjaśnialnej sztucznej inteligencji, interpretowalnego uczenia maszynowego i zagadnienia dyskryminacji

- Metody analizy warunkowej modeli predykcyjnych: metoda Break-Down, Break-Down z interakcjami, SHAP, ASV

- Metody analizy modeli przez perturbacje: metoda LIME, LORE

- Metody analizy modeli contekstowych i testowania wrażliwości modeli: Ceteris Paribus, Partial Dependence, Accumulated Local Effects

- Metody oceny ważności zmiennych: Variable Importance by Pertmutations, Model Class Reliance

- Sprawiedliwość i stronniczość

- Objaśnienia specyficzne dla sieci neuronowych

Explanatory Model Analysis. Explore, Explain and Examine Predictive Models by Przemysław Biecek, Tomasz Burzykowski

Fairness and Machine Learning: Limitations and Opportunities by Solon Barocas, Moritz Hardt, Arvind Narayanan

Interpretable Machine Learning. A Guide for Making Black Box Models Explainable by Christoph Molnar

The final grade is based on activity in four areas:

mandatory: Project (0-36)

mandatory: Exam (0-30)

optional: Homeworks (0-24)

optional: Presentation (0-10)

In total you can get from 0 to 100 points. 51 points are needed to pass this course.

Grades:

51-60: (3) dst

61-70: (3.5) dst+

71-80: (4) db

81-90: (4.5) db+

91-100: (5) bdb