Wyjaśnialne uczenie maszynowe
Informacje ogólne
Kod przedmiotu: | 1000-319bEML |
Kod Erasmus / ISCED: |
11.3
|
Nazwa przedmiotu: | Wyjaśnialne uczenie maszynowe |
Jednostka: | Wydział Matematyki, Informatyki i Mechaniki |
Grupy: |
Przedmioty obieralne dla informatyki Przedmioty obowiązkowe dla II roku Machine Learning |
Punkty ECTS i inne: |
6.00
|
Język prowadzenia: | angielski |
Rodzaj przedmiotu: | monograficzne |
Wymagania (lista przedmiotów): | Głębokie sieci neuronowe 1000-317bDNN |
Skrócony opis: |
Celem przedmiotu jest Poznanie zagadnień, metod oraz technik wyjaśniania złożonych modeli uczenia maszynowego. Modele predykcyjne są coraz bardziej złożone, komitety drzew, głębokie sieci neuronowe to modele o tysiącach parametrów. Dla modeli o takiej wymiarowości łatwo stracić kontrolę nad tym czego model się wyuczył. Podczas tego przedmiotu omówimy narzędzia do analizy struktury modelu traktowanego jako czarna skrzynka, oraz do analizy predykcji z tego modelu. Pozwoli to na zwiększenie zaufania do modelu, poprawę skuteczności modelu, oraz możliwość wyciągnięcia użytecznej wiedzy z modelu. Poznamy najpopularniejsze metody wyjaśnień, przedyskutujemy ich silne i słabe strony tak by uczestnik zajęć miał niezbędne kompetencje do dalszego zgłębiania literatury z tego obszaru. |
Pełny opis: |
- Wprowadzenie do wyjaśnialnej sztucznej inteligencji, interpretowalnego uczenia maszynowego i zagadnienia dyskryminacji - Metody analizy warunkowej modeli predykcyjnych: metoda Break-Down, Break-Down z interakcjami, SHAP, ASV - Metody analizy modeli przez perturbacje: metoda LIME, LORE - Metody analizy modeli contekstowych i testowania wrażliwości modeli: Ceteris Paribus, Partial Dependence, Accumulated Local Effects - Metody oceny ważności zmiennych: Variable Importance by Pertmutations, Model Class Reliance - Sprawiedliwość i stronniczość - Objaśnienia specyficzne dla sieci neuronowych |
Literatura: |
Explanatory Model Analysis. Explore, Explain and Examine Predictive Models by Przemysław Biecek, Tomasz Burzykowski Fairness and Machine Learning: Limitations and Opportunities by Solon Barocas, Moritz Hardt, Arvind Narayanan Interpretable Machine Learning. A Guide for Making Black Box Models Explainable by Christoph Molnar |
Metody i kryteria oceniania: |
The final grade is based on activity in four areas: mandatory: Project (0-36) mandatory: Exam (0-30) optional: Homeworks (0-24) optional: Presentation (0-10) In total you can get from 0 to 100 points. 51 points are needed to pass this course. Grades: 51-60: (3) dst 61-70: (3.5) dst+ 71-80: (4) db 81-90: (4.5) db+ 91-100: (5) bdb |
Zajęcia w cyklu "Semestr zimowy 2023/24" (zakończony)
Okres: | 2023-10-01 - 2024-01-28 |
Przejdź do planu
PN WT ŚR CZ PT CW
CW
LAB
LAB
WYK
|
Typ zajęć: |
Ćwiczenia, 30 godzin
Laboratorium, 15 godzin
Wykład, 15 godzin
|
|
Koordynatorzy: | Przemysław Biecek | |
Prowadzący grup: | Hubert Baniecki, Przemysław Biecek | |
Lista studentów: | (nie masz dostępu) | |
Zaliczenie: | Egzamin |
Zajęcia w cyklu "Semestr zimowy 2024/25" (w trakcie)
Okres: | 2024-10-01 - 2025-01-26 |
Przejdź do planu
PN WT ŚR CZ PT LAB
CW
LAB
CW
CW
LAB
CW
CW
WYK
CW
|
Typ zajęć: |
Ćwiczenia, 30 godzin
Laboratorium, 15 godzin
Wykład, 15 godzin
|
|
Koordynatorzy: | Przemysław Biecek | |
Prowadzący grup: | Hubert Baniecki, Przemysław Biecek, Bartłomiej Sobieski | |
Strona przedmiotu: | https://github.com/mim-uw/eXplainableMachineLearning-2025/ | |
Lista studentów: | (nie masz dostępu) | |
Zaliczenie: | Egzamin | |
Kierunek podstawowy MISMaP: | informatyka |
Właścicielem praw autorskich jest Uniwersytet Warszawski.