Wyjaśnialne uczenie maszynowe
Informacje ogólne
Kod przedmiotu: | 1000-1M18WUM | Kod Erasmus / ISCED: |
11.1
![]() ![]() |
Nazwa przedmiotu: | Wyjaśnialne uczenie maszynowe | ||
Jednostka: | Wydział Matematyki, Informatyki i Mechaniki | ||
Grupy: |
Przedmioty monograficzne dla III - V roku informatyki Przedmioty monograficzne dla matematyki 2 stopnia Przedmioty obieralne dla informatyki |
||
Punkty ECTS i inne: |
6.00 ![]() ![]() |
||
Język prowadzenia: | angielski | ||
Rodzaj przedmiotu: | monograficzne |
||
Skrócony opis: |
Poznanie celów, metod oraz technik wyjaśniania złożonych modeli uczenia maszynowego, modelu czarnej skrzynki. Modele predykcyjne są coraz bardziej złożone, komitety drzew, głębokie sieci neuronowe to modele o tysiącach parametrów. Dla modeli o takiej wymiarowości łatwo stracić kontrolę nad tym czego model się wyuczył. Podczas tego przedmiotu omówimy narzędzia do analizy struktury modelu traktowanego jako czarna skrzynka, oraz do analizy predykcji z tego modelu. Pozwoli to na zwiększenie zaufania do modelu, poprawę skuteczności modelu, oraz możliwość wyciągnięcia użytecznej wiedzy z modelu. |
||
Pełny opis: |
Wykład: Zrozumienie modelu: - miary identyfikacji ważnych zmiennych (oparte o permutacje, oparte o funkcje straty), - miary badania jakości modelu (dla modelu regresji i klasyfikacji), - miary badania brzegowej odpowiedzi modelu (częściowa odpowiedź modelu, warunkowa odpowiedź modelu, indywidualne odpowiedzi modelu). Zrozumienie predykcji: - lokalne przybliżenia modelem białej skrzynki LIME, - atrybucja ważności cech oparta o breakDown i metodę shapleya. Laboratorium: Przeprowadzenie analizy predykcyjnej dla określonego zjawiska. Zastosowanie metod wyjaśniania dla danego zjawiska. Projekt: Implementacja nowej biblioteki lub walidacja działania wybranego algorytmu zrozumienia modeli czarnej skrzynki. |
||
Literatura: |
1. Examples and documentation for Descriptive mAchine Learning EXplana-tions. Biecek 2018. https://pbiecek.github.io/DALEX_docs 2. Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. 2016. “‘Why Should I Trust You?’: Explaining the Predictions of Any Classifier.” In, 1135–44. ACM Press. https://doi.org/10.1145/2939672.2939778. 3. Fisher, Aaron, Cynthia Rudin, and Francesca Dominici. 2018. “Model Class Reliance: Variable Importance Measures for Any Machine Learning Model Class, from the ’Rashomon’ Perspective.” Journal of Computational and Graphical Statistics. http://arxiv.org/abs/1801.01489. |
||
Efekty uczenia się: |
WIEDZA W01 Zna podstawowe metody wstępnej obróbki danych, w tym metod redukcji wymiaru danych i ekstrakcji cech. W02 Zna podstawowe metody inteligencji obliczeniowej oraz ich wykorzystanie w analizie danych biznesowych UMIEJĘTNOŚCI U01 Zna podstawowe metody badania struktury metod inteligencji obliczeniowej oraz ich wykorzystanie w analizie danych biznesowych. U02 Umie zbudować klasyfikator oraz ocenić istotność poszczególnych zmiennych na końcowy wynik. KOMPETENCJE SPOŁECZNE K01 Umie współpracować w grupie projektowej przyjmując w niej różne role |
||
Metody i kryteria oceniania: |
Ocena składać się będzie z trzech składowych aktywność na zajęciach (20%), prace domowe (20%) projekt (60%) Do zaliczenia potrzebne jest przynajmniej 50% punktów. |
Zajęcia w cyklu "Semestr letni 2021/22" (zakończony)
Okres: | 2022-02-21 - 2022-06-15 |
![]() |
Typ zajęć: |
Ćwiczenia, 30 godzin ![]() Laboratorium, 15 godzin ![]() Wykład, 15 godzin ![]() |
|
Koordynatorzy: | Przemysław Biecek | |
Prowadzący grup: | Przemysław Biecek | |
Lista studentów: | (nie masz dostępu) | |
Zaliczenie: | Egzamin |
Właścicielem praw autorskich jest Uniwersytet Warszawski.