Wyjaśnialne uczenie maszynowe

Informacje ogólne

Kod przedmiotu:	1000-1M18WUM
Kod Erasmus / ISCED:	11.1 Kod klasyfikacyjny przedmiotu składa się z trzech do pięciu cyfr, przy czym trzy pierwsze oznaczają klasyfikację dziedziny wg. Listy kodów dziedzin obowiązującej w programie Socrates/Erasmus, czwarta (dotąd na ogół 0) – ewentualne uszczegółowienie informacji o dyscyplinie, piąta – stopień zaawansowania przedmiotu ustalony na podstawie roku studiów, dla którego przedmiot jest przeznaczony. / (0541) Matematyka Kod ISCED - Międzynarodowa Standardowa Klasyfikacja Kształcenia (International Standard Classification of Education) została opracowana przez UNESCO.
Nazwa przedmiotu:	Wyjaśnialne uczenie maszynowe
Jednostka:	Wydział Matematyki, Informatyki i Mechaniki
Grupy:	Przedmioty monograficzne dla matematyki 2 stopnia Przedmioty obieralne dla informatyki i ML Przedmioty obieralne na studiach drugiego stopnia na kierunku bioinformatyka
Punkty ECTS i inne:	(brak) Podstawowe informacje o zasadach przyporządkowania punktów ECTS: roczny wymiar godzinowy nakładu pracy studenta konieczny do osiągnięcia zakładanych efektów uczenia się dla danego etapu studiów wynosi 1500-1800 h, co odpowiada 60 ECTS; tygodniowy wymiar godzinowy nakładu pracy studenta wynosi 45 h; 1 punkt ECTS odpowiada 25-30 godzinom pracy studenta potrzebnej do osiągnięcia zakładanych efektów uczenia się; tygodniowy nakład pracy studenta konieczny do osiągnięcia zakładanych efektów uczenia się pozwala uzyskać 1,5 ECTS; nakład pracy potrzebny do zaliczenia przedmiotu, któremu przypisano 3 ECTS, stanowi 10% semestralnego obciążenia studenta. zobacz reguły punktacji
Język prowadzenia:	angielski
Rodzaj przedmiotu:	monograficzne
Skrócony opis:	Poznanie celów, metod oraz technik wyjaśniania złożonych modeli uczenia maszynowego, modelu czarnej skrzynki. Modele predykcyjne są coraz bardziej złożone, komitety drzew, głębokie sieci neuronowe to modele o tysiącach parametrów. Dla modeli o takiej wymiarowości łatwo stracić kontrolę nad tym czego model się wyuczył. Podczas tego przedmiotu omówimy narzędzia do analizy struktury modelu traktowanego jako czarna skrzynka, oraz do analizy predykcji z tego modelu. Pozwoli to na zwiększenie zaufania do modelu, poprawę skuteczności modelu, oraz możliwość wyciągnięcia użytecznej wiedzy z modelu.
Pełny opis:	Wykład: Zrozumienie modelu: - miary identyfikacji ważnych zmiennych (oparte o permutacje, oparte o funkcje straty), - miary badania jakości modelu (dla modelu regresji i klasyfikacji), - miary badania brzegowej odpowiedzi modelu (częściowa odpowiedź modelu, warunkowa odpowiedź modelu, indywidualne odpowiedzi modelu). Zrozumienie predykcji: - lokalne przybliżenia modelem białej skrzynki LIME, - atrybucja ważności cech oparta o breakDown i metodę shapleya. Laboratorium: Przeprowadzenie analizy predykcyjnej dla określonego zjawiska. Zastosowanie metod wyjaśniania dla danego zjawiska. Projekt: Implementacja nowej biblioteki lub walidacja działania wybranego algorytmu zrozumienia modeli czarnej skrzynki.
Literatura:	1. Examples and documentation for Descriptive mAchine Learning EXplana-tions. Biecek 2018. https://pbiecek.github.io/DALEX_docs 2. Ribeiro, Marco Tulio, Sameer Singh, and Carlos Guestrin. 2016. “‘Why Should I Trust You?’: Explaining the Predictions of Any Classifier.” In, 1135–44. ACM Press. https://doi.org/10.1145/2939672.2939778. 3. Fisher, Aaron, Cynthia Rudin, and Francesca Dominici. 2018. “Model Class Reliance: Variable Importance Measures for Any Machine Learning Model Class, from the ’Rashomon’ Perspective.” Journal of Computational and Graphical Statistics. http://arxiv.org/abs/1801.01489.
Efekty uczenia się:	WIEDZA W01 Zna podstawowe metody wstępnej obróbki danych, w tym metod redukcji wymiaru danych i ekstrakcji cech. W02 Zna podstawowe metody inteligencji obliczeniowej oraz ich wykorzystanie w analizie danych biznesowych UMIEJĘTNOŚCI U01 Zna podstawowe metody badania struktury metod inteligencji obliczeniowej oraz ich wykorzystanie w analizie danych biznesowych. U02 Umie zbudować klasyfikator oraz ocenić istotność poszczególnych zmiennych na końcowy wynik. KOMPETENCJE SPOŁECZNE K01 Umie współpracować w grupie projektowej przyjmując w niej różne role
Metody i kryteria oceniania:	Ocena składać się będzie z trzech składowych aktywność na zajęciach (20%), prace domowe (20%) projekt (60%) Do zaliczenia potrzebne jest przynajmniej 50% punktów.

Przedmiot nie jest oferowany w żadnym z aktualnych cykli dydaktycznych.

Opisy przedmiotów w USOS i USOSweb są chronione prawem autorskim.
Właścicielem praw autorskich jest Uniwersytet Warszawski.