Serwisy internetowe Uniwersytetu Warszawskiego Nie jesteś zalogowany | zaloguj się
katalog przedmiotów - pomoc

Statistical machine learning

Informacje ogólne

Kod przedmiotu: 1000-317bSML Kod Erasmus / ISCED: (brak danych) / (0612) Database and network design and administration
Nazwa przedmiotu: Statistical machine learning
Jednostka: Wydział Matematyki, Informatyki i Mechaniki
Grupy: Przedmioty obowiązkowe dla I roku Machine Learning
Punkty ECTS i inne: 6.00
Język prowadzenia: angielski
Rodzaj przedmiotu:

monograficzne

Skrócony opis:

Celem przedmiotu jest wprowadzenie podstawowych pojęć i narzędzi statystycznych używanych w uczeniu maszynowym takich jak regresja liniowa, logistyczna i wielowymiarowa, klasyfikatory, metody redukcji wymiaru, metody bayesowskie.

Pełny opis:

Szczegółowy program

  1. Statystyka eksploracyjna (2-3 zajęcia)
    1. Basic summary statistic (wartość średnia, mediana, wariancja próbki, etc.)
    2. Wizualizacja danych (histogram, wykres pudełkowy, estymator jądrowy gęstości)
    3. Analiza głównych składowych
    4. Klasteryzacja, klasteryzacja hierarchiczna, k-średnie, k-medoidy 
  2. Teoria statystyki (4-5 zajęć)
    1. Podstawowe definicje (modele statystyczne, statystyki, wiarygodność, etc.)
    2. Teoria szacowania (estymatory największej wiarygodności, efektywność, błąd średniokwadratowy, kompromis między obciążeniem a wariancją, przedziały ufności)
    3. Testowanie hipotez statystycznych (błędy typu I i II, moc testu, poziom istotności, wartość p)
    4. Problemy związane z wartością p (efekt rozmiaru, testowanie wielu hipotez)
    5. Wnioskowanie bayesowskie (rozkład a priori, rozkład a posteriori, ryzyko bayesowskie i estymator bayesowski, przedziały wiarygodności)
    6. Odległość między miarami prawdopodobieństwa (dywergencja Kullbacka-Leiblera, miara maksymalnej różnicy, etc.)
  3. Proste modele regresyjne i klasyfikacyjne (3-4 zajęć)
    1. Regresja liniowa 
    2. Klasyfikacja. Regresja logistyczna, LDA, QDA
    3. Walidacja krzyżowa i bootstrap
    4. Wybór modelu i regularyzacja, regresja grzbietowa, metoda Lasso, algorytm forward-backward
  4. Modele zaawansowane (3 zajęcia)
    1. Modele drzewiaste, bagging, lasy losowe, boosting
    2. Maszyna wektorów nośnych
    3. Modele nieliniowe: funkcje sklejane, uogólnione modele addytywne
Literatura:

1. Trevor Hastie, Robert Tibshirani, Jerome H., The Elements of Statistical Learning: Data Mining, Inference, and Prediction, Springer, Berlin

2. Andrew Ng, Machine Learning Yearning, https://www.deeplearning.ai/machine-learning-yearning/

Efekty uczenia się:

Wiedza: student zna i rozumie

* w pogłębionym stopniu - podstawową wiedzę z działów matematyki niezbędnych do studiowania uczenia maszynowego (rachunek prawdopodobieństwa, statystyka, analiza wielowymiarowa, i algebra liniowa) [K_W05];

* w uporządkowany i podbudowany teoretycznie sposób wiedzę w zakresie podstawowych narzędzi statystycznych stosowanych w modelowaniu i analizie danych [K_W07].

Umiejętności: student potrafi

* konstruować rozumowania matematyczne [K_U06];

* wyrażać problemy w języku matematyki [K_U07];

* stosować techniki nowoczesnej statystycznej analizy danych [K_U10].

Kompetencje społeczne: student jest gotów do

* krytycznej oceny posiadanej wiedzy i odbieranych treści [K_K01];

* uznawania znaczenia wiedzy w rozwiązywaniu problemów poznawczych i praktycznych oraz zasięgania opinii ekspertów w przypadku trudności z samodzielnym rozwiązaniem problemu [K_K02];

* myślenia i działania w sposób przedsiębiorczy [K_K03].

Metody i kryteria oceniania:

Test końcowy oraz zadanie programistyczne na ocenę

Zajęcia w cyklu "Semestr zimowy 2021/22" (w trakcie)

Okres: 2021-10-01 - 2022-02-20
Wybrany podział planu:


powiększ
zobacz plan zajęć
Typ zajęć: Laboratorium, 30 godzin więcej informacji
Wykład, 30 godzin więcej informacji
Koordynatorzy: Błażej Miasojedow
Prowadzący grup: Błażej Miasojedow, Grzegorz Preibisch, Piotr Tempczyk
Lista studentów: (nie masz dostępu)
Zaliczenie: Zaliczenie na ocenę
Opisy przedmiotów w USOS i USOSweb są chronione prawem autorskim.
Właścicielem praw autorskich jest Uniwersytet Warszawski.