Głębokie sieci neuronowe

monograficzne

Biegłość w programowaniu w języku Python.

Celem zajęć jest przybliżenie studentom praktycznej wiedzy z zakresu głębokich sieci neuronowych. W trakcie kursu przedstawione zostaną wykorzystywane obecnie techniki, algorytmy oraz narzędzia. Poruszane metody są stosowane między innymi do problemów z dziedziny rozpoznawania obrazów i przetwarzania języka naturalnego.

1. Wprowadzenie do sieci neuronowych: funkcje aktywacji, funkcja straty, propagacja wsteczna, optymalizatory, SGD, przepływ gradientu, optymalizacja hiperparametrów, regularyzacja (dropout, batchnorm).

2. Sprzęt i oprogramowanie do głębokiego uczenia.

3. Splotowe (konwolucyjne) sieci neuronowe: klasyfikacja, detekcja, segmentacja.

4. Modelowanie generatywne – VAE, GAN.

5. Rekurencyjne sieci neuronowe.

6. Modelowanie języka.

7. Transformers.

8. Uczenie ze wzmocnieniem: DQN, policy gradients.

9. Zastosowania (np. AlphaGo, ChatGPT).

Książki w wersji online

http://neuralnetworksanddeeplearning.com/

http://www.deeplearningbook.org/

Wiedza: student zna i rozumie

* w uporządkowany i podbudowany teoretycznie sposób wiedzę w zakresie uczenia maszynowego ze szczególnym uwzględnieniem algorytmów uczenia sieci neuronowych oraz architektur sieci konwolucyjnych i rekurencyjnych [K_W08].

Umiejętności: student potrafi

* posługiwać się językiem angielskim na poziomie B2+ Europejskiego Systemu Opisu Kształcenia Językowego, ze szczególnym uwzględnieniem terminologii informatycznej [K_U02];

* korzystać z wybranej nowoczesnej biblioteki procedur uczenia maszynowego [K_U12];

* zaimplementować algorytmy klasyfikacji obrazów za pomocą konwolucyjnych sieci neuronowych oraz algorytmy przetwarzania tekstu za pomocą rekurencyjnych sieci neuronowych [K_U13].

Kompetencje społeczne: student jest gotów do

* krytycznej oceny posiadanej wiedzy i odbieranych treści [K_K01];

* uznawania znaczenia wiedzy w rozwiązywaniu problemów poznawczych i praktycznych oraz zasięgania opinii ekspertów w przypadku trudności z samodzielnym rozwiązaniem problemu [K_K02];

* myślenia i działania w sposób przedsiębiorczy [K_K03].

Ocena końcowa na podstawie punktów z programu zaliczeniowego, zadań domowych (w formie programów komputerowych) oraz egzaminu w laboratorium.