Wprowadzenie do dużych modeli językowych oraz systemów RAG

fakultatywne

Kurs obejmuje pełne wprowadzenie do technologii dużych modeli językowych (LLM) oraz systemów RAG (Retrieval-Augmented Generation). Uczestnicy poznają najnowsze techniki przetwarzania języka naturalnego oraz metody multimodalne, od podstaw pracy z LLM-ami po tworzenie zaawansowanych aplikacji AI, które efektywnie łączą generowanie tekstu z przeszukiwaniem baz danych. Kurs zakończy się praktycznym projektem, który pozwoli na zastosowanie zdobytej wiedzy w rzeczywistych scenariuszach biznesowych.

Harmonogram spotkań:

Zajęcia odbywają się w SEMESTRZE ZIMOWYM, w systemie blokowym. Online

Termin spotkań:

- 11 stycznia 2025, godz. 9.00-17.00

- 12 stycznia 2025, godz. 9.00-17.00

- godziny kontaktowe: 13-17 stycznia 2025 r., godz. 16.15-18.00.

Pełny opis kursu:

1. Wprowadzenie do dużych modeli językowych (LLM):

- Omówienie podstaw działania LLM-ów i ich roli w przetwarzaniu języka naturalnego.

- Przegląd najnowszych osiągnięć w dziedzinie modeli językowych i ich zastosowania w różnych branżach.

2. Praktyczne wykorzystanie LLM:

- Praca z repozytorium modeli Hugging Face i biblioteką Transformers.

- Zastosowanie modeli enkoderów do analizy semantycznej, embeddingów i klasyfikacji zero-shot.

- Wykorzystanie modeli dekoderów do generowania odpowiedzi, tekstów i kodu.

3. Budowanie aplikacji opartych na LLM:

- Zarządzanie stanem i komponowanie wywołań modeli w celu zapewnienia bezpieczeństwa i dokładności generowanych odpowiedzi.

- Wprowadzenie do frameworków takich jak LangChain i PyTorch oraz narzędzi do szybkiego wdrażania aplikacji (np. FastAPI).

4. Tworzenie systemów RAG (Retrieval-Augmented Generation):

- Omówienie architektury systemów RAG i ich zastosowań w biznesie.

- Praca z embeddingami i wyszukiwaniem podobieństw za pomocą FAISS.

- Implementacja agenta RAG zdolnego do odpowiadania na pytania na podstawie przeszukiwanego zbioru danych.

Laboratoria i warsztaty:

- Seria warsztatów, podczas których uczestnicy będą pracować nad praktycznymi zadaniami i budować aplikacje wykorzystujące LLM i systemy

RAG.

- Przykłady zastosowań biznesowych, takich jak chatboty, analiza dokumentów i wsparcie klienta.

- Zrozumienie kluczowych koncepcji i technologii związanych z dużymi modelami językowymi.

- Umiejętność implementacji i wdrażania aplikacji opartych na LLM i systemach RAG.

- Zdolność do analizy i oceny najnowszych rozwiązań w dziedzinie przetwarzania języka naturalnego.

- Projekty praktyczne (100%): Zaliczenie kursu na podstawie realizacji projektów końcowych, które obejmują budowę aplikacji opartej na LLM/RAG.

Kurs we współpracy z firmą NVIDIA I zaliczenie kursu będzie równoważne z uzyskaniem certyfikatu NVIDIA w dziedzinie LLM oraz RAG.