Techniki uczenia maszyn 540-IS1-3TUM

Cel przedmiotu

Celem przedmiotu jest zapoznanie studentów z podstawowymi technikami uczenia maszynowego, ich założeniami, możliwościami i ograniczeniami. Ważne jest też ukształtowanie umiejętności praktycznego stosowania tych technik do rzeczywistych danych zgodnie z dobrą praktyką metodyczną. Przedmiot nie aspiruje do pełnego wykładu teorii uczenia statystycznego. Ma zbudować solidne fundamenty, na których student może oprzeć dalsze kształcenie (np. w zakresie uczenia głębokiego, przetwarzania języka naturalnego czy widzenia komputerowego) lub zastosowania praktyczne.

Wymagania wstępne

Od studentów oczekuje się znajomości podstaw algebry liniowej (wektory, macierze, iloczyn skalarny), rachunku różniczkowego funkcji wielu zmiennych (gradient), rachunku prawdopodobieństwa i statystyki (rozkłady, wartość oczekiwana, wariancja, estymacja) oraz podstaw programowania, najlepiej w języku Python.

Zakres tematyczny

Wprowadzenie: czym jest uczenie maszynowe, jego miejsce w sztucznej inteligencji, rodzaje zadań i paradygmaty uczenia, typowy przebieg projektu uczenia maszynowego.
Dane i ich przygotowanie: typy cech, brakujące wartości, kodowanie zmiennych kategorycznych, normalizacja i standaryzacja, podział na zbiory uczący, walidacyjny i testowy, wyciek danych (data leakage).
Modele liniowe: regresja liniowa, funkcja straty, metoda najmniejszych kwadratów i spadek gradientowy, regularyzacja (ridge, lasso), regresja logistyczna.
Klasyczne metody klasyfikacji: k-najbliższych sąsiadów, naiwny klasyfikator Bayesa, drzewa decyzyjne, maszyny wektorów nośnych i funkcje jądrowe.
Metody zespołowe: bagging, lasy losowe, boosting (w tym gradient boosting).
Ocena i dobór modeli: kompromis między obciążeniem a wariancją, nadmierne i niedostateczne dopasowanie, walidacja krzyżowa, strojenie hiperparametrów, miary jakości regresji i klasyfikacji (macierz pomyłek, precyzja, czułość, F1, krzywa ROC i AUC), problem niezrównoważonych klas.
Uczenie nienadzorowane: grupowanie (k-średnich, metody hierarchiczne, DBSCAN), redukcja wymiarowości (analiza składowych głównych, wizualizacja danych wielowymiarowych).
Sztuczne sieci neuronowe: model neuronu, perceptron wielowarstwowy, funkcje aktywacji, propagacja wsteczna, wprowadzenie do uczenia głębokiego i sieci splotowych.
Elementy uczenia ze wzmocnieniem: agent, środowisko, nagroda, idea Q-learningu.
Interpretowalność, odpowiedzialność i etyka: wyjaśnialność modeli (ważność cech, metody post hoc), stronniczość danych i modeli, aspekty prawne i społeczne stosowania systemów uczących się.

Formy zajęć i metody dydaktyczne

Wykład (15 h) ma charakter problemowy i jest ilustrowany przykładami oraz krótkimi demonstracjami obliczeniowymi. Laboratorium (15 h) polega na samodzielnym wykonywaniu ćwiczeń w środowisku Python (Jupyter, NumPy, pandas, scikit-learn, PyTorch) pod kierunkiem prowadzącego. Projekt (15 h) polega na rozwiązaniu wybranego problemu analitycznego na rzeczywistym zbiorze danych, z konsultacjami na kolejnych etapach pracy, i kończy się raportem oraz prezentacją wyników.

Kompetencje rozwijane w ramach przedmiotu

Po ukończeniu przedmiotu student:

zna i rozumie podstawowe paradygmaty, metody i algorytmy uczenia maszynowego oraz ich założenia i ograniczenia;
potrafi przygotować dane do analizy, zbudować, wytrenować i ocenić model uczenia maszynowego z użyciem współczesnych narzędzi programistycznych;
potrafi porównać alternatywne modele z zastosowaniem poprawnej procedury walidacji i dobrać technikę do charakteru problemu;
potrafi udokumentować i zaprezentować wyniki analizy oraz krytycznie ocenić ich wiarygodność;
jest świadomy społecznych, etycznych i prawnych konsekwencji stosowania systemów uczących się i rozumie potrzebę ciągłego aktualizowania wiedzy w szybko rozwijającej się dziedzinie.