(in Polish) Uczenie maszynowe
General data
Course ID: | 1000-1L24UM |
Erasmus code / ISCED: |
11.1
|
Course title: | (unknown) |
Name in Polish: | Uczenie maszynowe |
Organizational unit: | Faculty of Mathematics, Informatics, and Mechanics |
Course groups: |
Proseminars for Mathematics |
ECTS credit allocation (and other scores): |
2.00
|
Language: | Polish |
Type of course: | proseminars |
Short description: |
(in Polish) Proseminarium będzie poświęcone głębokim sieciom neuronowym. Głównymi obiektami badań w tej dziedzinie są: sieć, funkcja straty oraz metoda optymalizacji. Sieć to funkcja wektorowa będąca złożeniem wielu prostszych przekształceń, czyli warstw – liczba warstw to głębokość sieci. Wartość sieci zależy od wektora argumentów oraz dodatkowo od wektora parametrów. Nieujemna funkcja straty określa błąd dopasowania parametrów sieci do danych uczących. Argumentami funkcji straty są parametry sieci, a parametrami dane uczące. Z kolei metoda optymalizacji to algorytm służący do poszukiwania lokalnego minimum funkcji straty uśrednionej na danych. Minimalizację średniej funkcji straty nazywa się “uczeniem” lub “trenowaniem” sieci. |
Full description: |
(in Polish) Sieci neuronowe mają wiele różnych zastosowań: mogą tłumaczyć teksty, grać w gry, rozpoznawać mowę lub interpretować obraz z kamery robota. Na naszych zajęciach skoncentrujemy się na sieciach generatywnych – Generative AI, krócej GenAI – czyli sieciach służących do tworzenia nowych treści przypominających dane uczące, np. twarze, wiersze, muzykę czy warunki zewnętrzne, w których będzie działał robot. Projektowanie generatywnych sieci neuronowych wymaga wiedzy i umiejętności matematycznych z różnych dziedzin. W szczególności popularne sieci w swoim domyślnym trybie działania generują obiekty startując z szumu, czyli obserwacji pochodzącej z wielowymiarowego rozkładu normalnego. Warto więc umieć rachować na rozkładach prawdopodobieństwa. Z kolei minimalizacja średniej funkcji straty wymaga zrozumienia algorytmów automatycznego różniczkowania i stochastycznego spadku po gradiencie. Ponadto – w zależności od sieci – potrzebna jest dodatkowa wiedza. I tak:
GenAI jest szczególnie atrakcyjna dla matematyków: techniki programowania tracą na znaczeniu w miarę rozwoju chatbotów pomagających w pisaniu kodu (np. GitHub Copilot), natomiast zyskują wiedza i umiejętności oparte na analizie matematycznej. Zdecydowanie rekomendujemy uczestnikom proseminarium udział w następujących wykładach obieralnych: w semestrze zimowym: Analiza numeryczna, Optymalizacja nieliniowa, Statystyka, Statystyka bayesowska oraz Rachunek prawdopodobieństwa II; w semestrze letnim: Uczenie maszynowe oraz Wstęp do procesów stochastycznych. Referaty studentów będą oparte głównie na monografii [1] i pracach takich, jak [2]-[4]. Referaty i prace licencjackie będą mogły być projektami zespołowymi. Prace licencjackie będą mogły mieć matematyczną formę lub stanowić opis przygotowanego programu komputerowego. |
Bibliography: |
(in Polish)
|
Learning outcomes: |
(in Polish) Student:
|
Assessment methods and assessment criteria: |
(in Polish) Na podstawie wygłoszonych referatów i złożenia w systemie APD UW pracy licencjackiej. |
Classes in period "Academic year 2024/25" (future)
Time span: | 2024-10-01 - 2025-06-08 |
Navigate to timetable
MO TU W TH FR |
Type of class: |
Proseminar, 60 hours
|
|
Coordinators: | Szymon Nowakowski, Jan Peszek, Piotr Pokarowski | |
Group instructors: | Szymon Nowakowski, Jan Peszek, Piotr Pokarowski | |
Students list: | (inaccessible to you) | |
Examination: | Pass/fail |
Copyright by University of Warsaw.