prof. Ing. Jan Platoš, Ph.D. Akademický rok 2021/22 Kancelář: EA510 Konzultační hodiny: Středa 13:00-15:00 po emailovém potvrzení.

MAD3

Přednášky

0. Základní informace
1. Dolování vzorů a pravidel
2. Explorativní analýza
3. Shlukování pomocí reprezentantů
4. Hierarchické shlukování, shlukování na základě hustoty a validace shluků
5. Speciální shlukovací metody, Detekce odlehlých hodnot
6. Redukce dimenze, Klasifikace, Výběr atributů a rozhodovací stromy
7. Rozhodovací stromy, pravidlové systémy, pravděpodobnostní klasifikace, hodnocení klasifikačních algoritmů.
8. Support Vector Machines
9. Neuronové sítě
10. Regrese a Pokročilé přístupy v klasifikaci
11. Ensemble metody

Cvičení

1. Dolování vzorůZobrazit/Skýt
1. Vygenerujte všechny kombinace bez opakování o délce 3 z 6 možných.
2. Na jednom z testovacích souborů (chess, connect) vygenerujte četné vzory z vypočtěte Support.
3. Z vygenerovaných četných vzorů vypište pravidla a jejich Confidence
2. Explorativní analýzaZobrazit/Skýt
1. Dle pokynů cvičícího si stáhněte datovou sadu.
2. Vyzkoušejte si analýzu datasetu, jak jednotlivých vlastností, tak i korelaci.
3. Vyzkoušejte si transformaci jednotlivých atributů.
3. Aglomerativní shlukování Zobrazit/Skýt
1. Cílem bude implementovat dvě varianty aglomerativního shlukování a to single a complete linkage.
2. Obě metody vychází z matice vzdáleností.
3. Cílem bude provést shlukování, které se zastaví buď při vhodné příležitosti, nebo po kompletním shlukování.
4. Při kompletním shlukování sestupte po dendrogramu shluků a nalezněte ty správné shluky.
5. k-means shlukovací algoritmus (nepovinný úkol)
1. Načtěte jeden z uvedených datasetů.
2. Za pomocí Euklidovy vzdálenosti realizujte/vyzkoušejte k-means algoritmus.
3. Projděte si výsledky algoritmu v krocích.
4. Shlukovací metody Zobrazit/Skýt
1. Cílem cvičení je vyzkoušet různé metody pro shlukování nad příklady z kolekce.
2. Vyzkoušejte jak metody založené na reprezentantech, tak i hierarchické (s různými nastaveními), tak i metody založené na hustotě.
5. Redukce dimenze (26.10.2020) Zobrazit/Skýt
1. Načtěte dataset pro redukci dimenzi.
2. Proveďte redukci dimenze na několik hodnot a změřte si Frobeniovu normu mezi originální a rekonstruovanou maticí.
3. Redukci proveďte pomocí SVD a NMF.
4. O obou algoritmů si vytiskněte nové bázové vektory.
5. Např. v Pythonu je možné obě metody nalézt v Scikit-Learn, Accord.Net pro C#.
6. Klasifikace rozhodovacím stromem Zobrazit/Skýt
1. Načtěte dataset pro klasifikaci.
2. Sestrojte klasifikační rozhodovací strom s optimálním dělením.
3. Proveďte klasifikaci bodů v datasetu.
7. Support Vector Machines (9.11.2020) Zobrazit/Skýt
1. Experimentování s SVM klasifikací
1. Na adrese knihovny LibSVM nalezněte canvas SVM.
2. Otestujte nastavení knihovny na různých zadání bodů a volby kernelů.
3. Otestujte různé nastavení kernelů, zejména konstantu C.
2. Pomocí knihovny SK-Learn nebo jiné vhodné otestujte použití SVM nad reálnými datasety.
3. Otestuje lineární i RBF kernely.
8. Neuronové sítě Zobrazit/Skýt
1. Vyzkoušejte implementaci neuronových sítí (MLP) v rámci knihoven.
2. Otestujte různé sítě pro datasety pro klasifikaci.
9. Regrese Zobrazit/Skýt
1. Načtěte regresní data.
2. Předzpracujte si je tak, aby jste odstranili datum a převedli na den v roce (např.).
3. Naučte regresní model na rozdělení dat.
10. Ensamble metody Zobrazit/Skýt
1. Vyzkoušejte si využití ensemble metod pro klasifikaci/regresi.
2. Porovnejte výkonnost těchto metod s klasickým přístupem.

Datasety

1. Dolování vzorů: Zobrazit/Skýt

Data jsou uložena ve formátu DAT, což je čistě textový formát, který na každém řádku/transakci zachycuje seznam nakoupeného zboží/přítomnosti zboží v transakci.

• Test Formát: DAT
• Chess Formát: DAT
• Connect Formát: DAT
• Mushroom Formát: DAT
• T10I4D100K (generated shopping cart) DAT
2. Shlukování: Zobrazit/Skýt

3 kruhové shluky: CSV

5 kruhových shluků: CSV

5 překrývajících se shluků: CSV

Soustředné kruhy: CSV

Obdélníky: CSV

Husté vlnovky: CSV

3. Redukce dimenze Zobrazit/Skýt
• BAR dataset - 10 000 obrázků 8x8 uložených jako 64 bytů v textovém formátu.

• BAR Noise 20% dataset - 10 000 obrázků 8x8 uložených jako 64 bytů v textovém formátu spolu s 20% bílého šumu

• BAR Noise 50% dataset - 10 000 obrázků 8x8 uložených jako 64 bytů v textovém formátu spolu s 50% bílého šumu

• MNIST dataset - 60 000 obrázků 28x28 uložených jako 784 bytů v textovém formátu

4. Klasifikace Zobrazit/Skýt

5 překrývajících se shluků: CSV	Soustředné kruhy: CSV	Obdélníky: CSV	Husté vlnovky: CSV	Iris dataset se 4 atributy a 3 třídami: Informace CSV, Original
Separabilní 2D dataset. Dataset obsahuje 2 třídy (+1,-1), a jedná se o body v rovině. Každá třída má 50 bodů a mají mezi sebou oddělující pásmo. CSV		Neseparabilní 2D dataset. Dataset obsahuje 2 třídy (+1,-1), a jedná se o body v rovině. Každá třída má 50 bodů, které mají mezi sebou oddělující pásmo a navíc každá třída dalších 20 bodů, které jsou zamíchány v druhé skupině. CSV		Tic-Tac-Toe dataset s 9 atributy a 2 třídami. Informace. CSV, Original

5. Regrese Zobrazit/Skýt
• Forrest Fires. Informace: zde. Formát: CSV
• Wine Quality dataset. Informace: zde. Formát: CSV (červené víno) a CSV (bíle víno)
• Bike sharing. Informace: zde. Formát: CSV
• YearPredictionMSD Data Set (500MB velký). Informace: zde. Formát: CSV

ARD

Přednášky

0. Základní informace
1. Neuronové sítě
2. Neuronové sítě - parametry
3. Konvoluční neuronové sítě.
4. Autoencodér
5. Variační autoenkodér
6. Rekurentní neuronové sítě
7. Klasifikace textu - reprezentace slov
8. Modelování jazyka pomocí RNN
9. Zpracování vektorových dat - Explorativní analýza a klasifikace
10. Lokalizace a rozpoznání objektů v obraze
11. Generativní metody - GAN

Cvičení

1. Základy Google Collaboratory, Tensorflow a nastavení modelu Zobrazit/Skýt
1. Cílem bude nastavit na počítači Tensorflow nebo se naučit pracovat s nástrojem Google Colaboratory.
2. Na základním příkladě se podíváme na možnosti nastavení a vytvoření modelů pro analýzu datasetu.
3. Vyzkoušme si jednak základní modely tak i použítí validačních množin, regularizace a další vlastnosti.
4. Základní pracovní sešit naleznete zde
2. Ukládání modelu a transfer learning Zobrazit/Skýt
1. Cílem bude nastavit na počítači Tensorflow nebo se naučit pracovat s nástrojem Google Colaboratory.
2. Vyzkoušíme si analýzu těžšího datasetu.
3. Vyzkoušme si jednak ukládání modelů, jejich průběžné sledování a ukládání nejlepších výsledků a transfer learning.
4. Základní pracovní sešit naleznete zde
3. Konvoluční neuronové sitě Zobrazit/Skýt
1. Vyzkoušíme si analýzu obrazů pomocí Konvolučních sítí.
2. Vyzkoušíme si nastavení jednotlivých parametrů sítí k dosažení maximální efektivity.
3. Základní pracovní sešit naleznete zde
4. Autoencodér Zobrazit/Skýt
1. Vyzkoušíme si vytvoření autoenkodéru.
2. Vyzkoušíme si použití autoencodéru pro detekci anomálií a odstranění šumu.
3. Dále si vyzkoušíme transfer learning předučených modelů.
4. Základní pracovní sešit naleznete zde
5. Variační autoencodér Zobrazit/Skýt
1. Vyzkoušíme si použití variačního autoencodéru generování dovu typů obrázků dle použitých sad.
2. Základní pracovní sešit naleznete zde
6. Rekurentní neuronové sítě Zobrazit/Skýt
1. Vyzkoušíme si použití rekuretních sítí pro predikci ceny akcií.
2. Základní pracovní sešit naleznete zde
7. Klasifikace textových dat Zobrazit/Skýt
1. Vyzkoušíme si práci s texty pomocí neuronových sítí a práci se slovy.
2. Základní pracovní sešit naleznete zde
8. Modelování textu Zobrazit/Skýt
1. Vyzkoušíme si modelování jazyka pomocí rekurentních sítí.
2. Základní pracovní sešit naleznete zde
9. Vektorová data Zobrazit/Skýt
1. Na tomto cvičení zkusíte zpracovat standartní vektorová data.
2. Základní pracovní sešit naleznete zde
10. Lokalizace objektů v obrazech Zobrazit/Skýt
1. Na tomto cvičení zkusíte lokalizovat objekty v obrazech a klasifikovat je do správných kategorií.
2. Základní pracovní sešit naleznete zde
11. Generativní modely Zobrazit/Skýt
1. Na tomto cvičení zkusíte vytrénovat generativní model GAN.
2. Základní pracovní sešit naleznete zde

MAD4

Přednášky

0. Základní informace
1. Predikce v časových řadách
2. Predikce v časových řadách II.
3. Neuronové sítě a Konvoluční neuronové sítě
4. Autoencodér a Variační autoencodér
5. Rekurentní neuronové sítě a Reprezentace výzamu slov
6. Modelování jazyka
7. Síť typu Transfomer a BERT

Cvičení

1. Předvídání v časových řadách Zobrazit/Skýt
1. Cílem cvičení bude vyzkoušet si predikci v časových řadách.
2. Odkaz na cvičení je ZDE
2. Základy Tensorflow Zobrazit/Skýt
1. Cílem cvičení bude vyzkoušet si práci s frameworkem Tensorflow.
2. Odkaz na cvičení je ZDE
3. Konvoluční neuronové sítě Zobrazit/Skýt
1. Cílem cvičení bude vyzkoušet si práci s frameworkem Tensorflow a konvolučními neuronovými sítěmi.
2. Odkaz na cvičení je ZDE
4. Autoencodér Zobrazit/Skýt
1. Cílem cvičení bude vyzkoušet si práci s frameworkem Tensorflow a autoencodérem.
2. Odkaz na cvičení je ZDE
5. Rekurentní sítě - sentiment analýza Zobrazit/Skýt
1. Cílem cvičení bude vyzkoušet si práci s frameworkem Tensorflow a rekurentními sítěmi pro zpracování textu.
2. Odkaz na cvičení je ZDE
6. Rekurentní sítě - modelování jazyka Zobrazit/Skýt
1. Cílem cvičení bude vyzkoušet si práci s frameworkem Tensorflow a rekurentními sítěmi pro modelování jazyka.
2. Odkaz na cvičení je ZDE
7. Předvídání v časových řadách pomocí DNN Zobrazit/Skýt
1. Cílem cvičení bude vyzkoušet si predikci v časových řadách pomocí neuronových sítí.
2. Odkaz na cvičení je ZDE

ZSU/MFL

Přednášky / Lectures

0. Základní informace / Course overview
1. Motivace / Motivations
2. Data a jejich vlastnosti / Data and their properties
3. Statistické vlastosti / Statistial Data Properties
4. Vzdálenost a podobnost / Distance and Similarity
5. Reprezentace znalostí / Knowledge Representation
6. Základní algoritmy / Basic algorithms
7. Důvěryhodnost a evaluace algoritmů /Credibility and Algorithm Evaluation
8. Pokročilé algoritmy - Rozhodovací strom / Decision Tree
9. Pokročilé algoritmy - Regrese / Extended Linear Models and Regression
10. Datové transformace / Data transformation

Cvičení / Exercises

Všechna cvičení jsou uvedena na stránkách Radka Svobody.