Maschinelles Lernen 2

Vorlesung und Übung im Sommersemester 2013. Prof. Tobias Scheffer, Dr. Niels Landwehr, Christoph Sawade, Blaine Nelson, Ph.D.

Termine

Die Veranstaltung umfasst 4 SWS (6 LP); anrechenbar für Diplom, Bachelor und Master.

• Übung: Montag, 10:00-11:30, 03.04.0.02.
• Vorlesung: Montag, 12:00-13:30, 03.04.0.02.

Am 03.06.2013 finden Vorlesung und Übung abweichend im Raum 0.22 statt.

Inhalte

Die Veranstaltung ergänzt und vertieft die Vorlesung "Maschinelles Lernen". Maschinelles Lernen beschäftigt sich mit Algorithmen, die aus Daten lernen können. Algorithmen des maschinellen Lernens gewinnen aus Daten Modelle, mit denen sich dann Vorhersagen über das beobachtete System treffen lassen. Anwendungen für Datenanalyse-Verfahren erstrecken sich von der Vorhersage von persönlichen Musikempfehlungen über Kreditrisiken bis hin zu der Auswertung astronomischer Daten. Die in diesem zweiten Teil der Veranstaltung behandelten Inhalte umfassen Reinforcement-Lernen, graphische Modelle, Gauss'sche Prozesse, Kernel-Methoden und andere Themen.

Literatur

Chris Bishop. Pattern Recognition and Machine Learning. Wir haben 30 Exemplare zum Verleihen bestellt.

Sutton & Barto. Reinforcement Learning: An Introduction HTML-Version.

Busoniu et al. Reinforcement Learning and Dynamic Programming Using Function Approximation

Übungen

Aufgaben der 1. Übung am 22.04.2013

Aufgaben der 2. Übung am 29.04.2013

Aufgaben der 3. Übung am 06.05.2013

Aufgaben der 4. Übung am 13.05.2013

Aufgaben der 5. Übung am 03.06.2013

Aufgaben der 6. Übung am 10.06.2013

Aufgaben der 7. Übung am 17.06.2013

Aufgaben der 8. Übung am 24.06.2013

Aufgaben (English) der 9. Übung am 01.07.2013

Aufgaben der 10. Übung am 08.07.2013

Vorlesung

1. Einführungsveranstaltung

• Organisation, Überblick. Folien.

2. Recommendation

• Inhaltsbasierte und kollaborative Empfehlungen, Matrix Faktorisierung. Folien.

3. Graphische Modelle

• Syntax und Semantik Graphischer Modelle, bedingte Unabhängigkeit, D-Separation. Folien vom 22.04.2013.
• Graphische Modelle im maschinellen Lernen. Exakte Inferenz: Message Passing. Folien vom 29.04.2013.
• Approximative Inferenz: Sampling. Hidden Markov Modelle. Folien vom 06.05.2013.

4. Reinforcement Learning

• Reinforcement Learning: Endliche Zustands- und Aktionsmengen. Folien vom 13.05.2013.
• Reinforcement Learning: Funktionsapproxmationsmethoden. Folien vom 27.05.2013.

5. Clusteranalyse

• Problemstellung, Motivation. K-Means. Gauß'sche Mischmodelle, Expectation-Maximization. Folien vom 03.06.2013.
• Hierarchische Clusterverfahren, Spectral Clustering. Folien vom 17.06.2013.

6. Hauptkomponentenanalyse

• Background on Eigenvalues, Singular Values, and Positive-Definite Matrices Folien vom 10.06.2013
• Problemstellung, Motivation. Principal Component Analysis (PCA), Fisher Discrimant Analysis, Canonical Correlation Analysis (CCA) Folien vom 10.06.2013.

7. Adversarial Learning

• Introduction to adversarial learning problems, exploratory problems, classifier evasion, and game-theoretic learning.Folien vom 24.06.2013.

8. Hypothesenbewertung

• Konfidenzintervalle, Statistische Tests.Folien vom 24.06.2013.

Zusammenfassung

• Folien vom 01.07.2013.