Maschinelles Lernen 2

Vorlesung und Übung im Sommersemester 2012. Prof. Tobias Scheffer, Dr. Niels Landwehr, Christoph Sawade.

Termine

Die Veranstaltung umfasst 4 SWS (6 LP); anrechenbar für Diplom, Bachelor und Master.

• Übung: Donnerstag, 10:00-11:30, 03.04.0.02 (ab 19.04.2011).
• Vorlesung: Donnerstag, 12:00-13:30, 03.04.0.02.

Am 28.06.2012 entfällt die Vorlesung und die Übung. Kontrolle der 8. Übungsaufgabe erfolgt am 05.07.2012.

Inhalte

Die Veranstaltung ergänzt und vertieft die Vorlesung "Maschinelles Lernen". Maschinelles Lernen beschäftigt sich mit Algorithmen, die aus Daten lernen können. Algorithmen des maschinellen Lernens gewinnen aus Daten Modelle, mit denen sich dann Vorhersagen über das beobachtete System treffen lassen. Anwendungen für Datenanalyse-Verfahren erstrecken sich von der Vorhersage von persönlichen Musikempfehlungen über Kreditrisiken bis hin zu der Auswertung astronomischer Daten. Die in diesem zweiten Teil der Veranstaltung behandelten Inhalte umfassen Reinforcement-Lernen, graphische Modelle, Gauss'sche Prozesse, Kernel-Methoden und andere Themen.

Literatur

Chris Bishop. Pattern Recognition and Machine Learning. Wir haben 30 Exemplare zum Verleihen bestellt.

Sutton & Barto. Reinforcement Learning: An Introduction HTML-Version.

Busoniu et al. Reinforcement Learning and Dynamic Programming Using Function Approximation

Übungen

Aufgaben und Ressourcen der 1. Übung am 03.05.2012 abweichend um 11:00

Aufgaben der 2. Übung am 10.05.2012

Aufgaben der 3. Übung am 24.05.2012

Aufgaben der 4. Übung am 31.05.2012

Aufgaben der 5. Übung am 07.06.2012

Aufgaben der 6. Übung am 14.06.2012

Aufgaben der 7. Übung am 21.06.2012

Aufgaben der 8. Übung am 05.07.2012

Aufgaben der 9. Übung am 12.07.2012

Vorlesung

1. Einführungsveranstaltung

• Organisation, Überblick. Folien.

2. Reinforcement Learning

• Reinforcement Learning 1. Kleine diskrete Zustandsräume und Aktionsmengen. Folien.
• Reinforcement Learning 2. Große und unendliche Zustandsräume. Folien als pdf und pptx.

3. Recommendation

• Inhaltsbasierte und kollaborative Empfehlungen, Matrix Faktorisierung. Folien.

4. Graphische Modelle

• Syntax und Semantik Graphischer Modelle, bedingte Unabhängigkeit, D-Separation.Folien vom 10.05.2012.
• Graphische Modelle im maschinellen Lernen. Exakte Inferenz: Message-Passing.Folien vom 24.05.2012.
• Exakte Inferenz auf Polytrees. Sequenzmodelle. Sampling-basierte approximative Inferenz. Folien vom 31.05.2012.

5. Clusteranalyse

• Problemstellung, Motivation. K-Means. Gauß'sche Mischmodelle, Expectation-Maximization. Folien vom 07.06.2012.
• Hierarchische Clusterverfahren, Spectral Clustering. Folien vom 14.06.2012 (aktualisiert 21.06.2012).


• Eigenwerte von Matrizen. Folien vom 14.06.2012.

6. Hauptkomponentenanalyse

• Problemstellung, Optimierungsproblem, Kernel-PCA, Fisher Diskriminante. Folien vom 21.06.2012.

7. Bayes-Point Machine

• Bayes'sches Lernen, Billiard-Algorithmus. Folien vom 21.06.2012.

8. Hypothesenbewertung

• Konfidenzintervalle, Statistische Tests, Typ I und II Fehler, p-Wert. Folien vom 05.07.2012.

Zusammenfassung

• Folien vom 12.07.2012.