Vorlesung: Probabilistische Graphische Modelle (Formerly Machine Learning: Statistical Approaches II)

Wir freuen uns ueber Rueckfragen, z.B. durch ein eMail an neumann@ias.tu-darmstadt,de !!!

Quick Facts

Vortragende:Gerhard Neumann
Zusaetzliche Betreuung:Gregor Gebhardt
Termine:Mittwoch, 11:40-13:20 im Raum S204/213
 Freitag, 11:40-12:30 im Raum S204/213 (Übung)
TU-CAN:20-00-0449-iv Probabilistische Graphische Modelle
Credits:6,0
Exam:07.03.16, 10:00-12:00 in S202/C205

Description

The course covers advanced topics in machine learning, for example: Graphical models in machine learning, inference mechanisms and sampling strategies in graphical models, Gaussian processes, probabilistic topic models, unsupervised and semi-supervised learning and deep learning. Graphical Models provide a high-level description of many machine learning algorithms and are highly used for inference and learning.

After successfully attending the course, students have developed an in-depth understanding of probabilistic graphical models. They describe and analyze properties of graphical models, and formulate suitable models for concrete estimation and learning tasks. They understand inference algorithms, judge their suitability and apply them to graphical models in relevant applications. Moreover, they determine which learning algorithms are suitable to estimate the model parameters from example data, and apply these.

Content

  • Refresher of probability & Bayesian decision theory
  • Directed and undirected models and their properties
  • Inference in tree graphs
  • Approximate inference in general graphs: Message passing and mean field
  • Learning of directed and undirected models
  • Sampling methods for learning and inference
  • Modeling in example applications, including topic models
  • Deep networks
  • Semi-supervised learning

Required knowledge

  • Mathematics, programming in matlab and c, Machine Learning 1 is recommended

Office Hours

Gerhard Neumann (Vortragender)nach Absprache
Gregor Gebhardt (Teaching Assistant)nach Absprache

Language

The lectures will be in English unless severe concerns exist...

Additional Information

Syllabus

Guideline for the homework and the lectures Syllabus

Lecture Slides

DateTopicBackground Material

Lecture Notes

Here we will put some small tutorials on relevant topics for the lecture. These tutorials are supporting materials for the slides.

Matlab Scripts

Literature

  • David Barber, “Bayesian Reasoning and Machine Learning”, Cambridge University Press 2012, Online textbook
  • Daphne Koller and Nir Friedman, “Probabilistic Graphical Models: Principles and Techniques”, MIT Press, 2009, Link
  • Christopher M. Bishop, “Pattern Recognition and Machine Learning”, Springer 2007, Link


Homeworks

Hausaufgaben werden gemaess der Bonuspunkteregelung angerechnet, und nur vollstaendig angerechnet wenn es vor dem Vortraeg der Loesung durch den Teaching Assistant abgegeben wurde. Bei jeder unbegruendeten Verspaetung wird 30% oder mehr abgezogen, bei Kopieren wird die Uebung gar nicht angerechnet. Die Hausaufgaben können die Note bei der Abschlussprüfung um eine Note von maximal 1.0 verbessern. Dieser Bonus entspricht 80% der möglichen Punkteanzahl auf die Hausübung.

Betreuer

Gerhard Neumann ist seit September 2014 Junior-Professor des Fachgebiets Computational Learning for Autonomous Systems (CLAS). Sein Forschungsschwerpunkt ist neue Methoden des Maschinelles Lernens für Roboter zu entwickeln welche ein daten-effizientes Lernen von vielseitigen motorischen Fähigkeiten erlaubt. Fuer Rueckfragen auf deutsch oder englisch steht Gerhard Neumann unter neumann@ias.tu-darmstadt.de zur Verfuegung. Fuer einen persoenlichen Kontakt ist Gerhard Neumann im Robert-Piloty Gebaeude S2|02 im Raum E325 zu finden.

Gregor Gebhardt ist seit Anfang 2015 PhD-Student am Fachgebiet Computational Learning for Autonomous Systems (CLAS).

Seine Forschungsinteressen sind Kernel-basierte Methoden zum Lernen von Modellen in hochdimensionalen Zustandsräumen. Fragen zu Vorlesungsinhalten werden über Moodle beantwortet. Andere Rückfragen auf deutsch oder englisch können an gebhardt@ias.tu-darmstadt.de oder persönlich während der Sprechzeiten im Robert-Piloty Gebäude S2|02 im Raum E327 gestellt werden.

Wir freuen uns ueber Rueckfragen. Bei Unklarheiten melden Sie sich bitte sofort!