Machine Learning in Information and Communication Technology

Lehrinhalte:

Das Modul bietet eine Einführung in das aufstrebende Feld des maschinellen Lernens aus einer ingenieurwissenschaftlichen Perspektive. Die wichtigsten Modelle und Lernverfahren werden vorgestellt und anhand von Problemen aus der Informations- und Kommunikationstechnik veranschaulicht.

Grundlagen der Wahrscheinlichkeitstheorie und der multivariaten Statistik

Taxonomie von maschinellen Lernproblemen und von Modellen (überwacht, unüberwacht, generativ, diskriminativ)

Regression und Klassifikation: Theorie, Methoden und ICT Anwendungen

Dimensionalitätsreduktion, Gruppierung und Analyse großer Datensätze: Methoden und Anwendungen in Kommunikation und Signalverarbeitung

Probabilistische graphische Modelle: Kategorien, Inferenz und Parameterschätzung

Grundlagen der Bayes’schen Inferenz, Monte Carlo Methoden, nicht-parametrische Bayes’sche Ansätze

Grundlagen der konvexen Optimierung: Lösungsmethoden und Anwendungen in der Kommunikation

Approximative Algorithmen für skalierbare Bayes’sche Inferenz; Anwendungen in der Signalverarbeitung und Informationstheorie (z.B. Dekodierung von LDPC Kodes)

Hidden Markov Modelle (HMM): Theorie, Algorithmen und ICT Anwendungen (z.B. Viterbi Dekodierung von Faltungskodes)

Hochdimensionale Statistik (“large p small n” setting), Lernen von Abhängigkeitsgraphen in hochdimensionalen Daten, Lernen von Kausalitätsgraphen von Beobachtungsdaten.

Schätzverfahren für dünnbesetzte Probleme, Zufallsprojektionen, compressive sensing: Theorie und Anwendungen in der Signalverarbeitung

Tiefe neuronale Netze (deep learning): Modelle, Lernalgorithmen, Programmbibliotheken und ICT Anwendungen

Literatur:

Kevin P. Murphy. Machine Learning – A probabilistic perspective, MIT Press, 2012

Christopher M. Bishop. Pattern recognition and Machine Learning, Springer, 2006

Peter Bühlmann und Sara van de Geer. Statistics of high-dimensional data – Methods, theory and applications, Springer, 2011

Voraussetzungen:

Grundkenntnisse von Matlab (z.B. aus dem Kurs 18-st-2030 Matlab Grundkurs) und Mathematik für Ingenieure