Machine Learning in Information and Communication Technology (ICT)

Das Modul bietet eine Einführung in das aufstrebende Feld des maschinellen Lernens aus einer ingenieurwissenschaftlichen Perspektive. Die wichtigsten Modelle und Lernverfahren werden vorgestellt und anhand von Problemen aus der Informations- und Kommunikationstechnik veranschaulicht.

Grundlagen der Wahrscheinlichkeitstheorie und der multivariaten Statistik

Taxonomie von maschinellen Lernproblemen und von Modellen (überwacht, unüberwacht, generativ, diskriminativ)

Regression und Klassifikation: Theorie, Methoden und ICT Anwendungen

Dimensionalitätsreduktion, Gruppierung und Analyse großer Datensätze: Methoden und Anwendungen in Kommunikation und Signalverarbeitung

Probabilistische graphische Modelle: Kategorien, Inferenz und Parameterschätzung

Grundlagen der Bayes’schen Inferenz, Monte Carlo Methoden, nicht-parametrische Bayes’sche Ansätze

Grundlagen der konvexen Optimierung: Lösungsmethoden und Anwendungen in der Kommunikation

Approximative Algorithmen für skalierbare Bayes’sche Inferenz; Anwendungen in der Signalverarbeitung und Informationstheorie (z.B. Dekodierung von LDPC Kodes)

Hidden Markov Modelle (HMM): Theorie, Algorithmen und ICT Anwendungen (z.B. Viterbi Dekodierung von Faltungskodes)

Hochdimensionale Statistik (“large p small n” setting), Lernen von Abhängigkeitsgraphen in hochdimensionalen Daten, Lernen von Kausalitätsgraphen von Beobachtungsdaten.

Schätzverfahren für dünnbesetzte Probleme, Zufallsprojektionen, compressive sensing: Theorie und Anwendungen in der Signalverarbeitung

Tiefe neuronale Netze (deep learning): Modelle, Lernalgorithmen, Programmbibliotheken und ICT Anwendungen

Literatur:

Kevin P. Murphy. Machine Learning – A probabilistic perspective, MIT Press, 2012

Christopher M. Bishop. Pattern recognition and Machine Learning, Springer, 2006

Peter Bühlmann und Sara van de Geer. Statistics of high-dimensional data – Methods, theory and applications, Springer, 2011

Voraussetzungen:

Grundkenntnisse von Matlab (z.B. aus dem Kurs 18-st-2030 Matlab Grundkurs) und Mathematik für Ingenieure