User: Guest  Login
Original title:
Applications of Information Theory and Factor Graphs for Machine Learning
Translated title:
Anwendungen von Informationstheorie und Graphischen Modellen im maschinelles Lernen
Author:
Amjad, Rana Ali
Year:
2019
Document type:
Dissertation
Faculty/School:
Fakultät für Elektrotechnik und Informationstechnik
Advisor:
Kramer, Gerhard (Prof. Dr.)
Referee:
Kramer, Gerhard (Prof. Dr.); Permutter, Halm (Prof., Ph.D.)
Language:
en
Subject group:
ELT Elektrotechnik
Keywords:
Deep Learning, Information Theory, Clustering, Artificial Intelligence, Machine Learning, Markov Aggregation
TUM classification:
ELT 500d
Abstract:
This thesis consists of three parts. In the first part we develop a generalized information-theoretic cost function for Markov aggregation and apply it also to the co-clustering problem. In the second part we propose a new clustering algorithm, Extended Affinity Propagation, which provides both global and local perspectives of data. The third part focuses on a deeper investigation of the recently proposed idea to train deep neural networks using the Information Bottleneck principle.
Translated abstract:
Diese Arbeit hat drei Teile. Im ersten Teil entwickeln wir eine allgemeine informationtheoretische Kostenfunktion für Markov Aggregation und verwenden diese auch für Co-Clustering. Im zweiten Teil entwickeln wir einen neuen Clustering-Algorithmus, Extended Affinity Propagation. Der Schwerpunkt des dritten Teils ist eine genaue Untersuchung eines neuen Ansatzes: das Training tiefer neuronaler Netze nach dem Prinzip des Information Bottleneck.
WWW:
https://mediatum.ub.tum.de/?id=1482458
Date of submission:
27.03.2019
Oral examination:
13.09.2019
File size:
5110317 bytes
Pages:
162
Urn (citeable URL):
https://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:91-diss-20190913-1482458-1-7
Last change:
17.12.2019
 BibTeX