This dissertation investigates rule learning as a statistical classification problem. Rule learning is known for inducing interpretable and comprehensible classifiers, whereas statistical machine learning has often focused on predictive accuracy. The goal of this work is to combine the approaches to obtain highly predictive, yet interpretable classifiers. To this end, we investigate two types of rule sets. For DNF formulae, we propose to use stochastic local search with structural risk minimization or ensemble-based capacity control. For weighted rule sets, we devise the novel convex optimization criterion “Margin Minus Variance” and derive a new concentration inequality for capacity control. Finally, for multi-relational learning, we propose a framework to assess and compare learning systems according to the flow of information and present a novel rule generation criterion that aims at highly diverse rule sets.     «

This dissertation investigates rule learning as a statistical classification problem. Rule learning is known for inducing interpretable and comprehensible classifiers, whereas statistical machine learning has often focused on predictive accuracy. The goal of this work is to combine the approaches to obtain highly predictive, yet interpretable classifiers. To this end, we investigate two types of rule sets. For DNF formulae, we propose to use stochastic local search with structural risk minimizat...     »

Diese Dissertation untersucht Regellernen als ein statistisches Klassifikationsproblem. Regellernen ist bekannt dafür, einfach interpretierbare und verständliche Klassifizierer zu erzeugen, das statistische maschinelle Lernen konzentriert sich dagegen oft auf die Vorhersagegenauigkeit. Das Ziel dieser Arbeit ist es, die beiden Ansätze miteinander zu kombinieren, um Klassifizierer mit hoher Vorhersagegenauigkeit und Interpretierbarkeit zu finden. Wir untersuchen zu diesem Zwecke zwei Arten von Regelmengen. Im Falle der DNF-Formeln verwenden wir stochastische lokale Suche zusammen mit struktureller Fehler-Minimierung und Ensemble-Methoden. Im Falle der gewichteten Regelmengen entwerfen wir das neue Optimierungskriterium “Abstand minus Varianz” und leiten eine neue Ungleichung zur Kapazitätsüberwachung her. Für multi-relationales Lernen entwerfen wir ein theoretisches System, in dem verschiedene Lernsysteme verglichen werden können. Außerdem stellen wir ein neues Regel-Generierungskriterium vor, das auf Regelmengen mit hoher Diversität abzielt.     «

Diese Dissertation untersucht Regellernen als ein statistisches Klassifikationsproblem. Regellernen ist bekannt dafür, einfach interpretierbare und verständliche Klassifizierer zu erzeugen, das statistische maschinelle Lernen konzentriert sich dagegen oft auf die Vorhersagegenauigkeit. Das Ziel dieser Arbeit ist es, die beiden Ansätze miteinander zu kombinieren, um Klassifizierer mit hoher Vorhersagegenauigkeit und Interpretierbarkeit zu finden. Wir untersuchen zu diesem Zwecke zwei Arten von Re...     »