Neural networks are vulnerable to adversarial examples. In this thesis, we propose a set of defense strategies allowing a protected application. We show that the activation values of neural networks carry robustness-sensitive information. Based on this insight, we first present an architecture allowing a reliable detection of adversarial examples. We show that this architecture can further be adapted to be used in anomaly detection. Finally, we present means to leverage an analysis of the models' activations during neural-network training. This allows us to increase robustness.     «

Neural networks are vulnerable to adversarial examples. In this thesis, we propose a set of defense strategies allowing a protected application. We show that the activation values of neural networks carry robustness-sensitive information. Based on this insight, we first present an architecture allowing a reliable detection of adversarial examples. We show that this architecture can further be adapted to be used in anomaly detection. Finally, we present means to leverage an analysis of the models...     »

Neuronale Netze sind anfällig für Adversarial Examples. In dieser Arbeit werden Verteidigungsstrategien vorgeschlagen, die eine geschützte Anwendung ermöglichen. Es wird gezeigt, dass die Aktivierungswerte der Modelle Informationen relevant für deren Robustheit enthalten. Zunächst wird eine Architektur vorgestellt, die eine Erkennung von Angriffen ermöglicht. Diese Architektur wird angepasst, und zur Anomalieerkennung eingesetzt. Schließlich werden Mittel vorgestellt, um eine Analyse der Modellaktivierungen während des Trainings neuronaler Netze zu nutzen.     «

Neuronale Netze sind anfällig für Adversarial Examples. In dieser Arbeit werden Verteidigungsstrategien vorgeschlagen, die eine geschützte Anwendung ermöglichen. Es wird gezeigt, dass die Aktivierungswerte der Modelle Informationen relevant für deren Robustheit enthalten. Zunächst wird eine Architektur vorgestellt, die eine Erkennung von Angriffen ermöglicht. Diese Architektur wird angepasst, und zur Anomalieerkennung eingesetzt. Schließlich werden Mittel vorgestellt, um eine Analyse der Modella...     »