Robust Machine Learning from the Theory of Overparameterization:: Neural Tangents and  Tensorization

Sabanayagam, Mahalakshmi

User: Guest

Datenverarbeitung, Informatik

Back
Back to start of result list
Permanent link for displayed object

If you experience problems opening the document, please try this link.

Original title:: Robust Machine Learning from the Theory of Overparameterization:
Original subtitle:: Neural Tangents and Tensorization
Translated title:: Robustes Maschinelles Lernen aus der Theorie der Überparametrisierung
Translated subtitle:: Neuronale Tangenten und Tensorisierung
Author:: Sabanayagam, Mahalakshmi
Year:: 2025
Document type:: Dissertation
Faculty/School:: TUM School of Computation, Information and Technology
Institution:: Informatik 7 - Professur für Theoretical Foundations of Artificial Intelligence (Prof. Ghoshdastidar)
Advisor:: Ghoshdastidar, Debarghya (Prof., Ph.D.)
Referee:: Ghoshdastidar, Debarghya (Prof., Ph.D.); Kempe, Julia (Prof., Ph.D.); Burkholz, Rebekka (Prof. Dr.)
Language:: en
Subject group:: DAT Datenverarbeitung, Informatik
Keywords:: Robustness; Overparameterization; Machine learning theory
Translated keywords:: Robustheit; Überparametrisierung; Maschinelles Lernen Theorie
TUM classification:: DAT 700; DAT 708
Abstract:: This thesis investigates two foundational questions in deep learning: What do neural networks learn, and how vulnerable are they to adversarial input perturbations? We adopt a unified framework based on overparameterization via depth, width, and tensorization to theoretically characterize the representations learned during training and their generalization behavior. We further apply these insights to derive robustness certificates against data poisoning as well as test-time defenses.
Translated abstract:: Diese Arbeit untersucht zwei grundlegende Fragen des Deep Learning: Was lernen neuronale Netze, und wie anfällig sind sie für gegnerische Input-Störungen? Wir verwenden ein einheitliches Framework, der auf Überparametrisierung über Tiefe, Breite und Tensorisierung basiert, um die im Training erlernten Repräsentationen und ihr Generalisierungsverhalten theoretisch zu charakterisieren. Aus diesen Erkenntnissen leiten wir Robustheitszertifikate gegen Datenpoisoning sowie Testzeitverteidigung ab.
WWW:: https://mediatum.ub.tum.de/?id=1783891
Date of submission:: 23.06.2025
Oral examination:: 26.11.2025
File size:: 49411800 bytes
Pages:: 234
Urn (citeable URL):: https://nbn-resolving.org/urn:nbn:de:bvb:91-diss-20251126-1783891-0-4
Published:: 08.12.2025
BibTeX