Login
- Originaltitel:
- Safer AI via Exploiting the Structure of Learned Systems for Monitoring, Verification, Abstraction, Representations, and Explainability
- Übersetzter Titel:
- Sicherere KI mittels Ausnutzung der Struktur gelernter Systeme für Überwachung, Verifikation, Abstraktion, Repräsentation und Erklärbarkeit
- Autor:
- Mohr, Stefanie
- Jahr:
- 2025
- Dokumenttyp:
- Dissertation
- Fakultät/School:
- TUM School of Computation, Information and Technology
- Institution:
- Informatik 7 - Professur für Formale Methoden der Softwarezuverlässigkeit (Prof. Kretínský)
- Betreuer:
- Křetínský, Jan (Prof. Dr.)
- Gutachter:
- Křetínský, Jan (Prof. Dr.); Pérez, Guillermo Alberto (Assoc. Prof. Dr.); Jansen, Nils (Prof. Dr.)
- Sprache:
- en
- Fachgebiet:
- DAT Datenverarbeitung, Informatik
- Stichworte:
- Neural Network; Verification; Monitoring; Learning; POMDP; Automata Learning
- TU-Systematik:
- DAT 500
- Kurzfassung:
- Ensuring the safety of AI systems becomes more and more relevant, e.g., using methods like verification, monitoring, and explainability. This thesis makes a step in this direction by presenting the following solution approaches: an abstraction framework for Neural Networks (NNs), approaches for easier and more transparent monitoring of NNs, a use case of NNs and their explainability, and a learning technique for the representation of strategies for partially observable Markov decision processes.
- Übersetzte Kurzfassung:
- Die Gewährleistung der Sicherheit von KI-Systemen wird immer wichtiger, z.B. unter Verwendung von Methoden wie Verifikation, Monitoring und Erklärbarkeit. Diese Arbeit präsentiert folgende Lösungsansätze: eine Abstraktion für Neuronale Netze (NNs), Ansätze zur einfacheren und transparenteren Überwachung von NNs, einen Anwendungsfall von NNs und deren Erklärbarkeit sowie eine Lerntechnik zur Darstellung von Strategien für teilweise beobachtbare Markov-Entscheidungsprozesse.
- WWW:
- https://mediatum.ub.tum.de/?id=1747385
- Eingereicht am:
- 15.07.2024
- Mündliche Prüfung:
- 10.04.2025
- Dateigröße:
- 15445714 bytes
- Seiten:
- 205
- Urn (Zitierfähige URL):
- https://nbn-resolving.org/urn:nbn:de:bvb:91-diss-20250410-1747385-0-4
- Veröffentlicht am:
- 05.06.2025
BibTeX
Vorkommen:
- mediaTUM GesamtbestandElektronische PrüfungsarbeitenSchoolTUM School of Computation, Information and Technology
- mediaTUM GesamtbestandHochschulbibliographie2025SchoolsTUM School of Computation, Information and TechnologyInformatik 7 - Professur für Formale Methoden der Softwarezuverlässigkeit (Prof. Kretínský)