Login
- Original title:
- Neural Networks with Sequentially Semiseparable Weight Matrices
- Translated title:
- Neuronale Netze mit sequentiell semiseparablen Gewichtsmatrizen
- Author:
- Kissel, Matthias Peter
- Year:
- 2024
- Document type:
- Dissertation
- Faculty/School:
- TUM School of Computation, Information and Technology
- Institution:
- Datenverarbeitung (Prof. Diepold)
- Advisor:
- Diepold, Klaus (Prof. Dr.)
- Referee:
- Diepold, Klaus (Prof. Dr.); van der Veen, Alle-Jan (Prof. Dr.)
- Language:
- en
- Subject group:
- DAT Datenverarbeitung, Informatik
- Keywords:
- Structured Matrices; Sequentially Semiseparable; Efficient Neural Networks
- Translated keywords:
- Strukturierte Matrizen; Sequentiell Semiseparabel; Effiziente Neuronale Netze
- TUM classification:
- DAT 001
- Abstract:
- One approach to reducing the resource requirements of neural networks (NNs) is to use structured matrices, like sequentially semiseparable (SSS) matrices. In this thesis, I show that for NNs with SSS weight matrices, the computational resources required for inference can be reduced while still achieving high prediction accuracy. The achieved accuracy depends on the problem, the method used to bring the structure into the network, and the type of structure used in the NN.
- Translated abstract:
- Ein Ansatz zur Verringerung des Ressourcenbedarfs neuronaler Netze (NNs) ist die Verwendung strukturierter Matrizen, wie z.B. sequentiell semiseparable (SSS) Matrizen. In dieser Arbeit zeige ich, dass für NNs mit SSS Gewichtsmatrizen die für die Inferenz benötigten Rechenressourcen reduziert und eine hohe Vorhersagegenauigkeit erreicht werden kann. Die Genauigkeit hängt von der Problemstellung, der Methode, mit der die Struktur in das Netz gebracht wird, und der Art der verwendeten Struktur ab.
- WWW:
- https://mediatum.ub.tum.de/?id=1717557
- Date of submission:
- 04.09.2023
- Oral examination:
- 10.05.2024
- File size:
- 7146798 bytes
- Pages:
- 164
- Urn (citeable URL):
- https://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:91-diss-20240510-1717557-1-7
- Last change:
- 13.08.2024
BibTeX
Occurrences:
- mediaTUM GesamtbestandHochschulbibliographie2024Schools und FakultätenTUM School of Computation, Information and TechnologyDatenverarbeitung (Prof. Diepold)
- mediaTUM GesamtbestandElektronische PrüfungsarbeitenSchoolTUM School of Computation, Information and TechnologyComputer Engineering