User: Guest  Login
Less Searchfields
Simple search
Original title:
Neural Networks with Sequentially Semiseparable Weight Matrices
Translated title:
Neuronale Netze mit sequentiell semiseparablen Gewichtsmatrizen
Author:
Kissel, Matthias Peter
Year:
2024
Document type:
Dissertation
Faculty/School:
TUM School of Computation, Information and Technology
Institution:
Datenverarbeitung (Prof. Diepold)
Advisor:
Diepold, Klaus (Prof. Dr.)
Referee:
Diepold, Klaus (Prof. Dr.); van der Veen, Alle-Jan (Prof. Dr.)
Language:
en
Subject group:
DAT Datenverarbeitung, Informatik
Keywords:
Structured Matrices; Sequentially Semiseparable; Efficient Neural Networks
Translated keywords:
Strukturierte Matrizen; Sequentiell Semiseparabel; Effiziente Neuronale Netze
TUM classification:
DAT 001
Abstract:
One approach to reducing the resource requirements of neural networks (NNs) is to use structured matrices, like sequentially semiseparable (SSS) matrices. In this thesis, I show that for NNs with SSS weight matrices, the computational resources required for inference can be reduced while still achieving high prediction accuracy. The achieved accuracy depends on the problem, the method used to bring the structure into the network, and the type of structure used in the NN.
Translated abstract:
Ein Ansatz zur Verringerung des Ressourcenbedarfs neuronaler Netze (NNs) ist die Verwendung strukturierter Matrizen, wie z.B. sequentiell semiseparable (SSS) Matrizen. In dieser Arbeit zeige ich, dass für NNs mit SSS Gewichtsmatrizen die für die Inferenz benötigten Rechenressourcen reduziert und eine hohe Vorhersagegenauigkeit erreicht werden kann. Die Genauigkeit hängt von der Problemstellung, der Methode, mit der die Struktur in das Netz gebracht wird, und der Art der verwendeten Struktur ab.
WWW:
https://mediatum.ub.tum.de/?id=1717557
Date of submission:
04.09.2023
Oral examination:
10.05.2024
File size:
7146798 bytes
Pages:
164
Urn (citeable URL):
https://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:91-diss-20240510-1717557-1-7
Last change:
13.08.2024
 BibTeX