Optimizing the Conversion of Continuous-Valued Networks to Spiking Neural Networks

Müller, Etienne

Etienne Müller

If you experience problems opening the document, please try this link.

Original title:: Optimizing the Conversion of Continuous-Valued Networks to Spiking Neural Networks
Translated title:: Optimierung der Konvertierung kontinuierlich aktivierter Netzwerke zu gepulsten neuronalen Netzwerken
Author:: Müller, Etienne
Year:: 2024
Document type:: Dissertation
Faculty/School:: TUM School of Computation, Information and Technology
Institution:: Informatik 6 - Lehrstuhl für Robotik, Künstliche Intelligenz und Echtzeitsysteme (Prof. Knoll)
Advisor:: Knoll, Alois Christian (Prof. Dr. habil.)
Referee:: Knoll, Alois Christian (Prof. Dr. habil.); Diesmann, Markus (Prof. Dr.)
Language:: en
Subject group:: DAT Datenverarbeitung, Informatik
TUM classification:: DAT 260; DAT 815
Abstract:: We present optimization techniques and novel approaches for the conversion of continuous-valued networks to spiking neural networks (SNNs). This enables faster inference and improved hyperparameter approximation in rate-coded networks providing a basis for very deep SNNs and for spiking transformer networks. Furthermore, it allows for sparse, low-energy computation with temporal-coded networks and previously infeasible time-series processing through population coding.
Translated abstract:: Wir präsentieren Optimierungen und neue Ansätze für die Konvertierung kontinuierlich aktivierter neuronaler Netze zu gepulsten neuronalen Netzen (SNNs). Dies ermöglicht eine schnellere Inferenz und eine verbesserte Hyperparameterannäherung in ratenkodierten Netzen, als Basis für sehr tiefe SNNs und für gepulste Transformer. Außerdem ermöglicht es eine spärliche, energiesparende Nutzung zeitlich kodierter Netze und eine zuvor nicht mögliche Zeitreihenverarbeitung durch Populationskodierung.
WWW:: https://mediatum.ub.tum.de/?id=1703327
Date of submission:: 02.05.2023
Oral examination:: 15.11.2024
File size:: 7616567 bytes
Pages:: 161
Urn (citeable URL):: https://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:91-diss-20241115-1703327-1-4
Last change:: 27.12.2024
BibTeX