User: Guest  Login
Original title:
HW-Acceleration for Edge-AI
Translated title:
HW-Beschleunigung für Edge-KI
Author:
Prebeck, Sebastian Siegfried
Year:
2024
Document type:
Dissertation
Faculty/School:
TUM School of Computation, Information and Technology
Advisor:
Ecker, Wolfgang (Prof. Dr.)
Referee:
Ecker, Wolfgang (Prof. Dr.); Sigl, Georg (Prof. Dr.)
Language:
en
Subject group:
ELT Elektrotechnik
TUM classification:
ELT 272; DAT 700
Abstract:
This thesis addresses the platform gap between embedded microcontroller and cloud computing for neural network inferences on the Edge with a combined HW-SW-AI solution. A RISC-V processor is used as a baseline for exploring custom hardware extensions. For this thesis a streaming engine is developed as a plugin, which accelerates the inference computation by deploying common properties of NN-models. Additionally, an optimized vector dot-product unit is developed to enable appropriate compute band...     »
Translated abstract:
Diese Arbeit adressiert die Plattformlücke zwischen eingebettetem Mikrocontroller und Cloud Computing für neuronale Netzwerkinferenzen auf dem Edge mit einer kombinierten HW-SW-AI-Lösung. Ein RISC-V-Prozessor wird als Basis für die Erforschung spezialisierter Hardware-Erweiterungen verwendet. Für diese Arbeit wurde eine Streaming-Einheit als Plugin entwickelt, die die Inferenzberechnung durch Ausnutzung häufiger Eigenschaften von NN-Modellen beschleunigt. Zusätzlich wird eine optimierte Vektor S...     »
WWW:
https://mediatum.ub.tum.de/?id=1705588
Date of submission:
03.05.2023
Oral examination:
12.01.2024
File size:
9298828 bytes
Pages:
203
Urn (citeable URL):
https://nbn-resolving.de/urn/resolver.pl?urn:nbn:de:bvb:91-diss-20240112-1705588-1-4
Last change:
23.02.2024
 BibTeX