Tim Hotfilter
- Wissenschaftlicher Mitarbeiter
- Gruppe: Prof. Becker
- Raum: R127
CS 30.10 - Tel.: +49 721 608-45288
- hotfilter ∂does-not-exist.kit edu
Engesserstr. 5
76131 Karlsruhe
Entwurfsraumexploration für effizientes KI-Beschleuniger / Algorithmen Co-Design
KI Algorithmen drängen immer stärker in den Vordergrund der aktuellen Forschung aber auch in der Industrie. Schon heute werden den Algorithmen durch die Hardwarebeschränkungen wie Energieverbrauch oder Speicherbandbreite Grenzen gesetzt. Deswegen wird es zunehmend wichtiger dedizierte neue KI-Beschleuniger und Berücksichtigung der Algorithmen zu entwickeln. Insbesondere wird bei uns am ITIV an einer Architekturexploration gearbeitet, welche zum Ziel hat einen optimalen Trade-Off zwischen verschiedenen Optimierungsstrategien, der Algorithmengenauigkeit und der Performance zu erhalten.
Energieoptimierung von KI Beschleuniger Architekturen
Für viele KI-Anwendungen spielt der Energieverbrauch eine sehr große Rolle. Dies gilt nicht nur für batteriebetriebene Mobilgeräte, sondern zunehmend auch für Datencenter. Heute sorgt insbesondere das Training der Algorithmen für einen großen Stromverbrauch. Am ITIV werden deshalb neuartige Beschleunigerarchitekturen erforscht, die speziell auf einen niedrigen Energieverbrauch optimiert sind. Dazu kommen verschiedene Strategien wie Approximate Computing, Quantisierung oder Pruning zum Einsatz
Erleichtertes Mapping von KI-Algorithmen dedizierte Beschleuniger
Spezialisierte Beschleuniger für neuronale Netze und KI ermöglichen es erst diese Algorithmen auf eingebetteten Systemen effizient auszuführen. Aus diesem Grund wurden in der letzten Zeit sehr viele solcher Beschleuniger vorgestellt. Dennoch zeichnet sich der wichtige Zusammenhang zwischen den Algorithmen und den Beschleunigern immer deutlicher ab. Für eine schnelle Ausrollung der Algorithmen auf die passenden Beschleuniger, sowie für das Co-Design dieser, sind einfach-einzusetzende Entwicklungswerkzeuge unabdingbar. Das ITIV arbeitet hier an neuen Mapping Strategien, um den Einsatz von KI-Beschleunigern zu vereinfachen.
| Titel | Typ |
|---|---|
| Optimierung eines Hardwarebeschleunigers für neuronale Netze mit Hilfe eines Learning Agents | Bachelor-/ Masterarbeit |
| Entwicklung einer Toolchain zur automatischen Generierung einer optimierten eFPGA Architektur für neuronale Netze | Bachelor-/ Masterarbeit |
Betreute abgeschlossene studentische Arbeiten (Auswahl)
- MA: "Evaluation of Concepts for Hardware Accelerated Neural Network Training;"
- BA: "Implementierung und Evaluation von Mixed Precision Systolischen Arrays im Bereich von Convolutional Neural Networks; Implementation and Evaluation of Mixed Precision Systolic Arrays for Convolutional Neural Networks"
- BA: "Concept and Evaluation of a High Throughput Neural Network Accelerator Hardware Architecture"
- MA: "Machine Learning for Material Analysis"
Publikationen
Kreß, F.; Hoefer, J.; Hotfilter, T.; Walter, I.; Sidorenko, V.; Harbaum, T.; Becker, J.
2022. 18th International Conference on Distributed Computing in Sensor Systems (DCOSS), 133–140, IEEEXplore. doi:10.1109/DCOSS54816.2022.00034
Kreß, F.; Serdyuk, A.; Hotfilter, T.; Höfer, J.; Harbaum, T.; Becker, J.; Hamann, T.
2022. 2022 11th Mediterranean Conference on Embedded Computing (MECO). Ed.: IEEE, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/MECO55406.2022.9797131
Hotfilter, T.; Kreß, F.; Kempf, F.; Becker, J.; Haro, J. M. De; Jiménez-González, D.; Moretó, M.; Álvarez, C.; Labarta, J.; Baili, I.
2022. 2022 Design, Automation & Test in Europe Conference & Exhibition (DATE), Antwerp, Belgium, 14-23 March 2022, 628–631, Institute of Electrical and Electronics Engineers (IEEE). doi:10.23919/DATE54114.2022.9774716
Walter, I.; Ney, J.; Hotfilter, T.; Rybalkin, V.; Hoefer, J.; Wehn, N.; Becker, J.
2022. Machine Learning and Principles and Practice of Knowledge Discovery in Databases – International Workshops of ECML PKDD 2021, Virtual Event, September 13-17, 2021, Proceedings, Part I. Ed.: M. Kamp, 339–350, Springer International Publishing. doi:10.1007/978-3-030-93736-2_26
Hotfilter, T.; Hoefer, J.; Kreß, F.; Kempf, F.; Becker, J.
2021. IEEE 34th International System-on-Chip Conference (SOCC), 14th-17th September 2021, Las Vegas, Nevada, USA, 83–88, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/SOCC52499.2021.9739212
Stock, S. C.; Becker, J.; Grimm, D.; Hotfilter, T.; Molinar, G.; Stang, M.; Stork, W.
2020. Proceedings of Artificial Intelligence for Science, Industry and Society — PoS(AISIS2019), 026, Scuola Internazionale Superiore di Studi Avanzati (SISSA). doi:10.22323/1.372.0026
Hotfilter, T.; Kempf, F.; Becker, J.; Reinhardt, D.; Baili, I.
2020. 6th IEEE World Forum on Internet of Things, WF-IoT 2020, New Orleans, United States, 2 - 16 June 2020, Art.Nr. 9221396, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/WF-IoT48130.2020.9221396
Yigui, L.; Youteng, S.; Schade, F.; Hotfilter, T.; Becker, J.; Yuan, Z.; Zizhou, O.; Weiming, L.
2019. Proceedings of the Institution of Mechanical Engineers / D, 233 (9), 2371–2378. doi:10.1177/0954407019851334
Becker, J.; Grimm, D.; Hotfilter, T.; Meier, C.; Molinar, G.; Stang, M.; Stock, S.; Stork, W.
2019, Oktober 22. Symposium Artificial Intelligence for Science, Industry and Society (AISIS 2019), Mexiko-Stadt, Mexiko, 20. Oktober–25. Dezember 2019