Tim Hotfilter

  • Engesserstr. 5

    76131 Karlsruhe

Forschung

Entwurfsraumexploration für effizientes KI-Beschleuniger / Algorithmen Co-Design

KI Algorithmen drängen immer stärker in den Vordergrund der aktuellen Forschung aber auch in der Industrie. Schon heute werden den Algorithmen durch die Hardwarebeschränkungen wie Energieverbrauch oder Speicherbandbreite Grenzen gesetzt. Deswegen wird es zunehmend wichtiger dedizierte neue KI-Beschleuniger und Berücksichtigung der Algorithmen zu entwickeln. Insbesondere wird bei uns am ITIV an einer Architekturexploration gearbeitet, welche zum Ziel hat einen optimalen Trade-Off zwischen verschiedenen Optimierungsstrategien, der Algorithmengenauigkeit und der Performance zu erhalten.

Energieoptimierung von KI Beschleuniger Architekturen

Für viele KI-Anwendungen spielt der Energieverbrauch eine sehr große Rolle. Dies gilt nicht nur für batteriebetriebene Mobilgeräte, sondern zunehmend auch für Datencenter. Heute sorgt insbesondere das Training der Algorithmen für einen großen Stromverbrauch. Am ITIV werden deshalb neuartige Beschleunigerarchitekturen erforscht, die speziell auf einen niedrigen Energieverbrauch optimiert sind. Dazu kommen verschiedene Strategien wie Approximate Computing, Quantisierung oder Pruning zum Einsatz

Erleichtertes Mapping von KI-Algorithmen dedizierte Beschleuniger

Spezialisierte Beschleuniger für neuronale Netze und KI ermöglichen es erst diese Algorithmen auf eingebetteten Systemen effizient auszuführen. Aus diesem Grund wurden in der letzten Zeit sehr viele solcher Beschleuniger vorgestellt. Dennoch zeichnet sich der wichtige Zusammenhang zwischen den Algorithmen und den Beschleunigern immer deutlicher ab. Für eine schnelle Ausrollung der Algorithmen auf die passenden Beschleuniger, sowie für das Co-Design dieser, sind einfach-einzusetzende Entwicklungswerkzeuge unabdingbar. Das ITIV arbeitet hier an neuen Mapping Strategien, um den Einsatz von KI-Beschleunigern zu vereinfachen.

Betreute abgeschlossene studentische Arbeiten (Auswahl)

  • MA: "Evaluation of Concepts for Hardware Accelerated Neural Network Training;"
  • BA: "Implementierung und Evaluation von Mixed Precision Systolischen Arrays im Bereich von Convolutional Neural Networks; Implementation and Evaluation of Mixed Precision Systolic Arrays for Convolutional Neural Networks"
  • BA: "Concept and Evaluation of a High Throughput Neural Network Accelerator Hardware Architecture"
  • MA: "Machine Learning for Material Analysis"

Publikationen


2022
Proceedingsbeiträge
Hardware-aware Workload Distribution for AI-based Online Handwriting Recognition in a Sensor Pen
Kreß, F.; Serdyuk, A.; Hotfilter, T.; Höfer, J.; Harbaum, T.; Becker, J.; Hamann, T.
2022. 2022 11th Mediterranean Conference on Embedded Computing (MECO). Ed.: IEEE, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/MECO55406.2022.9797131
Towards Reconfigurable Accelerators in HPC: Designing a Multipurpose eFPGA Tile for Heterogeneous SoCs
Hotfilter, T.; Kreß, F.; Kempf, F.; Becker, J.; Haro, J. M. De; Jiménez-González, D.; Moretó, M.; Álvarez, C.; Labarta, J.; Baili, I.
2022. 2022 Design, Automation & Test in Europe Conference & Exhibition (DATE), Antwerp, Belgium, 14-23 March 2022, 628–631, Institute of Electrical and Electronics Engineers (IEEE). doi:10.23919/DATE54114.2022.9774716
Embedded Face Recognition for Personalized Services in the Assistive Robotics
Walter, I.; Ney, J.; Hotfilter, T.; Rybalkin, V.; Hoefer, J.; Wehn, N.; Becker, J.
2022. Machine Learning and Principles and Practice of Knowledge Discovery in Databases – International Workshops of ECML PKDD 2021, Virtual Event, September 13-17, 2021, Proceedings, Part I. Ed.: M. Kamp, 339–350, Springer International Publishing. doi:10.1007/978-3-030-93736-2_26
2021
Proceedingsbeiträge
FLECSim-SoC: A Flexible End-to-End Co-Design Simulation Framework for System on Chips
Hotfilter, T.; Hoefer, J.; Kreß, F.; Kempf, F.; Becker, J.
2021. IEEE 34th International System-on-Chip Conference (SOCC), 14th-17th September 2021, Las Vegas, Nevada, USA, 83–88, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/SOCC52499.2021.9739212
2020
Proceedingsbeiträge
QUA³CK - A Machine Learning Development Process
Stock, S. C.; Becker, J.; Grimm, D.; Hotfilter, T.; Molinar, G.; Stang, M.; Stork, W.
2020. Proceedings of Artificial Intelligence for Science, Industry and Society — PoS(AISIS2019), 026, Scuola Internazionale Superiore di Studi Avanzati (SISSA). doi:10.22323/1.372.0026
Embedded Image Processing the European Way: A new platform for the future automotive market
Hotfilter, T.; Kempf, F.; Becker, J.; Reinhardt, D.; Baili, I.
2020. 6th IEEE World Forum on Internet of Things, WF-IoT 2020, New Orleans, United States, 2 - 16 June 2020, Art.Nr. 9221396, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/WF-IoT48130.2020.9221396
2019
Zeitschriftenaufsätze
Evaluation of a high-throughput communication link for future automotive ADAS controllers
Yigui, L.; Youteng, S.; Schade, F.; Hotfilter, T.; Becker, J.; Yuan, Z.; Zizhou, O.; Weiming, L.
2019. Proceedings of the Institution of Mechanical Engineers / D, 233 (9), 2371–2378. doi:10.1177/0954407019851334
Vorträge
The QUA³CK Machine Learning Development Process and the Laboratory for Applied Machine Learning Approaches (LAMA)
Becker, J.; Grimm, D.; Hotfilter, T.; Meier, C.; Molinar, G.; Stang, M.; Stock, S.; Stork, W.
2019, Oktober 22. Symposium Artificial Intelligence for Science, Industry and Society (AISIS 2019), Mexiko-Stadt, Mexiko, 20. Oktober–25. Dezember 2019