Tim Hotfilter

  • Engesserstr. 5

    76131 Karlsruhe

Forschung

Entwurfsraumexploration für effizientes KI-Beschleuniger / Algorithmen Co-Design

KI Algorithmen drängen immer stärker in den Vordergrund der aktuellen Forschung aber auch in der Industrie. Schon heute werden den Algorithmen durch die Hardwarebeschränkungen wie Energieverbrauch oder Speicherbandbreite Grenzen gesetzt. Deswegen wird es zunehmend wichtiger dedizierte neue KI-Beschleuniger und Berücksichtigung der Algorithmen zu entwickeln. Insbesondere wird bei uns am ITIV an einer Architekturexploration gearbeitet, welche zum Ziel hat einen optimalen Trade-Off zwischen verschiedenen Optimierungsstrategien, der Algorithmengenauigkeit und der Performance zu erhalten.

Energieoptimierung von KI Beschleuniger Architekturen

Für viele KI-Anwendungen spielt der Energieverbrauch eine sehr große Rolle. Dies gilt nicht nur für batteriebetriebene Mobilgeräte, sondern zunehmend auch für Datencenter. Heute sorgt insbesondere das Training der Algorithmen für einen großen Stromverbrauch. Am ITIV werden deshalb neuartige Beschleunigerarchitekturen erforscht, die speziell auf einen niedrigen Energieverbrauch optimiert sind. Dazu kommen verschiedene Strategien wie Approximate Computing, Quantisierung oder Pruning zum Einsatz

Erleichtertes Mapping von KI-Algorithmen dedizierte Beschleuniger

Spezialisierte Beschleuniger für neuronale Netze und KI ermöglichen es erst diese Algorithmen auf eingebetteten Systemen effizient auszuführen. Aus diesem Grund wurden in der letzten Zeit sehr viele solcher Beschleuniger vorgestellt. Dennoch zeichnet sich der wichtige Zusammenhang zwischen den Algorithmen und den Beschleunigern immer deutlicher ab. Für eine schnelle Ausrollung der Algorithmen auf die passenden Beschleuniger, sowie für das Co-Design dieser, sind einfach-einzusetzende Entwicklungswerkzeuge unabdingbar. Das ITIV arbeitet hier an neuen Mapping Strategien, um den Einsatz von KI-Beschleunigern zu vereinfachen.

Lehre

Betreute abgeschlossene studentische Arbeiten (Auswahl)

  • MA: "Evaluation of Concepts for Hardware Accelerated Neural Network Training;"
  • BA: "Implementierung und Evaluation von Mixed Precision Systolischen Arrays im Bereich von Convolutional Neural Networks; Implementation and Evaluation of Mixed Precision Systolic Arrays for Convolutional Neural Networks"
  • BA: "Concept and Evaluation of a High Throughput Neural Network Accelerator Hardware Architecture"
  • MA: "Machine Learning for Material Analysis"

Publikationen


2020
Proceedingsbeiträge
QUA³CK - A Machine Learning Development Process.
Stock, S. C.; Becker, J.; Grimm, D.; Hotfilter, T.; Molinar, G.; Stang, M.; Stork, W.
2020. Proceedings of Artificial Intelligence for Science, Industry and Society — PoS(AISIS2019), 026, Scuola Internazionale Superiore di Studi Avanzati (SISSA). doi:10.22323/1.372.0026
Embedded Image Processing the European Way: A new platform for the future automotive market.
Hotfilter, T.; Kempf, F.; Becker, J.; Reinhardt, D.; Baili, I.
2020. 6th IEEE World Forum on Internet of Things, WF-IoT 2020, New Orleans, United States, 2 - 16 June 2020, Art.Nr. 9221396, Institute of Electrical and Electronics Engineers (IEEE). doi:10.1109/WF-IoT48130.2020.9221396
2019
Zeitschriftenaufsätze
Evaluation of a high-throughput communication link for future automotive ADAS controllers.
Yigui, L.; Youteng, S.; Schade, F.; Hotfilter, T.; Becker, J.; Yuan, Z.; Zizhou, O.; Weiming, L.
2019. Proceedings of the Institution of Mechanical Engineers / D, 233 (9), 2371–2378. doi:10.1177/0954407019851334
Vorträge
The QUA³CK Machine Learning Development Process and the Laboratory for Applied Machine Learning Approaches (LAMA).
Becker, J.; Grimm, D.; Hotfilter, T.; Meier, C.; Molinar, G.; Stang, M.; Stock, S.; Stork, W.
2019, Oktober 22. Symposium Artificial Intelligence for Science, Industry and Society (AISIS 2019), Mexiko-Stadt, Mexiko, 20. Oktober–25. Dezember 2019