Labor für angewandte Machine Learning Algorithmen (LAMA)

Voraussetzungen

Erforderlich sind grundlegende Programmierkenntnisse. Vorausgesetzt werden daneben Kenntnisse in den Grundlagen der Informationstechnik, Signal- und Systemtheorie sowie Wahrscheinlichkeitstheorie.

Inhalt

Die Themengebiete Maschinelles Lernen und Künstliche Intelligenz erleben momentan eine Renaissance. Gründe dafür sind zum einen die steigende Rechenleistung und zum anderen die Verfügbarkeit von neuen Technologien (moderne GPUs, Multi-Cores, FPGAs etc.) in Kombination mit effizienten parallelisierten Frameworks und Algorithmen zum Training von Neuronalen Netzen.
Sensoren liefern in allen Lebensbereichen erfasste Datenmengen zur Verarbeitung. Somit sind die Einsatz- und Forschungsgebiete im Bereich des maschinellen Lernens weit gestreut. In der Bildverarbeitung für autonomes Fahren lösen Convolutional Neural Networks (CNN) bereits klassische Objekterkennungs-Verfahren ab. Aktuell werden Künstliche Neuronale Netze (KNN) zur Verbrauchsprognose für Strom- und Gas erfolgreich eingesetzt. In der Medizintechnik wird an Künstlichen Neuronalen Netzen gearbeitet, die anhand von Bildern bösartige Hautveränderungen bereits zuverlässiger als Ärzte erkennen können. Maschinelles Lernen als Bestandteil der Informationstechnik gewinnt damit für die Arbeit als Elektrotechnikingenieur immer mehr an Bedeutung.
Um diesen zukünftigen Herausforderungen als Ingenieur gerecht zu werden, ist es empfehlenswert, die erforderlichen Kompetenzen während des Studiums aufzubauen und sich ein grundlegendes Verständnis der Methoden und Tools anzueignen.
In der Veranstaltung wird der praktische Umgang mit gängigen Algorithmen und Methoden des Maschinellen Lernens projektbasiert und „Hands-On“ vermittelt. Hierbei sollen Studenten einerseits Algorithmen und Strukturen wie ein Perzeptron, Decision Trees oder einen Evolutionären Algorithmus selbstständig implementieren und gleichzeitig auch die heute in Wirtschaft und Wissenschaft gängigen Methoden und Tools erlernen.

Organisatorisches

Für alle Termine sowie die Vorbesprechung gilt Anwesenheitspflicht.

• Sie bearbeiten die Aufgaben in Zweier- bzw Dreierteams.
• Die Bewertung setzt sich aus den abgegebenen Aufgabenblätter, dem „Into the wild“-Teil und einem Kolloquium zusammen.
• Genauere Details zur Bewertung werden in der Einführungsveranstaltung erklärt.
• Es werden sechs ETCS Punkte vergeben.

Inhalt

• Vorbesprechung und Gruppeneinteilung
• Verarbeitung und Analyse von Datensätzen
• Bewertung von ML-Systemen
• Grundlagen Überwachtes Lernen
• Unüberwachtes Lernen
• Neuronale Netze
• Evolutionäre Algorithmen  
• Convolutional Neural Networks
• Recurrent Neural Networks
• Into the Wild…

Ablauf der Labortermine 1-8

• Während der einzelnen Labortermine werden vorgegebene Aufgabenstellungen bearbeitet. Diese beinhalten zum einen Programmieraufgaben sowie solche, die in Textform beantwortet werden sollen.
• Die Aufgabenblätter werden in Form von Jupyter Notebooks ausgegeben. Mit dieser interaktiven Entwicklungsumgebung können Sie Programmcodes direkt im Aufgabenblatt testen, Lösungen darstellen und die Dokumentation beziehungsweise Antworten ergänzen.
• Nach jedem Labortermin wird das bearbeitete Aufgabenblatt (das entsprechende Jupyter Notebook) abgegeben.
• Die Abgabe jeweils einer Ausfertigung des Notebooks pro Gruppe ist ausreichend.
• Die erfolgreiche Bearbeitung und Abgabe der Aufgabenblätter ist Voraussetzung für die Teilnahme am mündlichen Kolloquium am Ende des Semesters. Bei Nichtabgabe werden die entsprechenden Teilnehmer nicht zum Kolloquium zugelassen!

Into the Wild…

• Zu Beginn des zweiten Teils werden verschiedene Datensätze vorgestellt, die für die Bearbeitung zur Auswahl stehen.
• Jede Gruppe entscheidet sich für einen der vorgestellten Datensätze, selbstverständlich können auch mehrere Gruppen den gleichen Datensatz nutzen. Die Problemstellung wird von der Gruppe selbst definiert. Auch eigene Problemstellungen zu eigenen Datensätzen sind möglich.
• Auf Basis des zuvor Gelernten wird ein Konzept zur Lösung der Problemstellung entwickelt. Dieses wird implementiert und getestet.
• Neben der Arbeit auf den Daten ist es auch möglich einen bestehenden Ansatz für einen Datensatz hinsichtlich der Laufzeit oder Latenz zu optimieren. Hierzu kann unter anderem versucht werden dies mittels passender Hardware zu erreichen.
• Zum Abschluss wird von jeder Gruppe eine Präsentation vorbereitet, die das entwickelte Konzept vorstellt und die Ergebnisse darstellt. Hierbei sollen durch eine kritische Reflektion der zuvor getroffenen Entscheidungen auch mögliche nächste Schritte aufgezeigt werden.

Anmeldeverfahren

Dieses Jahr werden voraussichtlich 30 Plätze für das Labor angeboten.
Die Anmeldung zum Labor erfolgt über das WiWi-Portal unter folgendem Link: https://portal.wiwi.kit.edu/ys/6281

Materialien

Die notwenigen Materialien für das LAMA werden über ILIAS zur Verfügung gestellt. Nach der erfolgreichen Anmeldung beim LAMA erhalten Sie Zugriff auf die Aufgaben, Datensätze und zusätzliches Infomaterial.
Das Material wird in englischer Sprache bereitgestellt, kann aber auf Deutsch bearbeitet werden.

Corona-Informationen

Aktuell ist geplant die Veranstaltung als Präsenzveranstaltung im Poolraum 216 des ITIVs durchzuführen. Falls es die Infektionslage nicht zulässt, wird auf ein Online System (Zoom oder MS-Teams) umgestellt, sowie ein Remotezugang zu den Poolraumrechnern eingerichtet.

Tutoren gesucht

Für ehemalige Teilnehmer oder andere Studierende im Master, die sich mit den Thematiken beschäftigen möchte, gibt es Möglichkeiten im Rahmen der Lehrveranstaltung Tutor zu sein. Bei Interesse bitte mit entsprechendem Betreff eine Mail an die Kontaktadresse: lama∂itiv.kit.edu.