Die konkreten Termine entnehmen Sie bitte dem jeweiligen ILIAS-Kurs.

Voraussetzungen

Erforderlich sind grundlegende Programmierkenntnisse. Vorausgesetzt werden daneben Kenntnisse in den Grundlagen der Informationstechnik, Signal- und Systemtheorie sowie Wahrscheinlichkeitstheorie.

Inhalt

Die Themengebiete Maschinelles Lernen und Künstliche Intelligenz spielen eine immer dominantere Rolle in unserer Gesellschaft. Dies ist auf die steigende Rechenleistung und die Verfügbarkeit neuer Technologien (moderne GPUs, Multi-Cores, FPGAs, etc.) in Kombination mit effizienten parallelisierten Frameworks und Algorithmen zum Training von Neuronalen Netzen und Generativen KIs zurückzuführen.

Da Datenmengen in allen Lebensbereichen erfasst und verarbeitet werden, erstrecken sich die Einsatz- und Forschungsgebiete im Bereich des maschinellen Lernens weitreichend. Beispielsweise ersetzen Convolutional Neural Networks (CNN) bereits klassische Objekterkennungs-Verfahren in der Bildverarbeitung für autonomes Fahren. In der Medizintechnik wird an Künstlichen Neuronalen Netzen gearbeitet, die bösartige Hautveränderungen anhand von Bildern bereits zuverlässiger als Ärzte erkennen können. Durch Modelle wie das Generative Pre-trained Transformer (GPT) sind KI-Anwendungen wie ChatGPT, Bard und Llama in den Alltag vieler Menschen, auch Studierender, eingezogen. Maschinelles Lernen wird damit als Bestandteil der Informationstechnik immer bedeutender für angehende Elektrotechnikingenieure.

Um diesen zukünftigen Herausforderungen als Ingenieur gerecht zu werden, ist es essentiell, während des Studiums die erforderlichen Kompetenzen aufzubauen sowie ein grundlegendes Verständnis der Methoden und Tools im Bereich des maschinellen Lernens zu erlangen.

In der Veranstaltung wird der praktische Umgang mit gängigen Algorithmen und Methoden des Maschinellen Lernens in einem projektbasierten und „Hands-On“-Ansatz vermittelt. Dabei werdet ihr in Gruppenarbeit und mit leistungsstarken Workstations, Algorithmen und Strukturen wie Perzeptron, Decision Trees oder Evolutionäre Algorithmen eigenständig implementieren. Gleichzeitig werdet ihr auch den Umgang mit Methoden und Tools erlernen, die in Wirtschaft und Wissenschaft weit verbreitet sind (Keras, Tensorflow, Pytorch, Cuda,…), um Probleme aus der echten Welt zu lösen (Mietpreise, medizinische Daten,…).

Im "Into-the-Wild"-Teil habt ihr die aufregende Möglichkeit, aus angewandten Problemen aus der Forschung oder euren eigenen Ideen auszuwählen! Die Bandbreite ist groß und reicht von Detektionen in der Teilchenphysik bis zur Vorhersage von Fußballspielen – schon alles war dabei!

Organisatorisches

Für alle Termine sowie die Vorbesprechung gilt Anwesenheitspflicht.

• Sie bearbeiten die Aufgaben in Zweier- bzw Dreierteams.
• Die Bewertung setzt sich aus den abgegebenen Aufgabenblätter, dem „Into the wild“-Teil und einem Kolloquium zusammen.
• Genauere Details zur Bewertung werden in der Einführungsveranstaltung erklärt.
• Es werden sechs ETCS Punkte vergeben.

Inhalt

• Vorbesprechung und Gruppeneinteilung
• Verarbeitung und Analyse von Datensätzen
• Bewertung von ML-Systemen
• Grundlagen Überwachtes Lernen
• Unüberwachtes Lernen
• Neuronale Netze
• Evolutionäre Algorithmen  
• Convolutional Neural Networks
• Recurrent Neural Networks
• Into the Wild…

Ablauf der Labortermine 1-8

• Während der einzelnen Labortermine werden vorgegebene Aufgabenstellungen bearbeitet. Diese beinhalten zum einen Programmieraufgaben sowie solche, die in Textform beantwortet werden sollen.
• Die Aufgabenblätter werden in Form von Jupyter Notebooks ausgegeben. Mit dieser interaktiven Entwicklungsumgebung können Sie Programmcodes direkt im Aufgabenblatt testen, Lösungen darstellen und die Dokumentation beziehungsweise Antworten ergänzen.
• Nach jedem Labortermin wird das bearbeitete Aufgabenblatt (das entsprechende Jupyter Notebook) abgegeben.
• Die Abgabe jeweils einer Ausfertigung des Notebooks pro Gruppe ist ausreichend.
• Die erfolgreiche Bearbeitung und Abgabe der Aufgabenblätter ist Voraussetzung für die Teilnahme am mündlichen Kolloquium am Ende des Semesters. Bei Nichtabgabe werden die entsprechenden Teilnehmer nicht zum Kolloquium zugelassen!

Into the Wild…

• Zu Beginn des zweiten Teils werden verschiedene Datensätze vorgestellt, die für die Bearbeitung zur Auswahl stehen.
• Jede Gruppe entscheidet sich für einen der vorgestellten Datensätze, selbstverständlich können auch mehrere Gruppen den gleichen Datensatz nutzen. Die Problemstellung wird von der Gruppe selbst definiert. Auch eigene Problemstellungen zu eigenen Datensätzen sind möglich.
• Auf Basis des zuvor Gelernten wird ein Konzept zur Lösung der Problemstellung entwickelt. Dieses wird implementiert und getestet.
• Neben der Arbeit auf den Daten ist es auch möglich einen bestehenden Ansatz für einen Datensatz hinsichtlich der Laufzeit oder Latenz zu optimieren. Hierzu kann unter anderem versucht werden dies mittels passender Hardware zu erreichen.
• Zum Abschluss wird von jeder Gruppe eine Präsentation vorbereitet, die das entwickelte Konzept vorstellt und die Ergebnisse darstellt. Hierbei sollen durch eine kritische Reflektion der zuvor getroffenen Entscheidungen auch mögliche nächste Schritte aufgezeigt werden.

Anmeldeverfahren

Dieses Jahr werden voraussichtlich 30 Plätze für das Labor angeboten.
Die Anmeldung zum Labor erfolgt über das WiWi-Portal unter folgendem Link: https://portal.wiwi.kit.edu/ys/7360

Materialien

Die notwenigen Materialien für das LAMA werden über ILIAS zur Verfügung gestellt. Nach der erfolgreichen Anmeldung beim LAMA erhalten Sie Zugriff auf die Aufgaben, Datensätze und zusätzliches Infomaterial.
Das Material wird in englischer Sprache bereitgestellt, kann aber auf Deutsch bearbeitet werden.

Tutoren gesucht

Für ehemalige Teilnehmer oder andere Studierende im Master, die sich mit den Thematiken beschäftigen möchte, gibt es Möglichkeiten im Rahmen der Lehrveranstaltung Tutor zu sein. Bei Interesse bitte mit entsprechendem Betreff eine Mail an die Kontaktadresse: lama∂itiv.kit.edu.