Studien- und Abschlussarbeiten @ AutoML

Die Integration von Künstlicher Intelligenz (KI) verändert grundlegend, wie Aufgaben gelöst werden, und bietet das Potenzial, Arbeitsweisen zu revolutionieren. Dies gilt insbesondere für den Einsatz von Software-Werkzeugen in den Entwicklungsprozessen der Automobilindustrie. Um die Bedienung zu vereinfachen und die Effizienz zu steigern, sollten auch diese Tools mit intelligenten KI-Features weiterentwickelt werden.

Ein konkretes Beispiel ist IAV Zio Insight, ein Tool zur Analyse von Messdaten, das dem Anwender ermöglicht, die Art der Analyse und Ergebnis-Visualisierung individuell zu konfigurieren. Diese Konfigurationen werden im Hintergrund als XML-Dateien gespeichert.

Ziel der Masterarbeit:

Die Masterarbeit zielt darauf ab, innovative Ansätze zu entwickeln, die es Anwendern ermöglichen, mit Unterstützung von KI neue Konfigurationen zu erstellen. Dabei sollen verschiedene Ansätze hinsichtlich ihrer Machbarkeit bewertet werden:

1. Interaktive Chat-Unterstützung: Entwicklung eines Systems, das den Anwender durch gezielte Interaktionen und Nachfragen bei der Erstellung von Konfigurationen unterstützt.
2. Automatisierte Vorschläge: Generierung von Vorschlägen für neue Analyse-Konfigurationen basierend auf bestehenden Analysen oder externen Grafiken.

Im Idealfall führt die Arbeit zur Implementierung eines dieser Ansätze in die Produktiv-Version von IAV Zio Insight, unterstützt durch die Software-Entwickler bei IAV, und ermöglicht den direkten Einsatz und positiven Impact in unseren Projekten.

Kontakt: Leona Hennig

Diffusion Modelle werden typischer weise verwendet um (ggf. mit Text Kondition) Bilder zu generieren. 
In dieser Thesis soll ein Diffusion Transformer (DiT) so angepasst werden, dass man basierend auf realen Lernkurven von Benchmark Problemen lernt Lernkurven basierend auf hyperparametern queries gemeinsam zu generieren. Im grunde soll dieses Modell uns neue Multi-fidelity Optimierungsprobleme generieren und implizit sowohl die Cross-Correlation von mehreren Lernkurven basierend auf deren hyperparametern lernen, als auch die stochastischen Eigenschafften von Lernkurven, die aus deren Zeitreihen Eigenschaften stammen. 

Je nach Fortschritt der Arbeit, kann man auch über gezielte Generalisierung nachdenken, wie z.b. die iterative Abfrage von zusätzlichen hyperparameter konfigurationen, was in etwa neuen bild patches entsprechen sollte.

Diese Arbeit hat mehrere Derivative Anwendungen, insbesondere aber die künstliche Generierung von Multi-Fidelity Optimierungs Benchmarkproblemen basierend auf Eigenschaften realer kurven.

Kontakt: Tim Ruhkopf

Erweiterung, Anwendung und Verfeinerung unseres AutoDL-Tools Auto-PyTorch für neue Bereiche wie Ausreißererkennung, Wartungsvorhersage oder Zeitreihenvorhersage. Wir empfehlen einen starken Hintergrund in Machinellem Lernen (insbesondere Deep Learning) und der von ihnen gewählten Anwendung für diese Arbeit. Bei Bewerbung zeigen Sie bitte die Richtung auf in der Sie arbeiten möchten und stellen einen groben Plan auf, wie Sie AutoPytorch in ihrem Zielbereich implementieren würden.

Kontakt: Difan Deng

Modellierung, Implementierung und Evaluierung von DAC für einen beliebigen Zielalgorithmus. Wir empfehlen einen starken Hintergrund in RL, Grundkenntnisse in DAC sowie in der Zieldomäne Ihrer Wahl, um in diesem Thema erfolgreich zu sein. Mögliche Zielgebiete sind Maschinelles Lernen oder Reinforcement Learning, MIPS oder SAT-Löser und Evolutionäre Algorithmen.

Kontakt: Theresa Eimer

Die Ausweitung des Reinforcement Learning auf komplexe Umgebungen erfordert die Anpassung unserer Methoden an große State- und Action spaces und komplizierte Dynamics. Behavioral similarity beinhaltet die Ausnutzung von Bedingungen, die zu identischen Handlungsverteilungen in ähnlichen Zuständen führen. In dieser Arbeit wird untersucht:

• Sind Policy Similarity methoden robust gegenüber verschiedenen Arten von Veränderungen?

• Können wir diese Methoden mit zusätzlichen kontextuellen Informationen erweitern?

Bachelorarbeiten würden sich auf das erste Ziel konzentrieren, während Masterarbeiten beides in Angriff nehmen und sich auf die Entwicklung einer neuen Methode konzentrieren würden.

Kontakt: Aditya Mohan

Eine Möglichkeit, die Unterschiede zwischen RL-Algorithmen zu verstehen, besteht in der Analyse der Returns, die durch die von diesen Algorithmen trainierte Strategie erzielt werden. Durch das Verständnis der Verteilungen dieser Returns können wir möglicherweise Aspekte der verschiedenen Arten von RL-Algorithmen verstehen. Diese Arbeit konzentriert sich auf die Verwendung der Landscape Analysis zum Verständnis und zur Charakterisierung von RL-Algorithmen. Das endgültige Ziel wird sein, diese Charakterisierung für Meta-RL zu nutzen.

Kontakt: Aditya Mohan

Wir können Augmentierungsfunktionen durch Meta-Lernen generieren, etwas für das policy objective in PPO. Es ist allerdings offen ob das allgemein für Algorithmenkomponenten in Reinforcement Learning gilt, ob wir auch Augmentierungsensembles lernen könnten und wie gut diese Funktionen generalisieren. Ziel dieser Arbeit ist existierende Techniken auf neue Algorithmen und Komponenten zu erweitern.

Kontakt: Theresa Eimer

In Zusammenarbeit mit dem Zoo Hannover sollen Objekterkennungs- und -verfolgungsalgorithmen zur Überwachung des Aufzuchtverhaltens von Thomson-Gazellen verbessert werden. Wir integrieren automatisiertes maschinelles Lernen (AutoML) und Computer Vision,, wobei der Schwerpunkt auf der Hyperparameteroptimierung (HPO) liegt. Das Hauptziel dieses Projekts besteht darin, die Analyse des Tierverhaltens mithilfe von Kameradaten zu verbessern. Nach Identifizierung führender Verfolgungsalgorithmen beinhaltet diese Masterarbeit das Benennen relevanter Hyperparameter, die spezifisch für die entsprechenden Verfolgungsalgorithmen sind. Das AutoML-Tool SMAC soll strategisch zur Optimierung der Leistung der Verfolgungsalgorithmen genutzt werden, mit dem Ziel, die Genauigkeit und Effizienz bei der Analyse des Tierverhaltens zu steigern.

Kontakt: Leona Hennig

Der Aufstieg von Sprachmodellen (LLMs) in den letzten Jahren hat die Wahrnehmung von Machine-Learning-Algorithmen grundlegend verändert. Obwohl ihre universelle Anwendbarkeit auf dem Pretraining mit vielfältigen Ressourcen basiert, werden sie nach wie vor hauptsächlich für Aufgaben wie die Text- und Codegenerierung genutzt.Allerdings wurden sie auch erfolgreich zum lösen von Optimierungsproblemen eingesetzt. Diese Masterarbeit zielt darauf ab, Methoden zu entwickeln, um das Potenzial von LLMs für AutoML systematisch nutzbar zu machen.

Kontakt: Lukas Fehring und Marcel Wever