Studien- und Abschlussarbeiten

Diffusion Modelle werden typischer weise verwendet um (ggf. mit Text Kondition) Bilder zu generieren. 
In dieser Thesis soll ein Diffusion Transformer (DiT) so angepasst werden, dass man basierend auf realen Lernkurven von Benchmark Problemen lernt Lernkurven basierend auf hyperparametern queries gemeinsam zu generieren. Im grunde soll dieses Modell uns neue Multi-fidelity Optimierungsprobleme generieren und implizit sowohl die Cross-Correlation von mehreren Lernkurven basierend auf deren hyperparametern lernen, als auch die stochastischen Eigenschafften von Lernkurven, die aus deren Zeitreihen Eigenschaften stammen. 

Je nach Fortschritt der Arbeit, kann man auch über gezielte Generalisierung nachdenken, wie z.b. die iterative Abfrage von zusätzlichen hyperparameter konfigurationen, was in etwa neuen bild patches entsprechen sollte.

Diese Arbeit hat mehrere Derivative Anwendungen, insbesondere aber die künstliche Generierung von Multi-Fidelity Optimierungs Benchmarkproblemen basierend auf Eigenschaften realer kurven.

Kontakt: Tim Ruhkopf

Erweiterung, Anwendung und Verfeinerung unseres AutoDL-Tools Auto-PyTorch für neue Bereiche wie Ausreißererkennung, Wartungsvorhersage oder Zeitreihenvorhersage. Wir empfehlen einen starken Hintergrund in Machinellem Lernen (insbesondere Deep Learning) und der von ihnen gewählten Anwendung für diese Arbeit. Bei Bewerbung zeigen Sie bitte die Richtung auf in der Sie arbeiten möchten und stellen einen groben Plan auf, wie Sie AutoPytorch in ihrem Zielbereich implementieren würden.

Kontakt: Difan Deng

Modellierung, Implementierung und Evaluierung von DAC für einen beliebigen Zielalgorithmus. Wir empfehlen einen starken Hintergrund in RL, Grundkenntnisse in DAC sowie in der Zieldomäne Ihrer Wahl, um in diesem Thema erfolgreich zu sein. Mögliche Zielgebiete sind Maschinelles Lernen oder Reinforcement Learning, MIPS oder SAT-Löser und Evolutionäre Algorithmen.

Kontakt: Theresa Eimer

Die Ausweitung des Reinforcement Learning auf komplexe Umgebungen erfordert die Anpassung unserer Methoden an große State- und Action spaces und komplizierte Dynamics. Behavioral similarity beinhaltet die Ausnutzung von Bedingungen, die zu identischen Handlungsverteilungen in ähnlichen Zuständen führen. In dieser Arbeit wird untersucht:

• Sind Policy Similarity methoden robust gegenüber verschiedenen Arten von Veränderungen?

• Können wir diese Methoden mit zusätzlichen kontextuellen Informationen erweitern?

Bachelorarbeiten würden sich auf das erste Ziel konzentrieren, während Masterarbeiten beides in Angriff nehmen und sich auf die Entwicklung einer neuen Methode konzentrieren würden.

Kontakt: Aditya Mohan

Eine Möglichkeit, die Unterschiede zwischen RL-Algorithmen zu verstehen, besteht in der Analyse der Returns, die durch die von diesen Algorithmen trainierte Strategie erzielt werden. Durch das Verständnis der Verteilungen dieser Returns können wir möglicherweise Aspekte der verschiedenen Arten von RL-Algorithmen verstehen. Diese Arbeit konzentriert sich auf die Verwendung der Landscape Analysis zum Verständnis und zur Charakterisierung von RL-Algorithmen. Das endgültige Ziel wird sein, diese Charakterisierung für Meta-RL zu nutzen.

Kontakt: Aditya Mohan

Wir können Augmentierungsfunktionen durch Meta-Lernen generieren, etwas für das policy objective in PPO. Es ist allerdings offen ob das allgemein für Algorithmenkomponenten in Reinforcement Learning gilt, ob wir auch Augmentierungsensembles lernen könnten und wie gut diese Funktionen generalisieren. Ziel dieser Arbeit ist existierende Techniken auf neue Algorithmen und Komponenten zu erweitern.

Kontakt: Theresa Eimer

In Zusammenarbeit mit dem Zoo Hannover sollen Objekterkennungs- und -verfolgungsalgorithmen zur Überwachung des Aufzuchtverhaltens von Thomson-Gazellen verbessert werden. Wir integrieren automatisiertes maschinelles Lernen (AutoML) und Computer Vision,, wobei der Schwerpunkt auf der Hyperparameteroptimierung (HPO) liegt. Das Hauptziel dieses Projekts besteht darin, die Analyse des Tierverhaltens mithilfe von Kameradaten zu verbessern. Nach Identifizierung führender Verfolgungsalgorithmen beinhaltet diese Masterarbeit das Benennen relevanter Hyperparameter, die spezifisch für die entsprechenden Verfolgungsalgorithmen sind. Das AutoML-Tool SMAC soll strategisch zur Optimierung der Leistung der Verfolgungsalgorithmen genutzt werden, mit dem Ziel, die Genauigkeit und Effizienz bei der Analyse des Tierverhaltens zu steigern.

Kontakt: Leona Hennig

Ziel ist es, die Wichtigkeit der Hyperparameter (HPI) über verschiedenene Datensätze hinweg zu clustern. Der einfachste Ansatz hierfür ist die Durchführung von Hyperparameteroptimierung (HPO) auf verschiedenen Datensätzen, die anschließende Extraktion der HPI pro Datensatz und letzendlich dem Clustering der HPIs. Dies ist jedoch sehr kostspielig. Da einige Datensätze dieselben Eigenschaften aufweisen, können diese Informationen zum Trainieren eines Surrogatmodells in Kombination mit HPO verwendet werden. Der Input für das Surrogatmodell wären die HPO-Konfigurationen und die Eigenschaften des Datensatzes, auf dem sie trainiert wurden, und der Output wäre der HPI pro Datensatz. Danach kann mitilfe des Surrogatmodells die HPI geclustert werden.

Kontakt: Daphne Theodorakopoulos