Publication Details

Verfahren und Vorrichtung zum Ermitteln von Netzkonfigurationen eines neuronalen Netzes unter Erfüllung einer Mehrzahl von Nebenbedingungen

authored by
Frank Hutter, Guilherme Miotto, Marius Lindauer, Thomas Elsken
Abstract

Die Erfindung betrifft ein Verfahren zum Ermitteln einer Pareto Menge von Netzkonfigurationen, mit folgenden Schritten: Bereitstellen (S1) einer Mehrzahl von zufällig ausgewählten Netzkonfigurationen (α). Dann folgt ein Ermitteln von Hyperparameter (λ) für jeder der bereitgestellten Netzkonfigurationen (α) mittels eines Optimierers und ein Trainieren von neuronalen Netzen konfiguriert abhängig von bereitgestellten Netzkonfigurationen (α) und abhängig von den jeweils zugehörigen ermittelten Hyperparameter (λ) auf den bereitgestellten Trainingsdaten sowie ein Ermitteln für jedes der trainierten neuronalen Netze eine Performance (accurancy). Anschließend wird ein Anpassen des Optimierers abhängig von Netzkonfigurationen (α), Hyperparameter (λ) und Performance ausgeführt. Es folgt ein wiederholtes Ausführen von einem Auswählen (S3) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz sowie eines zufälligen Mutieren (S4) der ausgewählten Netzkonfigurationen und Ausführen der Schritte zum Evaluieren der mutierten Netzkonfigurationen. Anschließend wird ein wiederholtes Ausführen folgender Schritte ausgeführt. Auswählen (S5) von Netzkonfigurationen aus dem weiteren Trainingsdatensatz und Komprimieren (engl. Pruning) (S6) der ausgewählten Netzkonfigurationen sowie ein Evaluieren der komprimierten Netzkonfigurationen.

Organisation(s)
Machine Learning Section
Type
Patent
Publication date
20.10.2022
Publication status
Published