Evolutionsstrategien zur Optimierung unter Nebenbedingungen
Evolution Strategies for Constrained Optimization
Wissenschaftsdisziplinen
Informatik (50%); Mathematik (50%)
Keywords
-
Evolutionary Computation,
Evolution Strategies,
Constrained Optimization,
Algorithms Analysis,
Black-Box Optimization
Evolutionsstrategien (ES), insbesondere die sogenannten Kovarianz-Matrix-Adaptations-ES (CMA-ES), sind nachweislich die zur Zeit am leistungsfähigsten universalen direkten Suchverfahren für nicht-restringierte reell-parametrische Blackbox-Optimierung, wie man sie im Bereich der Simulationsoptimierung und anderer Felder der Ingenieuroptimierung findet. Dieser Erfolg ist derzeit noch im Wesentlichen auf den Fall der nicht-restringierten Probleme (d.h, Probleme ohne Nebenbedingungen) beschränkt. Die Einbeziehung von Gleichungs- und Ungleichungsnebenbedingungen beim Design von ES ist - im Vergleich zu anderen Evolutionären Algorithmen - derzeit noch nicht so weit vorangeschritten, wie beispielsweise beim Differential-Evolutions-Verfahren. Es ist das Ziel dieses Projektes, die Entwicklung von ES für restringierte Optimierung, d.h. Optimierung unter Nebenbedingungen, auf theoretisch basierter Grundlage voranzutreiben. Dies wird durch eine enge Verzahnung im Forschungsprogramm, welches theoretisch motivierte Algorithmenentwicklung mit der Analyse und der Evaluation der Suchstrategien verbindet, erreicht werden. Basierend auf dem Erkenntnisgewinn dieses Projektes ist ein tieferes Verständnis der Funktionsprinzipien von direkten Suchstrategien in restringierten Suchräumen zu erwarten. Daraus werden sowohl besser performende ES, als auch allgemeine Design-Prinzipien für Evolutionäre Algorithmen resultieren.
Dieses Forschungsprojekt zielte auf die Analyse und den Entwurf von Algorithmen für Optimierungsprobleme in reellwertigen Suchräumen, wie sie in vielen Anwendungen in der Technik, den Naturwissenschaften und der Wirtschaft vorkommen. Während es verschiedenste Lösungsansätze zur Optimierung derartiger Probleme gibt, haben sich Evolutionsstrategien (ES) als gut geeignete Alternative insbesondere bei schwierigen nichtlinearen Problemen erwiesen. Die ES-Algorithmen wurden der Natur abgeschaut. Sie ahmen den Prozeß der Darwinschen Evolution nach, indem sie initiale Ausgangslösungen schrittweise - wie in der Natur - durch Anwendung von kleinen Mutationen, der Rekombination von Lösungen und Selektion bessere und bessere Lösungen generieren. Jedoch war bis jetzt die Einbeziehung von Restriktionen, also Einschränkungen bei der Wahl der Lösungsmöglichkeiten, wie sie oft in der Praxis vorkommen, eher die Ausnahme und die Realisierung derartiger Algorithmen erfolgte auf nicht-systematischem Weg. Dieses Projekt hat die Situation for Evolutionsstrategien signifikant geändert. Basierend auf einer tiefgehenden theoretisch begründeten Analyse wurden Evolutionsstrategien entwickelt, die in der Lage sind, sowohl Gleichungs- als auch Ungleichungsnebenbedingungen während des Evolutionsprozesses zu erfüllen. Anders als die meisten anderen Evolutionären Algorithmen sind die im Projekt entwickelten Algorithmen in der Lage als innere-Punkt-Methoden zu funktionieren. Das heißt, die Lösungen, die während des evolutionären Verbesserungsprozesses generiert werden, sind immer gültige Lösungen, d.h., sie verletzen nicht die Gleichungs- und Ungleichungsbedingungen. Ein derartiges Verhalten ist besonders wünschenswert bei simulationsbasierten Optimierungsproblemen, bei denen das Verlassen des zulässigen Bereichs (die Verletzung der Nebenbedingungen) zu einem Versagen der Simulationssoftware führen kann. Dies ist auch ein Problem im Bereich der Finanzmathematik, wo Bilanz(gleichung)en exakt erfüllt werden müssen. Neben der Entwicklung der ES Algorithmen, die algorithmisch einfacher, von ihrer Performance gleichwertig und oft besser als der Stand der Wissenschaft sind, wurde auch die Theorie dieser probabilistischen Algorithmen vorangebracht. Dies ist wichtig, da das Verständnis der Funktionsweise dieser Algorithmen, die schwierig zu analysieren sind, eine Voraussetzung für die weitere Verbesserung dieser Algorithmen ist.
- FH Vorarlberg - 100%
- Silja Meyer-Nieberg, Universität der Bundeswehr München - Deutschland
- Marc Schoenauer, Université Paris Sud - Frankreich
- Dirk Arnold, Dalhousie University - Kanada
Research Output
- 341 Zitationen
- 26 Publikationen
-
2021
Titel A matrix adaptation evolution strategy for optimization on general quadratic manifolds DOI 10.1145/3449639.3459282 Typ Conference Proceeding Abstract Autor Spettel P Seiten 537-545 Link Publikation -
2022
Titel On the Design of a Matrix Adaptation Evolution Strategy for Optimization on General Quadratic Manifolds DOI 10.1145/3551394 Typ Journal Article Autor Spettel P Journal ACM Transactions on Evolutionary Learning Seiten 1-32 -
2023
Titel What You Always Wanted to Know About Evolution Strategies, But Never Dared to Ask DOI 10.1145/3583133.3595041 Typ Conference Proceeding Abstract Autor Beyer H Seiten 878-894 -
2019
Titel Analysis of the (µ/µI,?)-CSA-ES with Repair by Projection Applied to a Conically Constrained Problem DOI 10.1162/evco_a_00261 Typ Journal Article Autor Spettel P Journal Evolutionary Computation Seiten 463-488 Link Publikation -
2019
Titel Analysis of a meta-ES on a conically constrained problem DOI 10.1145/3321707.3321824 Typ Conference Proceeding Abstract Autor Hellwig M Seiten 673-681 -
2019
Titel Comparison of contemporary evolutionary algorithms on the rotated Klee-Minty problem DOI 10.1145/3319619.3326805 Typ Conference Proceeding Abstract Autor Hellwig M Seiten 1879-1887 Link Publikation -
2018
Titel A Covariance Matrix Self-Adaptation Evolution Strategy for Optimization Under Linear Constraints DOI 10.1109/tevc.2018.2871944 Typ Journal Article Autor Spettel P Journal IEEE Transactions on Evolutionary Computation Seiten 514-524 Link Publikation -
2020
Titel On the steady state analysis of covariance matrix self-adaptation evolution strategies on the noisy ellipsoid model DOI 10.1016/j.tcs.2018.05.016 Typ Journal Article Autor Hellwig M Journal Theoretical Computer Science Seiten 98-122 Link Publikation -
2020
Titel Matrix adaptation evolution strategies for optimization under nonlinear equality constraints DOI 10.1016/j.swevo.2020.100653 Typ Journal Article Autor Spettel P Journal Swarm and Evolutionary Computation Seiten 100653 -
2020
Titel A Modified Matrix Adaptation Evolution Strategy with Restarts for Constrained Real-World Problems DOI 10.1109/cec48606.2020.9185566 Typ Conference Proceeding Abstract Autor Hellwig M Seiten 1-8 -
2020
Titel Evolution strategies for constrained optimization Typ Other Autor Spettel P Link Publikation -
2019
Titel A multi-recombinative active matrix adaptation evolution strategy for constrained optimization DOI 10.1007/s00500-018-03736-z Typ Journal Article Autor Spettel P Journal Soft Computing Seiten 6847-6869 -
2019
Titel Analysis of the (1,?)-s-Self-Adaptation Evolution Strategy with repair by projection applied to a conically constrained problem DOI 10.1016/j.tcs.2018.10.036 Typ Journal Article Autor Spettel P Journal Theoretical Computer Science Seiten 30-45 Link Publikation -
2019
Titel Benchmarking evolutionary algorithms for single objective real-valued constrained optimization – A critical review DOI 10.1016/j.swevo.2018.10.002 Typ Journal Article Autor Hellwig M Journal Swarm and Evolutionary Computation Seiten 927-944 Link Publikation -
2016
Titel Mutation strength control via meta evolution strategies on the ellipsoid model DOI 10.1016/j.tcs.2015.12.011 Typ Journal Article Autor Hellwig M Journal Theoretical Computer Science Seiten 160-179 Link Publikation -
2018
Titel A Covariance Matrix Self-Adaptation Evolution Strategy for Optimization under Linear Constraints DOI 10.48550/arxiv.1806.05845 Typ Preprint Autor Spettel P -
2018
Titel A Linear Constrained Optimization Benchmark For Probabilistic Search Algorithms: The Rotated Klee-Minty Problem DOI 10.48550/arxiv.1807.10068 Typ Preprint Autor Hellwig M -
2018
Titel Benchmarking Evolutionary Algorithms For Single Objective Real-valued Constrained Optimization - A Critical Review DOI 10.48550/arxiv.1806.04563 Typ Preprint Autor Hellwig M -
2017
Titel Analysis of the pcCMSA-ES on the noisy ellipsoid model DOI 10.1145/3071178.3079195 Typ Conference Proceeding Abstract Autor Beyer H Seiten 689-696 -
2018
Titel Large Scale Black-Box Optimization by Limited-Memory Matrix Adaptation DOI 10.1109/tevc.2018.2855049 Typ Journal Article Autor Loshchilov I Journal IEEE Transactions on Evolutionary Computation Seiten 353-358 -
2018
Titel Optimization of Ascent Assembly Design Based on a Combinatorial Problem Representation DOI 10.1007/978-3-319-89890-2_19 Typ Book Chapter Autor Hellwig M Verlag Springer Nature Seiten 291-306 -
2018
Titel A Linear Constrained Optimization Benchmark for Probabilistic Search Algorithms: The Rotated Klee-Minty Problem DOI 10.1007/978-3-030-04070-3_11 Typ Book Chapter Autor Hellwig M Verlag Springer Nature Seiten 139-151 -
2018
Titel A Matrix Adaptation Evolution Strategy for Constrained Real-Parameter Optimization DOI 10.1109/cec.2018.8477950 Typ Conference Proceeding Abstract Autor Hellwig M Seiten 1-8 -
2018
Titel A Simple Approach for Constrained Optimization - An Evolution Strategy that Evolves Rays DOI 10.1109/cec.2018.8477753 Typ Conference Proceeding Abstract Autor Spettel P Seiten 1-8 -
2019
Titel Analysis of the $(\mu/\mu_{I},\lambda)-\sigma$ -Self-Adaptation Evolution Strategy With Repair by Projection Applied to a Conically Constrained Problem DOI 10.1109/tevc.2019.2930316 Typ Journal Article Autor Spettel P Journal IEEE Transactions on Evolutionary Computation Seiten 593-602 -
2019
Titel Steady state analysis of a multi-recombinative meta-ES on a conically constrained problem with comparison to sSA and CSA DOI 10.1145/3299904.3340306 Typ Conference Proceeding Abstract Autor Spettel P Seiten 43-57