We present a collection of novel, state-of-the-art algorithms for solving problems in the class of continuous black-box optimization. Natural Evolution Strategies are a family of algorithms that constitutes a general-purpose approach. Maintaining a parameterized distribution on the set of solution candidates, the natural gradient is used to update the distribution's parameters in the direction of higher expected fitness. A collection of techniques have been introduced that addresses issues of convergence, robustness, computational complexity and algorithm speed. We also demonstrated how the principle of artificial curiosity can guide exploration in the context of costly optimization, introducing a response surface method that estimates the interestingness of each candidate point using Gaussian process regression. The results show best published performance on various standard benchmarks, as well as competitive performance on others.     «

We present a collection of novel, state-of-the-art algorithms for solving problems in the class of continuous black-box optimization. Natural Evolution Strategies are a family of algorithms that constitutes a general-purpose approach. Maintaining a parameterized distribution on the set of solution candidates, the natural gradient is used to update the distribution's parameters in the direction of higher expected fitness. A collection of techniques have been introduced that addresses issues of co...     »

Mit den neuartigen "Natürlichen Evolutionsstrategien" lassen sich beliebige Black-Box-Funktionen optimieren, durch Anpassung einer parametrischen Wahrscheinlichkeitsverteilung über dem Suchraum hin zu den besten zu erwartenden Messwerten. Dabei hilft der "natürliche Gradient", Parameter wie Erwartungswert und Kovarianzmatrix anhand bisheriger Messungen schrittweise zu aktualisieren. Zahlreiche neu vorgestellte Techniken machen die Methode schneller, sparsamer und zuverlässiger. Ferner dient das Konzept der „künstlichen Neugierde“ durch Gauß-Prozess-Modellierung zur Auffindung der vielversprechendsten Lösungskandiaten. Experimentelle Resultate einer breitgefächerten Versuchsreihe übertreffen oft die besten publizierten Resultate alternativer Methoden.     «

Mit den neuartigen "Natürlichen Evolutionsstrategien" lassen sich beliebige Black-Box-Funktionen optimieren, durch Anpassung einer parametrischen Wahrscheinlichkeitsverteilung über dem Suchraum hin zu den besten zu erwartenden Messwerten. Dabei hilft der "natürliche Gradient", Parameter wie Erwartungswert und Kovarianzmatrix anhand bisheriger Messungen schrittweise zu aktualisieren. Zahlreiche neu vorgestellte Techniken machen die Methode schneller, sparsamer und zuverlässiger. Ferner dient das...     »