Rychlé učení v Bayesovském optimalizačním algoritmu

Abstract

Evoluční algoritmy, které modelují řešený problém pomocí diskrétního pravděpodobnostního rozdělení, jsou mocné optimalizační algoritmy navržené pro řešení těžkých problémů obsahujících závislosti mezi proměnnými. Takové problémy nejde spolehlivě řešit běžnými genetickými algoritmy. Bohužel tyto pravděpodobnostní modely jsou výpočetně náročné a tyto algoritmy tak bývají pomalejší. T. Duque navrhl úpravu pro Extended compact genetic algorithm (ECGA), která je schopná 1000x zrychlit běh algoritmu na 4096bitové Trap4 funkci. V první části této práce jsme tuto úpravu úspěšně ověřili. V druhé části jsme tuto úpravu aplikovali na Bayesian optimization algorithn (BOA). Nicméně tato úprava BOA algoritmu nepřinesla očekávané výsledky. Je potřeba provést další testy, abychom mohli říct, zda a jak lze BOA zrychlit.

Estimation of distribution algorithms are powerful optimization algorithms designed to solve hard problems with linkage that regular genetic algorithms cannot reliably solve. However, this design, which employs probability models to describe the dependencies between variables, is what makes them rather slow. T. Duque et al. proposed a speedup method for the Extended compact genetic algorithm (ECGA), and stated that the method achieved a 1000x speedup on a 4096-bit Trap4 problem. In the first part of this thesis, we have successfully replicated the results of the proposed speedup method. In the second part, we have implemented the proposed method for the Bayesian optimization algorithm (BOA). This modification, however, did not result in the expected speedup. Further tests are required to determine whether and how the BOA can be sped up.