Ladění parametrů algoritmů pro numerickou optimalizaci

Abstract

Vzhledem k narůstajícímu trendu ve vytváření a objevování nových optimalizačních pro-blémů, o kterých často nemáme dokonalou či úplnou znalost, přišli výzkumníci s mnoha optimalizačními algoritmy, které mohou čelit široké škále těchto problémů. Protože No Free Lunch Theorem říká, že neexistuje algoritmus, který by předčil všechny ostatní pro všechny problémy, bývají algoritmy parametrizované tak, aby se nějakým způsobem přizpůsobily různým scénářům a měly rozumnou výkonnost pro větší škálu problémů. Na hledání ideál-ního nastavení algoritmu můžeme nahlížet jako na další optimalizační problém kterému se říká metaoptimalizace. Tato práce porovnává několik metaoptimalizačních technik na veřejně dostupném výkon-nostním testu a zkoumá možnosti jediného nastavení algoritmů, které by zobecňovalo každý z laděných optimalizačních nástrojů tak, aby měl dobrou výkonnost na celých třídách pro-blémů, spíše než na instancích pouze jednoho problému. Jsou zde prezentovány výsledky optimalizace několika variant laděných optimalizátorů. Vykazují rozpětí od žádného k vý-znamnému zvýšení výkonnosti.

As there is an increasing trend in generation of new optimization problems about which often imperfect or incomplete information is known, researchers came up with many optimizing algorithms that can tackle large variety of specific problem scenarios. Because No Free Lunch Theorem states there is no algorithm that could outperform all other algorithms on all problems, the optimizing algorithms are parametrized to somewhat adapt to different scenarios and perform reasonably well on wider range of problems. Search for ideal algorithm setting can be viewed as another optimization problem called meta-optimization. This thesis compares several meta-optimization techniques on public benchmark and examines the possibilities of single algorithm setting that would generalize each of the tuned optimizers to perform well on whole class of problems, rather than solving instances of just one problem. Optimization results of several variants of tuned optimizers are presented. They exhibit a range from none to substantial performance increase.