Zrychlení exaktního algoritmu pomocí metod strojového učení

Abstract

Tato diplomová práce se zabývá aplikací strojového učení v kombinatorické optimalizaci. Naším cílem je vzít stávající rozvrhovací algoritmus pro 1|rj|∑Uj a vylepšit jej pomocí strojového učení, o což se dosud nikdo nepokusil. Nejprve formálně definujeme problém a provedeme přehled nejnovější literatury v oblasti rozvrhování a strojového učení. Poté podrobně popíšeme rozvrhovací algoritmus, který bychom chtěli vylepšit. V následující kapitole o strojovém učení navrhujeme model založený na architektuře LSTM, který předpovídá, které úlohy ve vstupní instanci budou mít zpoždění, což je informace, kterou může plánovací algoritmus využít. Při vyhodnocování nejprve provedeme optimalizaci hyperparametrů, jejímž výsledkem je model, který správně klasifikuje téměř 95 % úloh v instancích o velikosti do 100 úloh a dobře zobecňuje i na instance o velikosti 200. Stále správně označuje více než 93 % úloh. Výsledky integrace tohoto modelu do kombinatorického algoritmu jsou však nevýrazné, což nás vedlo k vývoji heuristického algoritmu založeného na našem natrénovaném modelu. Tento heuristický algoritmus poskytuje dobré výsledky; dosahuje průměrné mezery optimality 1,8 % u instancí o velikosti 100 a 7 % u instancí o velikosti 200, přičemž průměrná doba běhu u největších instancí je 4,2 sekundy.

This thesis aims to study the application of machine learning in combinatorial optimization. Our goal is to take an existing scheduling algorithm for the 1 | rj | ∑ Uj and improve it using machine learning, which has not yet been attempted. Firstly, we formally define the problem and review the state-of-the-art literature in the scheduling and machine learning fields. Afterwards, we describe the scheduling algorithm we would like to improve in detail. In the subsequent machine learning chapter, we propose a model based on the LSTM architecture, which predicts which jobs in an input instance will be tardy, a piece of information that the scheduling algorithm can use. During the evaluation, we first perform hyperparameter optimization, which produces a model which correctly classifies nearly 95% of jobs in instances of size up to 100 and generalizes well to instances of size 200. It still correctly labels more than 93% of jobs. The results of the integration of this model into the combinatorial algorithm are unimpressive, which led us to develop a heuristic algorithm based on our trained model. This heuristic provides good results; it achieves an average optimality gap of 1.8% on instances of size 100 and 7% on instances of size 200, with an average runtime of 4.2 seconds for the largest instances.