Metody min-max optimalizace v adversariálním učení

Abstract

Tato diplomová práce se soustředí na zvýšení odolnosti klasifikačních neuronových sítí proti datům, která byla záměrně upravena (především gradientními metodami) za účelem obelstění klasifikátoru. Toho se snaží docílit úpravami procesu učení neuronových sítí modifikacemi, které vychází z přístupu dvouhráčové teorie her. Skrze experimenty, kromě úspěšnosti metody robustního učení, zhodnotí také její složitost na implementaci a zvýšení výpočetní náročnosti.

This thesis focuses on enhancing the resilience of neural network classifiers against adversarially modified data (mainly by gradient-based methods), so that they are misclassified. It tries to achieve this by employing a two-player game-theoretical approach, modifying the training process of neural networks. Through experimentation, the study evaluates the effectiveness of this approach in improving classifier resistance to adversarial samples. Additionally, it explores the difficulty of its implementation as well as an increase in the computational complexity.