Využití algoritmů verifikace a generování adversariálních vstupů v herně-teoretických algoritmech

Abstract

Diplomová práce se zabývá možným použitím doménově-specifických znalostí z oblasti neuronových sítí v double-oracle frameworku, který se zabývá najitím Nashova equilibria adversariálního klasifikačního problému. Procházíme různé druhy metod adversariálních útoků a metod na verifikaci neuronových sítí, a analyzujeme jejich možnou kompatibilitu s frameworkem double-oracle. vytvořili jsme framework zajišťující kompatibilitu s celými "rodinami" metod a tři z nich experimentálně analyzujeme. Ukazalo se že PGD útok společně s frameworkem zajišťujícím kompatibilitu dokáže rapidně zrychlit DO algoritmus, i přesto že se našel další zdroj zpomalení algoritmu.

This thesis examines the possible use of the domain-specific knowledge of NNs to speed up the double-oracle framework, which solves the Nash equlibria of the adversarial classification game. We examine various adversarial attack methods and methods for verification of NNs and analyze their possible compatibility with the DO framework. We create a compatibility framework for entire families of methods and examine three of them in the experiments. It shows that PGD attack with compatibility framework can rapidly accelerate the DO algorithm, although new bottleneck shows up.