Využití algoritmů verifikace a generování adversariálních vstupů v herně-teoretických algoritmech
Combining verification methods and adversarial sample generation with game-theoretic frameworks
Typ dokumentu
diplomová prácemaster thesis
Autor
Ondřej Skoumal
Vedoucí práce
Bošanský Branislav
Oponent práce
Kuželka Ondřej
Studijní obor
Umělá inteligenceStudijní program
Otevřená informatikaInstituce přidělující hodnost
katedra počítačůPráva
A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.htmlVysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html
Metadata
Zobrazit celý záznamAbstrakt
Diplomová práce se zabývá možným použitím doménově-specifických znalostí z oblasti neuronových sítí v double-oracle frameworku, který se zabývá najitím Nashova equilibria adversariálního klasifikačního problému. Procházíme různé druhy metod adversariálních útoků a metod na verifikaci neuronových sítí, a analyzujeme jejich možnou kompatibilitu s frameworkem double-oracle. vytvořili jsme framework zajišťující kompatibilitu s celými "rodinami" metod a tři z nich experimentálně analyzujeme. Ukazalo se že PGD útok společně s frameworkem zajišťujícím kompatibilitu dokáže rapidně zrychlit DO algoritmus, i přesto že se našel další zdroj zpomalení algoritmu. This thesis examines the possible use of the domain-specific knowledge of NNs to speed up the double-oracle framework, which solves the Nash equlibria of the adversarial classification game. We examine various adversarial attack methods and methods for verification of NNs and analyze their possible compatibility with the DO framework. We create a compatibility framework for entire families of methods and examine three of them in the experiments. It shows that PGD attack with compatibility framework can rapidly accelerate the DO algorithm, although new bottleneck shows up.
Kolekce
- Diplomové práce - 13136 [833]