Robustní strojové učení a adversariální vzorky
Robust machine learning and adversarial examples
Typ dokumentu
bakalářská prácebachelor thesis
Autor
Pavel Jakš
Vedoucí práce
Adam Lukáš
Oponent práce
Čermák Vojtěch
Studijní obor
Matematická informatikaStudijní program
Aplikace přírodních vědInstituce přidělující hodnost
katedra matematikyPráva
A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.htmlVysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html
Metadata
Zobrazit celý záznamAbstrakt
Algoritmy strojového učení vykazují přítomnost jevu, kde i malá perturbace vstupu algoritmu může způsobit velkou změnu predikce výstupu. Takto perturbovaným vstupům lze přisoudit název adversariální vzorky. Tento fenomén je demonstrován na příkladu klasifikace ručně psaných číslic pomocí konvolučních neuronových sítí. Předvedeny jsou metody jak pro generování těchto adversariálních vzorků, tak i pro obranu neuronové sítě proti těmto adversariálním útokům. Machine learning algorithms suffer from a phenomenon which occurs when small perturbation of an input of the algorithm causes a great change of the output prediction. Such perturbated inputs can be called adversarial examples. This phenomenon is demonstrated using the problem of classification of handwritten digits using convolutional neural networks. Methods to create such adversarial examples are shown as well as methods of defense of the neural network against such adversarial attacks.
Kolekce
- Bakalářské práce - 14101 [308]