Moderní metody robustního strojového učení

Pavel Jakš

Modern methods of robust machine learning

Typ dokumentu

diplomová práce
master thesis

Autor

Pavel Jakš

Vedoucí práce

Adam Lukáš

Oponent práce

Kroupa Tomáš

Studijní program

Matematická informatika

Instituce přidělující hodnost

katedra matematiky

Práva

A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.html
Vysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html

Metadata

Zobrazit celý záznam

Abstrakt

V oblasti strojového učení se vyskytl problém existence tak zvaných adversariálních vzorků. Jedná se o jev, kdy i malá změna vstupu nějakého modelu strojového učení způsobí velikou změnu výstupu, což je ve většině případech nežádoucí. V této práci se potom věnujeme problematice metrik vizuální podobnosti, a to právě v kontextu existence a tvorby adversariálnich vzorků v oblasti klasifikace obrázků. Naším cílem je osvětlit, jakým způsobem taková metrika vizuální podobnosti ovlivní proces tvorby adversariálních vzorků a jejich podobu.

There exists a problem in the field of machine learning called adversarial examples. This is a phenomenon where even a small change of the input to a machine learning model causes a big difference in the model output, which is unwanted in most cases. In this work we study the questions concerning visual similarity metrics and that in the context of existence and crafting of adversarial examples in the problem of image classification. Our goal is to enlighten the way how such a visual similarity metric affects the crafting process of adversarial examples and their final look.