Moderní metody robustního strojového učení

Abstract

V oblasti strojového učení se vyskytl problém existence tak zvaných adversariálních vzorků. Jedná se o jev, kdy i malá změna vstupu nějakého modelu strojového učení způsobí velikou změnu výstupu, což je ve většině případech nežádoucí. V této práci se potom věnujeme problematice metrik vizuální podobnosti, a to právě v kontextu existence a tvorby adversariálnich vzorků v oblasti klasifikace obrázků. Naším cílem je osvětlit, jakým způsobem taková metrika vizuální podobnosti ovlivní proces tvorby adversariálních vzorků a jejich podobu.

There exists a problem in the field of machine learning called adversarial examples. This is a phenomenon where even a small change of the input to a machine learning model causes a big difference in the model output, which is unwanted in most cases. In this work we study the questions concerning visual similarity metrics and that in the context of existence and crafting of adversarial examples in the problem of image classification. Our goal is to enlighten the way how such a visual similarity metric affects the crafting process of adversarial examples and their final look.