Vytváření robustních klasifikátorů vůči manipulovaným datům

Abstract

Tato práce se zabývá bližším studiem fenoménu klasifikace manipulovaných dat. Prochází historii těchto útoků, třídí je do skupin a podrobněji rozepisuje fungování vybraných algoritmů. Spolu s útoky popisuje i způsoby obrany, jak teoretické, tak i praktické. Dále předkládá čtenáři detailní popis implementace systému pro vytváření robustních klasifikátorů za použití volně dostupných zdrojů včetně vlastní nové metody, od výběru datasetu až po měření výkonu. Na závěr porovnává obě metody pro zrobustňování klasifikátorů, čistě z veřejných zdrojů a vlastní.

The aim of this thesis is to study closely the phenomenon of adversarial samples. It goes through the history of the adversarial attacks, presents a categorization of these attacks and examines several attack algorithms in closer detail. It also presents defense strategies both in theory and in practice. Next, a practical implementation of existing method for creating robust classifiers as well as a novel method using publicly available resources is described in detail, from choosing a dataset to measuring the performance of the system. Lastly, both methods are compared side to side.