Vytváření robustních klasifikátorů vůči manipulovaným datům

Všetečka Petr

Creating classifiers robust to adversarial attacks

Type of document

MAGISTERSKÁ PRÁCE
MASTER'S THESIS

Author

Všetečka Petr

Supervisor

Lisý Viliam

Opponent

Kohout Jan

Field of study

Umělá inteligence

Study program

Otevřená informatika

Institutions assigning rank

katedra počítačů

Rights

A university thesis is a work protected by the Copyright Act. Extracts, copies and transcripts of the thesis are allowed for personal use only and at one?s own expense. The use of thesis should be in compliance with the Copyright Act http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf and the citation ethics http://knihovny.cvut.cz/vychova/vskp.html.
Vysokoškolská závěrečná práce je dílo chráněné autorským zákonem. Je možné pořizovat z něj na své náklady a pro svoji osobní potřebu výpisy, opisy a rozmnoženiny. Jeho využití musí být v souladu s autorským zákonem http://www.mkcr.cz/assets/autorske-pravo/01-3982006.pdf a citační etikou http://knihovny.cvut.cz/vychova/vskp.html.

Metadata

Show full item record

Abstract

Tato práce se zabývá bližším studiem fenoménu klasifikace manipulovaných dat. Prochází historii těchto útoků, třídí je do skupin a podrobněji rozepisuje fungování vybraných algoritmů. Spolu s útoky popisuje i způsoby obrany, jak teoretické, tak i praktické. Dále předkládá čtenáři detailní popis implementace systému pro vytváření robustních klasifikátorů za použití volně dostupných zdrojů včetně vlastní nové metody, od výběru datasetu až po měření výkonu. Na závěr porovnává obě metody pro zrobustňování klasifikátorů, čistě z veřejných zdrojů a vlastní.

The aim of this thesis is to study closely the phenomenon of adversarial samples. It goes through the history of the adversarial attacks, presents a categorization of these attacks and examines several attack algorithms in closer detail. It also presents defense strategies both in theory and in practice. Next, a practical implementation of existing method for creating robust classifiers as well as a novel method using publicly available resources is described in detail, from choosing a dataset to measuring the performance of the system. Lastly, both methods are compared side to side.